To jedne z najbardziej stanowczych działań podjętych dotąd przez rządy państw wobec narzędzi AI generujących treści pornograficzne. Jak podkreślają urzędnicy, problemem nie są jedynie obrazy o charakterze erotycznym, lecz przede wszystkim naruszenie praw człowieka, godności oraz bezpieczeństwa obywateli w przestrzeni cyfrowej. Część wygenerowanych materiałów zawierała także elementy przemocy.

Chatbot Grok na cenzurowanym w kolejnych krajach

Indonezyjska minister komunikacji i cyfryzacji w oficjalnym oświadczeniu przekazanym mediom stwierdziła, że rząd uznaje wykorzystywanie seksualnych deepfake’ów bez zgody osób przedstawionych za poważne naruszenie praw podstawowych. Ministerstwo wezwało również przedstawicieli serwisu X na rozmowy wyjaśniające, zapowiadając możliwość dalszych działań regulacyjnych. Podobne stanowisko zajął rząd Malezji.

Presja na xAI rośnie także w innych częściach świata. Indyjskie ministerstwo technologii informacyjnych nakazało platformie X wdrożenie skutecznych mechanizmów zapobiegających generowaniu treści obscenicznych przez Groka. Z kolei Komisja Europejska zobowiązała firmę do zabezpieczenia i zachowania całej dokumentacji związanej z chatbotem, co może być wstępem do formalnego dochodzenia.

W Wielkiej Brytanii Ofcom zapowiedział przeprowadzenie pilnej oceny, która ma ustalić, czy działalność Groka narusza obowiązujące przepisy. Premier Keir Starmer publicznie zadeklarował pełne poparcie dla ewentualnych działań nadzorczych.

To nie pierwsza afera z udziałem Groka – kilka miesięcy temu chatbot Elona Muska zaskoczył brutalną szczerością w komentarzach na platformie X. Od pytania o Romana Giertycha do lawiny ostrych komentarzy o innych polskich politykach.

Co na to rząd USA?

Na tym tle wyróżnia się postawa Stanów Zjednoczonych, gdzie administracja Donalda Trumpa nie zabrała oficjalnie głosu w tej sprawie. Warto przypomnieć, że Elon Musk jest jednym z głównych darczyńców Trumpa, a w ubiegłym roku kierował kontrowersyjnym Departamentem Efektywności Rządowej. Mimo to senatorowie Partii Demokratycznej wezwali Apple i Google do usunięcia aplikacji X ze sklepów z aplikacjami.

Na oficjalnym koncie Groka opublikowano przeprosiny napisane w pierwszej osobie, w których przyznano, że jeden z postów naruszył standardy etyczne oraz mógł łamać amerykańskie prawo dotyczące materiałów przedstawiających seksualne wykorzystywanie dzieci. Firma ograniczyła następnie funkcję generowania obrazów sztucznej inteligencji wyłącznie do płatnych subskrybentów X, choć zmiana ta nie objęła samodzielnej aplikacji Grok, która nadal umożliwiała generowanie obrazów wszystkim użytkownikom.

Elon Musk, odpowiadając na pytania o brak podobnych działań wobec innych narzędzi generujących obrazy AI, oskarżył rządy o próbę cenzury, pisząc, że „szukają jakiegokolwiek pretekstu”.