Media i organizacje społeczne od dawna wskazują na przypadki, w których interakcje z ChatGPT miały mieć związek z samobójstwami nastolatków. Wizerunkowi platformy zaszkodziły również doniesienia o generowaniu treści erotycznych dostępnych dla użytkowników poniżej 18. roku życia.

ChatGPT sprawdzi, ile masz lat

Nowy mechanizm nie bazuje wyłącznie na danych podanych przy rejestracji. Algorytm analizuje szereg sygnałów związanych z kontem i zachowaniem użytkownika, takich jak czas istnienia profilu, typowe godziny aktywności, długoterminowe wzorce korzystania z usługi oraz informacje deklarowane w trakcie interakcji. Na tej podstawie system szacuje, czy dane konto z dużym prawdopodobieństwem należy do osoby niepełnoletniej.

Rozwiązanie to stanowi element przygotowań do wprowadzenia funkcji dostępnych wyłącznie dla dorosłych użytkowników. W sytuacjach, gdy algorytm nie jest w stanie jednoznacznie określić wieku, ChatGPT automatycznie przechodzi w tryb bardziej restrykcyjny, zapewniający wyższy poziom bezpieczeństwa.

Konta zaklasyfikowane jako należące do osób poniżej 18 lat zostaną objęte dodatkowymi ograniczeniami. Obejmą one między innymi blokadę treści zawierających drastyczną przemoc, niebezpieczne wyzwania internetowe, seksualne lub brutalne scenariusze role-play, opisy samookaleczeń, a także materiały promujące skrajne kanony urody i niezdrowe praktyki żywieniowe.

Weryfikacja wieku w ChatGPT – kiedy wdrożenie?

Osoby, które zostaną niesłusznie uznane za niepełnoletnie, mają otrzymać możliwość szybkiego przywrócenia pełnego dostępu. Weryfikacja wieku odbywa się poprzez przesłanie selfie do zewnętrznego operatora identyfikacyjnego Persona. Informacje o statusie zabezpieczeń będzie można sprawdzić bezpośrednio w ustawieniach konta, bez konieczności kontaktu z obsługą techniczną.

Na terenie Unii Europejskiej uruchomienie nowego mechanizmu zaplanowano na najbliższe tygodnie i ma ono uwzględniać obowiązujące lokalnie przepisy, w szczególności regulacje dotyczące ochrony danych osobowych oraz prywatności osób niepełnoletnich. Poza UE rozwiązanie jest wdrażane stopniowo — system sukcesywnie trafia do kolejnych użytkowników.

Jakiś czas temu podawaliśmy, że ChatGPT wkracza w nową fazę rozwoju – tym razem z reklamami. Firma od dawna mierzy się z problemem, jak w długim terminie finansować rozwój jednego z najpopularniejszych narzędzi AI na świecie. Odpowiedź wydaje się coraz bardziej oczywista: reklama targetowana pod konkretnego użytkownika.

Z kolei wcześniej pisaliśmy, że ChatGPT rzuca wyzwanie Tłumaczowi Google i wprowadza nowy translator. ChatGPT Translate działa jako niezależne narzędzie, dostępne na dedykowanej stronie internetowej i zaprojektowane wyłącznie z myślą o przekładach językowych.