Zmiany dotyczą przede wszystkim rozmów na temat seksualności i samookaleczeń. ChatGPT nie będzie angażował się w żadne „zalotne rozmowy” z nieletnimi, a w przypadku prób poruszania tematów samobójczych wprowadzone zostaną dodatkowe procedury bezpieczeństwa.

Blokady ChatGPT dla nieletnich

Jeśli nastolatek spróbuje wykorzystać ChatGPT do wykreowania samobójczych scenariuszy, system podejmie próbę powiadomienia rodziców, a w skrajnych przypadkach – nawet lokalnej policji. Rodzice będą mogli także ustawić tzw. „godziny blokady”, w których dostęp do ChatGPT zostanie zablokowany. To zupełnie nowa funkcja, dotąd niedostępna.

Decyzja OpenAI oczywiście nie jest przypadkowa. Firma jest obecnie stroną w głośnym procesie sądowym dotyczącym śmierci Adama Raine’a, który popełnił samobójstwo po długotrwałych interakcjach z ChatGPT. Podobne oskarżenia ciążą na Character.AI – innym popularnym czatbocie.

Sprawa wywołała szeroką debatę społeczną na temat odpowiedzialności dostawców modeli AI za wpływ, jaki mogą wywierać na osoby w kryzysie. Konsumenckie chatboty są dziś zdolne do coraz bardziej realistycznych, długotrwałych interakcji, co – jak podkreślają eksperci – niesie ze sobą poważne ryzyko.

ChatGPT ma rozpoznać wiek użytkownika

Dodatkowym punktem dyskusji są wyniki śledztwa Reutersa, które wskazały, że polityka niektórych firm technologicznych mogła wręcz zachęcać do rozmów o charakterze seksualnym z nieletnimi.

Oddzielenie dorosłych użytkowników od nieletnich stanowi dla OpenAI duże wyzwanie techniczne. Firma pracuje nad systemem, który ma pozwolić na wiarygodne rozpoznawanie wieku użytkownika. W razie wątpliwości ChatGPT będzie stosował bardziej restrykcyjne reguły. Najpewniejszym rozwiązaniem dla rodziców pozostaje powiązanie konta dziecka z własnym profilem.

Altman przyznał, że wprowadzane regulacje mogą budzić kontrowersje. Z jednej strony OpenAI chce zapewnić dorosłym użytkownikom szeroką swobodę korzystania z technologii, z drugiej – ograniczyć ryzyko krzywdzenia osób nieletnich. „Zdajemy sobie sprawę, że zasady te są ze sobą sprzeczne i nie wszyscy zgodzą się z naszym sposobem rozwiązania tego konfliktu” – podsumował Altman.