– Na początku wprowadziliśmy bardzo restrykcyjne zasady, by uniknąć problemów związanych ze zdrowiem psychicznym użytkowników. Zdajemy sobie jednak sprawę, że przez to ChatGPT stał się mniej przyjazny i mniej przydatny dla wielu osób. W grudniu, wraz z pełnym wdrożeniem systemu weryfikacji wieku, pozwolimy na więcej – w tym także na treści dla dorosłych – napisał Altman na platformie X.

ChatGPT i erotyka? Może być konieczne przesłanie zdjęcia dowodu…

Decyzja oznacza wyraźny zwrot w polityce OpenAI, która jeszcze niedawno skupiała się na ograniczaniu emocjonalnych więzi użytkowników z chatbotem. Firma była krytykowana po doniesieniach o przypadkach, w których ChatGPT rzekomo wpływał negatywnie na stan psychiczny niektórych użytkowników – w tym nastolatków.

W odpowiedzi OpenAI wprowadziło szereg zabezpieczeń, w tym filtry wykrywające zachowania autodestrukcyjne i tzw. router bezpieczeństwa, który ma wychwytywać potencjalnie niebezpieczne wzorce rozmów. Firma powołała także radę ekspertów ds. zdrowia psychicznego, która ma doradzać w kwestiach dobrostanu użytkowników.

Decyzja o dopuszczeniu treści erotycznych budzi jednak pytania o bezpieczeństwo osób nieletnich. Altman zapowiada, że nowa funkcja będzie dostępna wyłącznie dla dorosłych, a weryfikacja wieku ma opierać się na systemie rozwijanym przez OpenAI. W przypadku błędnej klasyfikacji użytkownik będzie musiał przesłać zdjęcie dowodu tożsamości.

To pierwszy raz, kiedy OpenAI oficjalnie przyznaje, że ChatGPT będzie mógł prowadzić intymne rozmowy z użytkownikami. Eksperci zwracają uwagę, że podobne rozwiązania od dawna napędzają popularność konkurencyjnych aplikacji, takich jak Character.AI, z których korzystają miliony użytkowników, często po kilka godzin dziennie. O sprawie pisze TechCrunch.

Granica między innowacją a odpowiedzialnością

TechCrunch podaje, że z badań organizacji Center for Democracy and Technology wynika, że aż 19% amerykańskich licealistów przyznało się do relacji emocjonalnej z chatbotem lub zna kogoś, kto taką relację utrzymuje. To pokazuje, że temat intymnych interakcji z AI wykracza daleko poza dorosłych użytkowników.

OpenAI zapewnia, że nie zamierza „maksymalizować użycia” ChatGPT poprzez erotykę, lecz chce dać dorosłym większą swobodę w korzystaniu z technologii. „Traktujmy dorosłych jak dorosłych” – powtarza Altman.

Jednocześnie firma mierzy się z presją biznesową. ChatGPT ma już ponad 800 milionów aktywnych użytkowników tygodniowo, ale konkurencja ze strony Google i Meta jest coraz silniejsza. Liberalizacja zasad może więc być także sposobem na utrzymanie tempa wzrostu.