W oświadczeniu przekazanym TechCrunch rzecznik OpenAI potwierdził, że firma bada metodę znakowania tekstu opisaną przez WSJ, ale powiedział, że zachowują „ostrożne podejście” do „złożoności i prawdopodobnego wpływu na szerszy ekosystem poza OpenAI”.

OpenAI pracuje nad rozwiązaniem, które wykryje treści tworzone przez sztuczną inteligencję

„Opracowywana przez nas metoda znakowania tekstu jest obiecująca pod względem technicznym, ale wiąże się z istotnym ryzykiem. Chodzi między innymi o możliwość obchodzenia zabezpieczeń, czy nieproporcjonalnie duży wpływ rozwiązania na niektóre grupy, na przykład osoby nieanglojęzyczne” – powiedział rzecznik.

Warto przypomnieć, że OpenAI zamknęło w zeszłym roku swój poprzedni wykrywacz tekstu tworzonego przez sztuczną inteligencję ze względu na jego „niski wskaźnik dokładności”.

W przypadku nowego rozwiązania OpenAI skupiłoby się wyłącznie na wykrywaniu treści z ChatGPT, a nie z modeli innych firm. Firma dokonałaby tego poprzez wprowadzenie niewielkich zmian w sposobie, w jaki ChatGPT wybiera słowa, zasadniczo tworząc niewidoczny znak wodny w piśmie, który mógłby zostać później wykryty przez oddzielne narzędzie.

Ostatnio pisaliśmy, że OpenAI pracuje pracuje nad nowym modelem sztucznej inteligencji w ramach projektu o nazwie „Strawberry”. Algorytmy mają mieć zdolności rozumowania podobne do ludzkich, a także umiejętności planowania z wyprzedzeniem.

Dodatkowo twórca ChatuGPT wszedł także na rynek wyszukiwarek internetowych, rzucając wyzwanie Google, czy Bing. Firma zaprezentowała w czwartek SearchGPT, funkcję wyszukiwania zaprojektowaną w celu udzielania „szybkich odpowiedzi” na pytania, czerpiąc ze źródeł internetowych.