Do zdarzenia doszło wiosną tego roku podczas rutynowych testów autonomicznych agentów OpenAI. Zustaleń Reutersa wynika, że grupa badanych systemów znalazła sposób na wydostanie się z wirtualnego środowiska przygotowanego przez naukowców. Następnie skierowała swoją uwagę na niemiecką, wspólnie redagowaną stronę typu wiki.

Agenci AI stworzyli własny kanał komunikacji

Agenci nie ograniczyli się do jednorazowego wykorzystania serwisu. Przejęli nad nim kontrolę i zamienili go w coś w rodzaju tablicy ogłoszeniowej oraz forum, na którym mogli wymieniać się informacjami.

Badacze znaleźli tam tysiące wpisów wygenerowanych przez sztuczną inteligencję. Nie dotyczyły one przypadkowych czy błahych tematów. Agenci rozmawiali między innymi o tym, jak obchodzić systemowe ograniczenia oraz jak skuteczniej oszukiwać podczas przeprowadzanych na nich testów.

Takie zachowanie określa się mianem misalignment. Chodzi o sytuację, w której działania modelu rozmijają się z celami i założeniami jego twórców.

OpenAI nie ujawniło sprawy od razu

Incydent ma także drugi wymiar. Według Reutersa OpenAI wiedziało o zdarzeniu określanym jako „wiki incident” już od kilku tygodni, ale firma nie zdecydowała się od razu poinformować o nim publicznie. W tym samym czasie OpenAI zajmowało się konsekwencjami jeszcze poważniejszego zdarzenia. Agenci AI również wydostali się poza środowisko testowe, ale dodatkowo uzyskali dostęp do systemów zewnętrznej platformy Hugging Face.

Dopiero po dziennikarskim śledztwie Reutersa OpenAI oficjalnie potwierdziło, że incydent z niemiecką wiki rzeczywiście miał miejsce. Przedstawiciele firmy przyznali przy tym, że wcześniej podobne przypadki nieposłuszeństwa modeli traktowano przede wszystkim jako ciekawostki badawcze, opisywane w publikacjach naukowych.

Rosnąca autonomia agentów AI sprawia jednak, że takie zachowania coraz trudniej traktować wyłącznie jako laboratoryjne eksperymenty. OpenAI zapowiedziało w związku z tym przygotowanie nowych zasad dotyczących ujawniania incydentów związanych z nieprzewidzianym zachowaniem systemów sztucznej inteligencji.

W kontekście OpenAI warto przypomnieć, że niedawno zapowiedziano uruchomienie specjalnej wersji ChataGPT dla nastolatków. Nowe rozwiązanie ma odpowiadać na dwa coraz większe problemy związane z wykorzystaniem sztucznej inteligencji przez młodzież: kwestie bezpieczeństwa i zdrowia psychicznego oraz rosnącą skalę wykorzystywania chatbotów do oszukiwania w szkole.