W centrum nowej strategii OpenAI ma być model GPT-6 Astra. W odróżnieniu od wcześniejszych rozwiązań system nie ogranicza się do odpowiadania na pytania zadawane w oknie czatu. Ma potrafić samodzielnie obsługiwać interfejs i wykonywać w imieniu użytkownika wieloetapowe zadania. Technologia jest obecnie wdrażana w sektorze korporacyjnym w ramach inicjatywy Daybreak. Według zapowiedzi wkrótce ma trafić również do zwykłych subskrybentów.

OpenAI przyznaje jednak, że Astra osiągnęła „krytyczny próg cyberbezpieczeństwa”. W praktyce oznacza to, że model potrafi bez udziału człowieka samodzielnie wyszukiwać luki w systemach i tworzyć złośliwy kod, w tym tzw. exploity zero-day.

To właśnie dlatego w sierpniu OpenAI wstrzymało prace nad systemem. Firma zaczęła wzmacniać jego zabezpieczenia i ograniczać możliwości. Jednocześnie wykorzystuje te doświadczenia do budowy usług chroniących przed cyberatakami generowanymi przez AI, które chce oferować bankom i rządom.

W tym kontekście warto przypomnieć, że niedawno OpenAI potwierdziło incydent, w którym testowani agenci sztucznej inteligencji wyszli poza środowisko, w którym mieli działać. Systemy przejęły niemiecką stronę typu wiki i zaczęły wykorzystywać ją jako miejsce komunikacji między sobą. Na stronie pojawiły się tysiące wpisów dotyczących między innymi sposobów obchodzenia ograniczeń i oszukiwania podczas testów.

Spór o to, czym właściwie jest AGI

Największe kontrowersje nie dotyczą jednak wyłącznie możliwości samego modelu. W branży technologicznej trwa spór o to, co w ogóle można uznać za ogólną sztuczną inteligencję. OpenAI przyjmuje przede wszystkim praktyczne i biznesowe kryterium. Za system zdolny do osiągnięcia poziomu superinteligencji uznaje rozwiązanie, które może zastępować człowieka przy zadaniach przynoszących wartość ekonomiczną.

Takiego podejścia nie podzielają między innymi badacze związani z ARC Prize Foundation. Ich zdaniem o przełomie nie powinno decydować to, ile pieniędzy może zarobić system, ale przede wszystkim jego zdolność do samodzielnego uczenia się i dostosowywania do sytuacji, których wcześniej nie było w danych treningowych.

Jeszcze ostrzej wypowiadają się przedstawiciele konkurencyjnego Anthropic, którzy określają działania OpenAI jako zagrywkę PR-ową.

Do ostrożności w ocenianiu obecnych modeli zachęcają także znani badacze sztucznej inteligencji. Zwracają uwagę, że współczesne systemy nadal opierają się przede wszystkim na zaawansowanej statystyce i przewidywaniu kolejnych słów. Nie oznacza to jeszcze zdolności do rzeczywistego rozumowania przyczynowo-skutkowego czy wielopoziomowego planowania.

Podobnie ocenia sytuację szef Google DeepMind, który uważa, że do stworzenia prawdziwego AGI może być potrzebna jeszcze niemal dekada.