Anthropic poinformował, że otrzymał rządową decyzję w piątek po południu i niezwłocznie zastosował się do polecenia. Nakaz wymagał wyłączenia obu modeli dla wszystkich użytkowników na świecie. Ograniczenia nie obejmują pozostałych modeli firmy, jednak dotyczą dwóch najważniejszych projektów, które miały stanowić fundament dalszego rozwoju biznesu.

Czytaj także: Donald Trump położy rękę na OpenAI? Rząd może zostać udziałowcem gigantów

Rząd USA zablokował najpotężniejsze modele Anthropic

Szczególną uwagę regulatorów przyciąga Claude Mythos 5. Model został zaprezentowany na początku kwietnia i od początku budził kontrowersje ze względu na swoje możliwości w zakresie cyberbezpieczeństwa.

Według Anthropic system potrafił wykrywać nieznane wcześniej luki w zabezpieczeniach popularnych systemów operacyjnych i przeglądarek internetowych. Z tego powodu firma nie zdecydowała się na jego publiczne udostępnienie. Zamiast tego uruchomiono zamknięty program testowy, do którego zaproszono około 50 organizacji, w tym największe firmy technologiczne i specjalistów od cyberbezpieczeństwa.

Kilka dni temu Anthropic zaprezentował z kolei Claude Fable 5 – model oparty na technologii Mythos, ale wyposażony w dodatkowe zabezpieczenia ograniczające odpowiedzi dotyczące najbardziej wrażliwych obszarów, takich jak cyberbezpieczeństwo czy biologia. Firma argumentowała, że dzięki tym mechanizmom model może zostać bezpiecznie udostępniony publicznie. Według dostępnych benchmarków Fable 5 szybko został uznany za jeden z najwydajniejszych dostępnych modeli AI. To właśnie wokół tego modelu mają jednak koncentrować się zastrzeżenia amerykańskich władz.

Anthropic twierdzi, że rząd wskazał na możliwość obejścia części zabezpieczeń modelu. Według firmy przedstawione dowody miały dotyczyć bardzo specyficznego scenariusza, w którym użytkownik skłania model do analizy określonego kodu źródłowego i wskazywania potencjalnych błędów bezpieczeństwa.

Zdaniem Anthropic podobne możliwości są już obecne w innych zaawansowanych modelach sztucznej inteligencji dostępnych na rynku i od dawna wykorzystywane są przez specjalistów zajmujących się ochroną systemów informatycznych.

Anthropic nie zgadza się z decyzją władz USA

Przedstawiciele Anthropic argumentują, że wykrycie pojedynczej luki nie powinno prowadzić do wycofania modelu używanego przez setki milionów użytkowników. „Gdyby ten standard został zastosowany w całej branży, uważamy, że zasadniczo wstrzymałoby to wdrażanie wszystkich nowych modeli przez wszystkich dostawców pionierskich modeli” – twierdzi firma.

Cała sytuacja ma jednak wymiar wyjątkowo ironiczny. Anthropic przez wiele miesięcy podkreślał, że Mythos jest tak potężny, iż wymaga szczególnych środków ostrożności i nie może zostać udostępniony publicznie. Teraz właśnie te ostrzeżenia mogły przyciągnąć uwagę regulatorów.

Sam Altman, CEO OpenAI ma wiele powodów do radości, już wcześniej krytykował bowiem sposób promowania projektu Mythos. Jego zdaniem przedstawianie modelu jako wyjątkowo niebezpiecznego było przede wszystkim skuteczną strategią marketingową. „To oczywiście niesamowity chwyt marketingowy, aby powiedzieć: Zbudowaliśmy bombę. Mieliśmy zamiar zrzucić ją na wasze głowy. Sprzedamy wam schron przeciwbombowy za 100 milionów dolarów” – powiedział Altman.

Warto przypomnieć, że kilka miesięcy temu Anthropic złożyło pozew przeciwko amerykańskiemu Departamentowi Obrony. Sprawa dotyczy decyzji Pentagonu o uznaniu spółki za „zagrożenie dla łańcucha dostaw”, co w praktyce uniemożliwia współpracę z nią firmom realizującym kontrakty dla wojska.