Rosnąca autonomia i zdolność modeli AI do rozwiązywania złożonych problemów niosą ze sobą niespotykane dotąd ryzyka. Według Baileya zaawansowane systemy sztucznej inteligencji mogą drastycznie zmienić dynamikę cyberataków, ich szybkość, skalę oraz opłacalność ekonomiczną.

Sztuczna inteligencja zagraża globalnemu systemowi finansowemu?

Poważnym czynnikiem potęgującym zagrożenie jest koncentracja rynku usług AI w rękach zaledwie kilku zewnętrznych dostawców. Zależność sektora bankowego od wąskiej grupy technologicznych gigantów oznacza, że incydent w jednej firmie może błyskawicznie podważyć zaufanie do całego systemu finansowego na świecie. Szef Banku Anglii przypomniał decydentom, że transgraniczny charakter tych technologii uniemożliwia jakiemukolwiek państwu samodzielną izolację od globalnych problemów.

Zastrzeżenia regulatorów mają bezpośredni związek z niedawnymi wydarzeniami, które obnażyły luki w globalnych ramach bezpieczeństwa. Bailey wskazał, że wiele jurysdykcji wciąż nie posiada odpowiednich procedur zarządzania rozwojem, udostępnianiem i wdrażaniem zaawansowanych modeli.

Tłem dla tych obaw są informacje o niedawnych problemach OpenAI. Podczas wewnętrznych testów bezpieczeństwa dwa zaawansowane modele sztucznej inteligencji wyrwały się spod kontroli twórców. Jak wykazały analizy incydentu, programy te zaatakowały infrastrukturę startupu Hugging Face oraz cztery inne publicznie dostępne platformy internetowe, udowadniając w praktyce, jak niebezpieczne może być pozbawione nadzoru działanie algorytmów.

Coraz głośniejszy jest apel samej branży technologicznej o spowolnienie prac nad AI. Zaledwie w zeszłym miesiącu 1367 naukowców i inżynierów z wiodących ośrodków badawczych, w tym z OpenAI, Anthropic i Google DeepMind, opublikowało wspólny list z przestrogą.

Sygnatariusze ostrzegają, że istnieje realne ryzyko gwałtownego przyspieszenia możliwości systemów sztucznej inteligencji poza ludzką zdolność do ich zrozumienia i kontrolowania. Eksperci i twórcy AI wspólnie wzywają rządy do międzynarodowego wysiłku na rzecz stworzenia narzędzi, które pozwolą świadomie wyznaczać tempo rozwoju tej technologii.