12 lipca 2024 opublikowano Rozporządzenie o sztucznej inteligencji (AI Act). Ten dokument ustala zasady dotyczące rozwoju, wdrażania i używania sztucznej inteligencji na terenie Unii Europejskiej. Polska rozpoczęła wtedy prace nad projektem ustawy, która umożliwi stosowanie tych przepisów w kraju. Teraz resort cyfryzacji opublikował nową wersję proponowanych przepisów.

Więcej na temat AI Act można przeczytać w naszym cyklu realizowanym wspólnie z EY Law. W zakładce znajdziecie szczegółowe informacje na temat przepisów Unii Europejskiej dotyczących sztucznej inteligencji. Chodzi między innymi o przetwarzanie danych osobowych, obowiązek przejrzystości w instytucjach finansowych, czy sztuczną inteligencję w bankowości.

„Piaskownica regulacyjna” oraz wsparcie innowacyjności

W nowej wersji projektu Ustawy o systemach sztucznej inteligencji wzięto pod uwagę przeszło dwa tysiące uwag, opinii i propozycji zgłoszonych podczas pierwszej tury konsultacji społecznych. Przy wprowadzaniu zmian przeanalizowano głosy płynące ze strony organizacji pozarządowych oraz ekspertek i ekspertów sektora innowacji, badań, nauki i kultury oraz ministerstw, urzędów, instytucji publicznych i samorządowych – czytamy w komunikacie Ministerstwa Cyfryzacji.

Najważniejsze zmiany wprowadzone w projekcie ustawy dotyczą elastycznych i nieinwazyjnych zasad skutecznego nadzoru nad bezpieczeństwem produktów i usług, a także rozwiązań wspierających innowacje i testowanie nowych technologii w ramach tzw. piaskownicy regulacyjnej oraz struktury Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.

Nowością w ustawie jest rozdział ósmy poświęcony wsparciu innowacji. Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji zyska możliwość powołania tzw. piaskownicy regulacyjnej, czyli przestrzeni do testowania nowych technologii. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów.

Na podstawie przepisów zawartych w rozdziale dodanym do ustawy minister właściwy do spraw informatyzacji będzie mógł udzielać wsparcia finansowego przeznaczonego na badania naukowe lub prace rozwojowe. Finansowanie lub współfinansowanie programów i projektów w tym zakresie będzie pochodzić ze środków budżetu państwa, jak również z budżetu Unii Europejskiej.

Czytaj także: Zakazane praktyki w AI Act. Unijne regulacje już obowiązują

Nowe zasady kontroli oraz bezpieczeństwo działania systemów AI

Projekt ustawy określa również nowe zasady, które znacząco ograniczyły uprawnienia kontrolujących specjalistów z Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wobec kontrolowanych przedsiębiorców i instytucji. Nadzór ma być domyślnie sprawowany w sposób zdalny.

Wprowadzono także mechanizm układu w sprawie nadzwyczajnego złagodzenia sankcji. Jest to rozwiązanie, które ma ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie środków naprawczych, a także ubiegania się o złagodzenie sankcji.

Dodatkowo strony składające skargę na działanie modeli i systemów sztucznej inteligencji mają być informowane o dalszym przebiegu oraz kolejnych etapach sprawy, aż do jej zakończenia.

Przedstawiciele instytucji odpowiedzialnych za prawo i zdrowie w składzie organu nadzorującego rynek

Jedną ze zmian w projekcie jest nowy skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie pełnić rolę organu nadzoru rynku w zakresie systemów sztucznej inteligencji. Dodatkowo komisja ma wspierać oraz monitorować rozwój, innowacje i konkurencyjność w obszarze badań i stosowania systemów sztucznej inteligencji.

Po uwzględnieniu propozycji zgłoszonych w ramach konsultacji społecznych Ministerstwo Cyfryzacji rozszerzyło skład komisji o przedstawicieli wyspecjalizowanych instytucji publicznych odpowiadających za takie sfery jak prawo czy medycyna, które są istotne dla stosowania AI.

Jednocześnie wzmocniono niezależność organu przez ograniczenie przedstawicieli ministerstw w jego stałym składzie. W aktualnym projekcie członkami Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają być: przedstawiciel Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Rzecznika Praw Dziecka, Krajowej Rady Radiofonii i Telewizji, Prezesa Urzędu Komunikacji Elektronicznej, Państwowej Inspekcji Pracy, Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych.

Dodatkowo zmiana sposobu wyboru Przewodniczącego Komisji ma zagwarantować większą niezależność organu. Przewodniczący będzie powoływany przez Sejm za zgodą Senatu na 5-letnią kadencję.

Zaprezentowany projekt został skierowany do ponownych uzgodnień międzyresortowych, opiniowania i konsultacji publicznych.

Wszystkie strony zainteresowane udziałem w konsultacjach społecznych oraz przekazaniem swoich opinii i pomysłów mają na to 14 dni od momentu publikacji nowego projektu ustawy na stronie Rządowego Centrum Legislacji. Uwagi, które mają pomóc w ulepszaniu funkcjonowania i rozwoju sektora sztucznej inteligencji w Polsce, można nadsyłać na adres: sekretariat.dp@cyfra.gov.pl.