15 czerwca BaFin, czyli niemiecki nadzór finansowy, opublikował zasady nadzorcze do stosowania rozwiązań AI i Big Data przez instytucje finansowe. Jest to ważna informacja, również w kontekście Polski – wiele podmiotów z niemieckiego rynku finansowego i fintech działa nad Wisłą lub przymierza się do tego, by wyjść z ofertą do klientów w naszym kraju. Zasady stosowane w Niemczech i całej UE będą zatem także – przynajmniej pośrednio – oddziaływać na polski rynek i zapewne także na polskie wytyczne. Choćby z tego względu warto się im przyjrzeć. Nic zatem dziwnego, że o sprawie napisały także zagraniczne media.

Na stronie BaFin czytamy, że wytyczne są odpowiedzią na fakt, że instytucje finansowe coraz częściej korzystają z Big Data i AI. Te dwa pojęcia i rozwiązania łączą się w jeden skrót (BDAI – od Big Data i AI). Być może jest to truizm, ale fakt ten coraz dosadniej wybrzmiewa w całej UE – chociażby w kontekście regulacji AI, tożsamości cyfrowej czy też nadzoru nad big techami i nową agendą cyfrową UE. Jest to też temat mocniej sygnalizowany chociażby na branżowych konferencjach w Polsce (Cashless Congress, EKF, ale też na Fintech Brunch). Nie jesteśmy zatem w tyle, a możemy nawet zaryzykować stwierdzenie, że merytorycznie nie odstajemy od średniej.

AI musi być nadzorowane

BaFin w publikacji dotyczącej zasad BDAI powołał się na swoje badanie z 2018 roku „Big data meets artificial intelligence„, w którym zauważył, że chociaż aplikacje wykorzystujące algorytmy AI tworzą nowe możliwości dla instytucji finansowych i konsumentów, to ryzyko związane z ich stosowaniem powinno być konrolowane.

Niemiecki nadzór zbadał jakie zasady nadzoru i warunki należy ustanowić, by zapewnić kontrolowane stosowanie BDAI. Owocem tych rozważań jest 16-stronnicowy dokument, który zawiera wskazówki dla instytucji nadzorowanych przez BaFin. Ponadto niemiecki organ nadzoru finansowego ma nadzieję, że dokument przyczyni się do rozwoju dyskusji wśród interesariuszy rynku, a sam dokument ma stanowić istotny wkład w pracach organów wspólnotowych. Celem jest stworzenie pewności prawnej dla rynku, a także wyjaśnienie kluczowych rozbieżności – w tym podstawowego dylematu, gdzie zaczyna się AI, a gdzie mamy do czynienia z konwencjonalną statystyką. Do tego dochodzi automatyzacja i machine learning – nie jest to proste opracowanie i z całą pewnością będzie szeroko komentowane.

Dodatkowo BaFin zapowiedział kolejną publikację dotyczącą BDAI w sektorze finansowym, która ma zostać opublikowana w połowie lipca. Zapowiedziany dokument skupi się na uczeniu maszynowym wykorzystywanym w podmiotach sektora finansowego, które obowiązuje nadzór makroostrożnościowy.