Wyobraźmy sobie standardowe spotkanie online. Kamera jest włączona, a po drugiej stronie działa system oparty na Computer Vision, który analizuje naszą twarz w czasie rzeczywistym. Technologia ta potrafi śledzić ruchy oczu i kierunek patrzenia, analizować ułożenie brwi, ust czy żuchwy, oceniać, czy użytkownik wygląda na skupionego, a nawet próbować określić poziom zaangażowania. Takie rozwiązania już istnieją, ale ich skuteczność jest co najmniej dyskusyjna. O sprawie pisze Bezprawnik.

AI analizuje mimikę twarzy podczas spotkań służbowych?

Badania naukowe jasno pokazują, że interpretowanie emocji na podstawie mimiki jest bardzo zawodne. Ta sama ekspresja twarzy może oznaczać zupełnie różne stany emocjonalne i odwrotnie. Systemy AI nie „rozumieją” emocji. One jedynie analizują ruchy mięśni twarzy i próbują dopasować je do określonych wzorców. W praktyce oznacza to, że np. osoba spokojna i skupiona może zostać oceniona jako „niezaangażowana”, a ktoś rozkojarzony, ale ekspresyjny – jako aktywny uczestnik spotkania.

Kluczowe znaczenie przy ocenie legalności tego typu narzędzi ma AI Act, czyli unijne rozporządzenie regulujące wykorzystanie sztucznej inteligencji. Prawo to dzieli systemy AI na cztery poziomy ryzyka:

  • minimalne,
  • ograniczone,
  • wysokie,
  • niedopuszczalne.

To właśnie do tej ostatniej kategorii mogą trafić systemy analizujące emocje pracowników. Zgodnie z przepisami, zakazane jest wykorzystywanie sztucznej inteligencji do wyciągania wniosków o emocjach osoby w miejscu pracy (z wyjątkiem bardzo wąskich przypadków, np. medycznych lub związanych z bezpieczeństwem). To oznacza, że narzędzia oceniające „zaangażowanie” na podstawie twarzy pracownika są w praktyce nielegalne.

Pracodawcom grożą surowe kary

Konsekwencje naruszenia przepisów są poważne. Firmom grożą kary nawet do 35 milionów euro lub 7% globalnego rocznego obrotu. Dla porównania – maksymalne sankcje wynikające z RODO sięgają „zaledwie” 4% obrotu.

Nawet poza AI Act, w Europie mamy solidne podstawy prawne. RODO traktuje analizę twarzy jako dane biometryczne, czyli szczególnie wrażliwą kategorię danych, której przetwarzanie jest co do zasady zabronione. Dodatkowo polski Kodeks pracy dopuszcza monitoring wizyjny tylko w konkretnych przypadkach, takich jak:

  • bezpieczeństwo pracowników,
  • ochrona mienia,
  • kontrola produkcji,
  • ochrona tajemnic przedsiębiorstwa.

Co może zrobić pracownik, jeśli jego pracodawca korzysta z takich narzędzie? Możliwe działania to m.in.: zgłoszenie sprawy do Urzędu Ochrony Danych Osobowych, kontakt z Państwową Inspekcją Pracy lub dochodzenie swoich praw na drodze cywilnej (ochrona dóbr osobistych).