Decyzja YouTube’a jest odpowiedzią na rosnące obawy związane z wykorzystywaniem technologii AI do tworzenia realistycznych, lecz fałszywych nagrań przedstawiających osoby publiczne.

YouTube chce skuteczniej wykrywać deepfake’i

Technologia wykrywania deepfake’ów została wprowadzona przez YouTube już wcześniej – początkowo była dostępna dla około czterech milionów twórców należących do programu partnerskiego firmy. Narzędzie działa na podobnej zasadzie jak system identyfikacji treści chronionych prawem autorskim.

YouTube Content ID analizuje materiały przesyłane przez użytkowników i wykrywa fragmenty objęte prawami autorskimi. Nowe rozwiązanie skupia się natomiast na identyfikowaniu sztucznie wygenerowanych twarzy oraz wizerunków znanych osób, które mogły zostać wykorzystane w deepfake’ach.

Takie nagrania mogą przedstawiać polityków lub inne osoby publiczne mówiące i wykonujące czynności, które w rzeczywistości nigdy nie miały miejsca. W ostatnich latach tego typu materiały coraz częściej pojawiają się w sieci i bywają wykorzystywane do szerzenia dezinformacji lub manipulowania opinią publiczną.

YouTube zaznacza jednak, że samo wykrycie podobizny nie będzie automatycznie oznaczało usunięcia materiału. Każdy wniosek będzie analizowany indywidualnie zgodnie z zasadami polityki prywatności platformy.

Blokowanie materiału jeszcze przed publikacją?

Aby skorzystać z nowego narzędzia, uczestnicy programu pilotażowego będą musieli przejść proces weryfikacji tożsamości. Obejmuje on przesłanie selfie oraz dokumentu tożsamości wydanego przez organ państwowy. Po weryfikacji użytkownicy będą mogli utworzyć profil w systemie, przeglądać wykryte dopasowania materiałów z ich wizerunkiem oraz zgłaszać wnioski o usunięcie treści naruszających zasady platformy.

W przyszłości YouTube planuje rozszerzyć funkcje. Jednym z rozważanych rozwiązań jest możliwość blokowania materiałów naruszających zasady jeszcze przed ich opublikowaniem. Firma analizuje również model, w którym właściciele wizerunku mogliby zarabiać na takich materiałach, podobnie jak twórcy korzystający z systemu Content ID.

Filmy stworzone przy użyciu sztucznej inteligencji będą oznaczane przez platformę. Oznaczenia nie zawsze jednak pojawiają się w tym samym miejscu. W niektórych przypadkach informacja o wykorzystaniu AI znajduje się w opisie materiału, natomiast w przypadku bardziej wrażliwych tematów może zostać umieszczona na początku filmu.

YouTube nie ujawnia dokładnej liczby deepfake’ów usuniętych dzięki nowej technologii. Według przedstawicieli firmy dotychczasowa liczba zgłoszeń była stosunkowo niewielka. W wielu przypadkach twórcy traktują wykryte materiały raczej jako informację o ich istnieniu niż powód do zgłaszania wniosku o usunięcie. Sytuacja może jednak wyglądać inaczej w przypadku treści przedstawiających polityków, urzędników państwowych czy dziennikarzy, których wizerunek jest szczególnie podatny na manipulacje.