Zgodnie z raportem Recorded Future (do pobrania tutaj), rosyjska kampania o kryptonimie „Operacja Undercut” opierała się na fałszywych lub wprowadzających w błąd materiałach wideo, które wykorzystywały generowane przez AI głosy. Nagrania te przedstawiały ukraińskich polityków jako skorumpowanych i podważały sens pomocy wojskowej dla Ukrainy, manipulując narracjami o rzekomej nieskuteczności zaawansowanego sprzętu wojskowego dostarczanego Ukrainie.

Technologia polskiego ElevenLabs wykorzystywana przez Rosję?

Aby zwiększyć wiarygodność materiałów, twórcy użyli generowanych głosów AI w kilku europejskich językach, takich jak angielski, niemiecki, francuski i polski, eliminując akcenty, które mogłyby zdradzić ich rosyjskie pochodzenie. O sprawie pisze TechCrunch.

Recorded Future ustaliło, że to właśnie technologia polskiego ElevenLabs została prawdopodobnie wykorzystana w kampanii. Badacze przeanalizowali materiały za pomocą narzędzia firmy do identyfikacji generowanych głosów, uzyskując potwierdzenie użycia tej technologii. Chociaż ElevenLabs zakazuje „nieautoryzowanego, szkodliwego lub zwodniczego podszywania się”, przypadki takie jak ten nie są odosobnione. Firma wcześniej zmierzyła się z krytyką za incydent, w którym jej technologia została wykorzystana do tworzenia fałszywych nagrań imitujących głos prezydenta Joe Bidena namawiającego do zaniechania głosowania podczas prawyborów w USA w styczniu tego roku.

Za kampanią „Operacja Undercut” ma stać Social Design Agency, rosyjska organizacja objęta sankcjami przez USA. Jej działania obejmowały prowadzenie sieci fałszywych stron informacyjnych i kont w mediach społecznościowych, wykorzystywanych do szerzenia dezinformacji. Według Recorded Future ogólny wpływ kampanii na opinię publiczną w Europie był jednak minimalny.

Polska firma ElevenLabs doświadczyła gwałtownego wzrostu od momentu założenia w 2022 roku. Niedawno zwiększyła ARR do 80 milionów dolarów i może wkrótce zostać wyceniona na 3 miliardy dolarów. Jej inwestorami są Andreessen Horowitz i były dyrektor generalny Github, Nat Friedman.

Warto zaznaczyć, że nad generowaniem mowy i klonowaniem głosu pracują także inni giganci – na przykład Microsoft. Firma z Redmond ogłosiła niedawno wprowadzenie nowej funkcji dla użytkowników platformy Teams, która ma umożliwiać klonowanie głosu podczas spotkań online w dziewięciu językach.