Nebezpečí deepfakes: Falešných videí přibývá každých šest měsíců dvojnásobně

Začátkem března 2022 se internetem šířilo zmanipulované video ukrajinského prezidenta Volodymyra Zelenského, ve kterém digitálně generovaný Zelenskyj říkal ukrajinské armádě, aby se ruským vojskům vzdala. Video se šířilo online obrovskou rychlostí. Šlo sice o velmi realistické dílo, ale poměrně rychle se ukázalo, že je zmanipulované, vytvořené pomocí umělé inteligence. Ačkoliv se zdá, že ruské dezinformace mají jen omezený dopad, tento alarmující příklad ilustruje potenciální důsledky deepfakes, píší pro web The Conversation profesor Benjamin C. M. Fung a doktorandka Sze-Fung Leeová, kteří působí na informačních studiích McGillovy univerzity v kanadském Quebeku.

Každá mince má dvě strany. Deepfakes mohou být hyperrealistické a lidskýma očima v podstatě nezjistitelné, uměle generovaná videa se však úspěšně používají i pro dobrou věc, třeba v asistenčních technologiích.

Lidé, kteří trpí Parkinsonovou chorobou, mohou ke komunikaci používat hlasové klonování. Irská společnost CereProc, která se zabývá syntézou řeči, vytvořila umělý, ale realistický hlas Johna F. Kennedyho, který díky tomu mohl po 55 letech konečně přednést svůj projev v rámci kampaně pro prezidentské volby 1964. Jak je všeobecně známo, cestou na setkání se svými příznivci byl 22. listopadu 1963 zastřelen, a tak k tomuto veřejnému vystoupení nikdy nedošlo.

Dezinformace na dosah

I když technologie pohánějící deepfakes můžou vypadat složitě, je poměrně snadné je vyrobit. Založeny jsou na takzvaných generativních adversariálních sítích, ve kterých se navzájem trénují dva algoritmy tak, aby produkovaly realistické snímky. Existuje mnoho online aplikací, například Faceswap nebo ZAO Deepswap, které dokáží deepfake vytvořit během několika minut.

V roce 2019 bylo online odhaleno 15 000 deepfakes. O rok později to bylo již 85 000 a předpokládá se, že jejich počet se každých 6 měsíců zdvojnásobuje.

Popularita těchto aplikací a dalších online služeb, jako je Deep Nostalgia, ukazuje, jak rychle by deepfakes mohly být širokou veřejností přijaty jako norma. V roce 2019 bylo odhaleno přibližně 15 000 deepfake videí, do konce roku 2020 stoupl jejich počet na 85 000 a předpokládá se, že jejich počet se každých 6 měsíců zdvojnásobí.

Google Colaboratory, online úložiště kódu v několika programovacích jazycích, obsahuje příklady kódu, který lze použít ke generování falešných obrázků a videí. S takto jednoduše dostupným softwarem se snadno může přihodit, že poprask na síti způsobí i průměrní internetoví uživatelé, aniž by si uvědomovali potenciální bezpečnostní rizika. Když jsou deepfakes záměrně využívány k přetváření veřejného mínění, podněcování sociálních konfliktů a manipulaci voleb, mají totiž potenciál například i podkopat demokracii.

Americká demokracie

Viděli jsme to ve chvílích, kdy bývalý americký prezident Donald Trump označoval jakékoli nelichotivé mediální pokrytí své osoby za fake news, tedy „falešné zprávy“. Tím, že své kritiky z šíření fake news obviňoval, vytvářel Trump prostředí nedůvěry, ve kterém by jím samotným šířené dezinformace mohly být zneužity k udržení podpory příznivců a jako nástroj propagandy.

Pro dezinformační kampaně jsou deepfakes perfektním nástrojem, protože produkují věrohodné falešné zprávy, jejichž odhalení vyžaduje čas. Škody jimi způsobené, a zejména těmi, které poškozují pověst lidí, jsou často dlouhodobé, nebo dokonce nevratné. Jejich zneužití v politických kampaních je snad nejnebezpečnější.

Boj proti dezinformacím byl pro demokracie, které se snaží prosazovat svobodu slova, vždy výzvou. Každý by měl využívat možnosti jakékoliv informace si ověřit, nejen je pasivně přijímat. Mohlo by se také zvážit zavedení nové legislativy nebo novelizaci té stávající k postihu výrobců deepfakes za falšování informací a krádeže identity. K ochraně společnosti však bude každopádně nutný multidisciplinární přístup vlád, soukromých společností a dalších organizací.