Vyhledávače Googlu a Microsoftu mají problém s deepfake pornem. Že netušíte, co to je? Jednoduché: na okoukaných tělech, opatřených okoukanou hlavou s okoukaným obličejem, se jednoho dne pomocí umělé inteligence objeví hlava cizí, neokoukaná – třeba ta vaše. Počet takových videí exponenciálně roste.
Magazín Wired zmiňuje novou analýzu stavu deepfake pornovideí, jejíž autor si kvůli obavám z útoků na internetu přál zůstat v anonymitě. Podle ní vzniklo během posledních 7 let několik desítek webových stránek, zřízených buď výhradně, nebo částečně za účelem hostování deepfake porno videoklipů. Na nich bylo v době zpracování analýzy zveřejněno téměř čtvrt milionu klipů, které svým dětem určitě doporučovat nechcete.
Od ledna do září 2023 bylo na tyto webové stránky nahráno 113 000 videí, což je 54% nárůst oproti 73 000 videí, nahraných za celý rok 2022. Analýza předpovídá, že do konce roku 2023 bude vytvořeno a zveřejněno více deepfakce pornovideí než za všechny dosud sledované roky dohromady.
Poptávka vytvořila nabídku
Tato zarážející čísla jsou jen letmou ukázkou toho, jak rozsáhlým problémem deepfake jsou: nejde jen o porno nebo třeba parodie známých filmů, ale v mnoha případech také snímky, vytvořené s úmyslem konkrétní osobu poškodit.
A to je, máte-li k dispozici ty správné nástroje, vcelku jednoduché. „Je to něco, co se zaměřuje na běžné lidi, běžné středoškoláky, běžné dospělé – stalo se to každodenním jevem,“ říká Sophie Maddocksová, která se na University of Pennsylvania zabývá výzkumem digitálních práv a kybernetického sexuálního násilí. „Situace by se výrazně zlepšila, kdybychom dokázali ztížit přístup k těmto technologiím. K potenciálnímu podněcování sexuálního zločinu by neměly stačit dvě sekundy.“
Deepfake parodie filmu Sám doma, v originálu Home Alone, s názvem Home Stallone.
Wired upozorňuje na 35 webových stránek, které existují výhradně za účelem hostování deepfake pornografických videí nebo obsahují tato videa společně s dalším materiálem pro dospělé. Stránky nejmenuje ani na ně přímo neodkazuje, aby je dále nezviditelňoval.
Mnohé z nich se však podle Wired faktem, že hostují nebo šíří deepfake porno, ani v nejmenším netají – často mají ve svém názvu slovo deepfakes nebo jeho odvozeniny. Každá ze dvou nejnavštěvovanějších stránek má obsahovat 44 000 videí, dalších pět pak přes 10 000. Některá videa mají mít až miliion shlédnutí.
Problémem jsou také webové stránky, zahrnující deepfake fotografie. Jedna z nich se má podle výše zmíněného výzkumu chlubit faktem, že „má svlečené lidi“ na stovkách tisíc obrázků. V září 2023 podalo ve španělském městě Almendralejo hromadné trestní oznámení přes 20 dívek ve věku 11 až 17 let poté, co byly pomocí nástrojů umělé inteligence bez jejich vědomí vygenerovány a následně šířeny „jejich“ nahé fotografie.
„Došlo k výraznému nárůstu poptávky po tomto typu obsahu na pornografických platformách a nelegálních online sítích,“ říká docentka kriminologie na australské Monash University Asher Flynnová. „Je pravděpodobné, že s novými nástroji umělé inteligence se tato situace bude jen zhoršovat,“ dodává.
Triviální přístup
Brána k mnoha webům a nástrojům pro vytváření deepfake obsahu vede přes triviální vyhledávání, které nevyžaduje žádné speciální znalosti nebo schopnosti. Od doby, kdy se objevily nástroje potřebné k vytváření deepfake videí, se jejich používání zjednodušilo a jejich kvalita zlepšila.
Výzkum zjistil vysokou míru obav o duševní zdraví, jako jsou úzkosti, deprese, sebepoškozování a sebevraždy v důsledku virtuálního zneužívání.
Henry Ajder, odborník na deepfake a generativní umělou inteligenci, říká, že přidání většího „tření“ do procesu vyhledávání deepfake pornovideí a aplikací pro změnu obličejů může šíření omezit. „Jde o to snažit se někomu co nejvíce ztížit jejich nalezení,“ říká.
Podle Ajdera se může jednat o vyhledávače, které snižují hodnocení výsledků škodlivých webových stránek, nebo o poskytovatele internetových služeb, kteří stránky blokují. „Je ale těžké cítit se optimisticky vzhledem k objemu a rozsahu těchto operací,“ dodává.
Zatímco počet videí a snímků stále prudce roste, dopad na oběti může být dlouhodobý. „Obtěžování na internetu na základě pohlaví má obrovský dopad na svobodu projevu žen,“ říká Sophie Maddocksová, odbornice na digitální právo a kybersexuální násilí z University of Pennsylvania. Potenciální dopady na duševní a fyzické zdraví člověka, stejně jako dopady na jeho zaměstnání, rodinný a společenský život mohou být obrovské i podle Asher Flynnové, „bez ohledu na to, zda je obrázek deepfake nebo 'skutečný'“.
Reklama
foto: Shutterstock , zdroj: Wired
