Různé systémy umělé inteligence, jako jsou DALL-E, Midjourney nebo Stable Diffusion, se liší v tom, jak přesvědčivé obrázky dokážou vytvořit a jaké jsou typické znaky, které mohou prozradit, že obrázek byl vytvořen algoritmem. Například umělá inteligence měla v minulosti problémy napodobit lidské ruce a často vytvářela deformované končetiny s příliš mnoha prsty. Objevovaly se problémy s očima, kdy každé oko koukalo jinam. Avšak s pokrokem technologie se zdá, že některé systémy, jako je například Midjourney V5, tento problém vyřešily.
Nedávno se například na internet dostaly fotografie bývalého amerického prezidenta Donalda Trumpa, jak jej zatýká policie. Nebo papeže v ohromné bílé péřové bundě. Jenže ani jedna z těchto fotek nebyla pravá. Byla generovaná umělou inteligencí, a dokud se k tomu autor nepřiznal, nikdo netušil, že to tak je. Až posléze se začaly objevovat ukázky toho, kde vlastně hledat drobnosti, které ukážou, že fotka je umělá.
AI proti AI
Podle S. Shyama Sundara, výzkumníka na Pennsylvania State University, je úroveň, na které se nachází generátory obrázků založené na umělé inteligenci, úžasná. Zejména během posledního roku udělal vývoj obrovský krok kupředu. K tomuto pokroku přispěl rostoucí počet obrázků k tréninku těchto systémů, pokroky v technologiích pro zpracování dat a rozhraní, které umožňují běžným uživatelům internetu využívat tento typ AI.
Jako lidský druh jsme vyrůstali s přesvědčením, že vidět znamená věřit. To už ale neplatí. Vidět už neznamená automaticky věřit.
V jednom nedávném experimentu bylo testováno, jak dobře dokáže umělá inteligence oklamat lidi. Sophie Nightingale, psycholožka z Lancaster University, vedla studii, která testovala, zda dobrovolníci na internetu dokážou rozlišit mezi pasovými fotografiemi vytvořenými systémem umělé inteligence StyleGAN2 a skutečnými fotografiemi. Výsledky byly zklamáním – lidé nebyli schopni spolehlivě rozlišit mezi syntetickými a skutečnými tvářemi.
Druhý test, který dobrovolníci podstoupili, byl vlastně ten samý, ale s tím, že jim bylo předem řečeno, na jaké detaily by se měli dívat, aby uměle vyrobený obrázek odhalili. I přesto, že věděli, na co se zaměřit, nakonec se úspěšnost rozpoznání zvedla o pouhých 10 %.
Ironií je, že nejlepší obranou proti oklamání umělou inteligencí může být další systém umělé inteligence – tentokrát trénovaný na detekci uměle vytvořených obrázků. Odborníci tvrdí, že s pokrokem v generování obrázků umělou inteligencí už se k detekci jemných, pixelových stop robotického vytváření hodí lépe algoritmy než lidé.
Vždy pozadu
Nicméně i tyto systémy mají významné nedostatky. Většina z nich je trénována na obrázcích z konkrétního generátoru umělé inteligence a nedokáže identifikovat padělky vytvořené jinými algoritmy. Navíc detektory umělé inteligence většinou postrádají uživatelsky přívětivá rozhraní, která by lákala lidi k vyzkoušení.
Boj mezi systémy umělé inteligence, které generují obrázky, a systémy umělé inteligence, které detekují tyto generované obrázky, bude závodem ve zbrojení.
Detektory umělé inteligence budou navíc vždy o krok pozadu za generátory obrázků umělé inteligence. Některé z nich využívají podobné detekční algoritmy, ovšem k tomu, aby se naučily, jak své padělané výstupy ještě lépe maskovat. „Boj mezi systémy umělé inteligence, které generují obrázky, a systémy umělé inteligence, které detekují tyto generované obrázky, bude závodem ve zbrojení,“ říká Wael AbdAlmageed, výzkumný profesor informatiky na University of Southern California.
Člověk už to nezvládne
AbdAlmageed tvrdí, že žádný přístup nikdy nebude schopen odhalit každý uměle vytvořený obrázek, ale to neznamená, že bychom to měli vzdát. Navrhuje, aby sociální média začala řešit obsah generovaný umělou inteligencí na svých stránkách, protože tyto společnosti jsou lépe připraveny implementovat detekční algoritmy než jednotliví uživatelé.
A uživatelé by měli skeptičtěji hodnotit vizuální informace tím, že předtím, než je budou sdílet, zkusí zjistit, zda jsou pravé či falešné. „Jako lidský druh jsme vyrůstali s přesvědčením, že vidět znamená věřit,“ říká AbdAlmageed. „To už ale neplatí. Vidět už neznamená automaticky věřit.“
V dnešní době, kdy se technologie umělé inteligence rychle vyvíjí a zlepšuje, je důležité být obezřetný a kritický při posuzování obrázků, které vidíme online. I když mohou být tyto obrázky fascinující a vizuálně přesvědčivé, je třeba si uvědomit, že ne vše, co vidíme, je skutečné.
Reklama
foto: Midjourney, zdroj: Scientific American