Influencer svataba: AI revoluce je významnější než vynález internetu. Chatbotům nevěřte

Svatopluk Barek alias svataba je influencer, který má na TikToku přes 400 tisíc sledujících. Aktivní je také na Instagramu nebo na YouTube, přičemž se na rozdíl od většiny ostatních influencerů nevyhýbá ani politickým tématům. Nyní se pustil do projektu #GeneraceAI, který se věnuje vzdělávání mladých o umělé inteligenci.

Je pro vás umělá inteligence příležitost nebo hrozba?

Tohle je za mě velmi komplikovaná otázka a KAŽDÝ, kdo uvádí pouze jednu z těchto možností, si buď neuvědomuje celospolečenské důsledky AI technologií, nebo zkrátka lže. Věci totiž dost často nejsou jenom černobílé. Uvedu to na příkladu generování digitálního obsahu.

Za pár let si budeme moct generovat naprosto personalizovanou hudbu podle nálady na základě textového vstupu, ano, tak daleko už jsme, najděte si například písničky vygenerované AI modelem Suno (verzi 3). Podobně, i když se zpožděním, to bude i u videí, podívejte se na generovaná videa od modelu Sora od společnosti OpenAI. Ty už jsou skoro nerozpoznatelná od reality. V budoucnu si asi teda budu moct dogenerovat lepší konec seriálů Hry o trůny, nebo Domku z karet! To je pecka, ne?

Reklama

No jo, ale co tyto technologie udělají s důvěrou v naší digitalizované společnosti? Až nebudeme schopni rozeznat, jestli video/fotka, na které koukáme, jsou skutečné? Řekl ten politik to, co říká ve videu, nebo ne? A když se bude bránit, že nikdy nic takového neřekl/neudělal a že to je deepfake (falešné video), lže, nebo mluví pravdu?

Co ta sousedova fotka z dovolené? Skutečně tam byl, nebo si tu fotku vygeneroval?

Jak je na tom ohledně znalostí o umělé inteligenci česká společnost? Dokážeme držet trend s dobou?

Na to existují výzkumy a ukazují, že většina (65 %) Čechů ve věkové skupině 18–65 let nikdy neslyšela o generativní umělé inteligenci, což je aktuálně největší trend. A v těch 35 % populace, která o ní slyšela, mají o těchto technologiích daleko větší povědomí muži, což vycházelo i v našem dotazníkovém průzkumu na školách v rámci  projektu #GeneraceAI.

Průzkum též ukázal, že mladí (18–25 let) jsou na tom s povědomím o generativní umělé inteligenci DALEKO lépe než generace 55–65 let, 68% mladých o nějakém AI nástroji slyšela, oproti tomu v nejstarší generaci to je pouze 12 %, což je opravdu obrovský rozdíl!

Mohl byste nějak představit projekt #GeneraceAI? Co je jeho cílem?

Náš projekt #GeneraceAI je vzdělávací videokurz, který je primárně zaměřen na žáky 8–9 tříd, ale protože je volně dostupný, může si ho pustit kdokoliv, kdo se chce o AI dozvědět víc, a máme zpětnou vazbu i od rodičů mladých, že se z toho hodně dozvěděli. Nezaměřujeme se tolik na konkrétní využívání těchto technologií, protože na to existuje již spousta návodů, ale snažíme se je zasadit do širšího kontextu světa, protože jsem pevně přesvědčený, že probíhající AI revoluce je ještě větší než vynález internetu nebo elektřiny.

V médiích se o tom zatím moc nemluví, ale generování textů a obrázků je celkem dost neekologická záležitost a vznikají studie, které ukazují, že vygenerování jednoho obrázku spotřebuje stejně elektřiny jako dobití mobilu.

Lidé se v tomto kurzu dozvědí základy, jak nyní populární AI technologie fungují, co to vůbec pojem umělá inteligence je, jak AI nástroje používat zodpovědně, jaká s sebou nesou rizika pro naši společnost, a nakousneme i budoucnost školství a práce. Kurz má 5 kapitol a každá z nich má okolo 40 minut, až na jednu, která je o něco kratší.

Obsah kurzu je vytvořený tak, aby ho pochopila i 13letá Lucka, která o AI v životě neslyšela, takže je nejen vhodný do skoro všech základních škol, ale i středních škol, kde o AI nemají takové povědomí, a jak říkám, pokud se někdo ze čtenářů chce dozvědět více a mít na tuto oblast ucelenější obrázek, můžou si ho též pustit.

Proč se zaměřujte na děti a mladé studenty?

Těch důvodů je celá řada. Je skupina, se kterou na svých sociálních sítích komunikuji nejvíc, a je tedy největší šance, že to budou i ti, kteří projektu budou nejvíce naslouchat.

Dalším důležitým faktorem bylo i to, že této věkové skupiny se vývoj AI technologií dotkne nejvíc, a oni jsou ti, kteří budou muset v budoucnu řešit i řadu problémů, které AI technologie v naší společnosti způsobí.

Deepfakes videa v češtině zatím nejsou extra propracovaná, takže se dají ještě rozeznat na základě řady nedokonalostí.

A v neposlední řadě považuji vzdělávání mladých za jednu z nejlepších věcí, kterou můžeme dělat pro lepší budoucnost naší společnosti.

S kým na projektu spolupracujte?

Na tvorbě obsahu se podíleli přední čeští AI odborníci jako Tomáš Mikolov, který pracoval v Metě nebo Googlu, Michal Pěchouček, který je aktuálně CTO ve firmě Avast, nebo třeba Jan Romportl, který 7 let působil jako šéf O2 AI centra.

Protože je ale projekt mířený na mladé, přizval jsem do projektu „jejich hvězdy“, tedy další kolegy influencery. Setkají se v průběhu kurzu s Natálií „Natyla“ Tolarovou, Lukášem „Lukefry“ Fritscherem nebo Martinem Rotou.

Jaká jsou v současnosti největší rizika při využívání umělé inteligence? Na co by si lidé měli dávat pozor?

To je dobrá otázka. Nejpopulárnější jsou teď bezesporu chatboti, kteří generují texty, třeba ChatGPT – tam platí jedno obecné doporučení a to je, ať lidé stoprocentně nevěří výstupům, které tyto chatboti generují, protože z principu jejich fungování si občas můžou „vymýšlet“, a s naprostou jistotou vám mohou tvrdit, že Karel Čapek byl český astronaut.

Je zkrátka dobré si ověřovat faktické věci, které chatboti napíšou. Jsou potom chatboti, kteří mají přístup na internet, například ten ve vyhledávači Bing, a ty už jsou schopni si většinu věcí ověřit na internetu. Pořád bych byl ale opatrný.

A pak bych doporučil ještě jednu věc. Pokud chcete něco udělat pro planetu, negenerujte si zbytečné věci. V médiích se o tom zatím moc nemluví, ale generování textů a obrázků je celkem dost neekologická záležitost a vznikají studie, které ukazují, že vygenerování jednoho obrázku spotřebuje stejně elektřiny jako dobití mobilu. To se ale časem bude zlepšovat.

Pozorujete větší množství scamů založených na AI v poslední době? Jak se dají poznat?

S podvodnými videi se na internetu roztrhl pytel, a ač se převážně o AI technologiích snažím mluvit pozitivně, tak toto mě skutečně děsí, protože zatím nemáme skutečně spolehlivé nástroje na rozpoznávání.

Zřejmě se dočkáme toho, že tu budeme mít velké firmy, kde reálně bude pracovat jeden člověk.

Podvodný obsah může mít mnoho podob, ale já se budu držet těch nejznámějších, tedy deepfakes, které vkládají lidem do úst slova a věty, které neřekli.

• Naštěstí tato videa v češtině zatím nejsou extra propracovaná, takže se dají ještě rozeznat na základě řady nedokonalostí:
• Sledujte, co osoba na videu říká a jestli ta slova sedí do pohybu rtů
• Sledujte mimiku obličeje a nepřirozené emoce ve tváři, protože s tím mají deepfake programy zatím problém
• Poslouchejte intonaci hlasu a důrazy na slova ve větách. S tím mají zatím AI programy problém a hlasy občas znějí nepřirozeně
• Zamyslete se, jestli je chování osoby ve videu konzistentní s jejich známým chováním. Ve většině scam videí figurují známé osobnosti, takže se zamyslete, jestli to, co ta osoba říká ve videu, je něco, co by říkala normálně.
• Ověřte si zdroj, odkud na vás video vyskočilo. Pokud je to nějaká pochybná investiční platforma, tak to bude z 99 % fake

Jaký pokrok AI v poslední době učinila? Mohl byste vypíchnout něco, co vás zaujalo?

Hodně to zobecním a poukážu na trend, který v oblasti vývoje AI technologií nabírá na obrátkách. Jde o tzv. AI agenty a autonomní jednání. Nebudu to komplikovaně vysvětlovat, uvedu to na příkladu. Trend ukazuje, že v ne tak daleké budoucnosti naše mobily a počítače budou schopny řadu věcí udělat za nás.

Budete chtít jet někam na dovolenou? Řeknete to mobilu buď v nějaké aplikaci, nebo to bude AI model přímo v mobilu a AI se o to už postará. Zeptá se vás na nějaké základní informace k cestě a potom už vybere vhodnou letenku, hotel, naplánuje vám možný program a ještě vám k tomu vytvoří personalizovaného průvodce. Stejně tak budou tito „agenti“ schopni vypracovat různé tabulky a texty a odeslat to mailem příslušné osobě.

A další dekádu, ale možná i dřív, si lidé takhle budou automatizovat celé fungování firmy, takže se zřejmě dočkáme toho, že tu budeme mít velké firmy, kde reálně bude pracovat jeden člověk.

Hrozí podle tebe, že AI připraví lidi o práci?

V krátkodobém horizontu můžeme v celé řadě odvětví očekávat, že se zvýší produktivita lidí, kteří používají AI nástroje, takže lidé s AI budou zvládat daleko více práce a bude potřeba méně lidí. Tedy technicky vzato ano, AI připraví nějaké lidi o práci. Kolik jich bude, jestli to nějak výrazně zvýší nezaměstnanost, to se fakt neodvažuji odhadovat. Můj osobní pocit je, že to ale nebude málo. V zahraničí to už teď můžeme vidět u velkých technologických firem. Vymlouvají se, že propouští kvůli následkům covidu, ale v tom jim fakt nevěřím.

Dám ale jedno doporučení, kterého se držím i já, a podle toho jednám a funguji. Připusťte si, že by vás AI mohla nahradit. Já jsem vystudovaný herec a před 10 lety bych se vysmál každému, kdo by mi řekl, že AI nahradí filmové herce. Teď už je to skoro jisté, že velká filmová studia budou čím dál více AI technologie využívat a čím dál větší části filmů generovat a tvořit pomocí AI nástrojů.

Myslím si ale, že práce, kde člověk pracuje s lidmi a je k nim potřeba lidský kontakt, jsou ještě na dlouho v bezpečí a stejně tak práce, které kombinují „lidství“ a náročnou kognitivní a motorickou činnost.

V čem může naopak umělá inteligence nejlépe pomoct?

Můžeme se těšit na velký pokrok v oblasti vývoje a výzkumu nových léků, skvělou diagnostiku, AI technologie nás také osvobodí od řady rutinních činností, mohou pomoct ve vývoji všemožných nových technologií a vylepšení těch stávajících, jako například baterie do automobilů, pomůžou v oblasti boje s klimatickými změnami, jako společnost zřejmě i dost zbohatneme, personalizované učení, kdy každý budeme mít při ruce učitele, který s námi bude mít nekonečnou trpělivost… Je toho opravdu hrozně moc.

Jste aktivní na sociálních sítích. Zmiňujete to téma i ve svých videích?

Ano, zmiňuji a plánuji o AI natáčet i dál, akorát teď kvůli práci na celém projektu #GenereceAI a zdravotním problémům v rodině jsem neměl moc času na natáčení, ale to se teď doufám zlepší.

Chystáte v tomto směru něco dalšího?

Ano, ale více zatím neřeknu, nechte se překvapit.

foto: se svolením Svatopluka Barka, Klára Kutilová / Bing Copilot, zdroj: Autorský článek