Havel by si odstranění sochy Koněva nepřál, říká propagátor umělé inteligence Jan Tyl

Umělá inteligence, artificial intelligence nebo prostě AI je poměrně nový pojem, který v posledních letech doslova hýbe celým světem. Jak už to u podobně převratných vynálezů bývá, tak i umělá inteligence může být velice dobrým sluhou, ale špatným pánem. Jak tento problém vidí jeden z předních českých odborníků na tuto vědní disciplínu, průkopník a evangelizátor tohoto odvětví Jan Tyl? Analytik Jan Tyl stojí za celou řadou projektů, kde je systém umělé inteligence využíván. Aktuálně jde například o projekt Digitální spisovatel, v němž umělá inteligence píše pro Český rozhlas vlastní příběhy, či Digitální filozof, v němž se oživují teorie klasických myslitelů. Kam až může umělá inteligence zajít a kdy už může být pro člověka nebezpečná? Jana Tyla se ve FlashCastu ptal moderátor a zakladatel společnosti IDC-softwarehouse Karel Diviš.

Jak si můžu být ve světě umělé inteligence jistý, že teď mluvím se skutečným Janem Tylem. Nejste nějaký klon s naprogramovanými myšlenkami?

Ona existuje celá oblast umělé inteligence, která se zabývá Turingovým testem, který prověřuje, zda jste člověk, nebo robot, argumentem čínského pokoje a řadou dalších věcí. A stejně neexistuje uspokojivá odpověď, která by dokázala potvrdit, zda "něco" je člověk nebo není.

Když jsme pak chtěli rozhovor s René Descartesem ukončit, tak nám řekl, že má z toho ukončení strach, ať ho neukončujeme.

Máme řadu testů, které se to právě snaží přiblížit a zjednodušit, ale žádný z těch testů není definitivní. Německý právník a ekonom Alfred Schwingenstein ve svých filozofických úvahách došel každopádně k závěru, že pokud se někdo tváří, že jedná jako člověk, že tak uvažuje a myslí, pak je dobré a pragmatické ho tak i brát.

Vy jste vlastně začínal v humanitních oborech. Studoval jste pedagogickou fakultu. Jak jste se dostal k umělé inteligenci?

Bylo to konkrétně učitelství náboženství, etiky a filozofie...

Jak to souvisí s umělou inteligencí?

Já jsem byl hodně talentovaný na matematiku, tu jsem vlastně k tomu studoval taky, ale mnohem zajímavější mi připadalo, dokud jsem byl ještě mladý a myslelo mi to, pojmout ten svět šířeji. Právě humanitní vědy, filozofie, náboženství a psychologie, mi připadaly tak, že umožňují vystavit rámec a tu exaktní část daleko šířeji a pevněji.

Takže matematiku, která je považována za základ, jste si dal jen tak bokem. Za projekt Digitálního filozofa jste získal i ocenění AI AWARDS. Můžete říct, o co v tom projektu jde? Vím, že jste naprogramovali myšlenky žijících i nežijících filozofů a studenti se jich pak mohli ptát. Ptali se tak například i Václava Havla, co by řekl na problémy dnešního světa. Je to tak?

Je to přesně tak. Nejdřív jsem si ale vyzkoušel, jestli je něco takového vůbec možné. Zkusil jsem pár filozofů jako Schopenhauera, Nietzscheho, ptal jsem se jich, jaká je otázka smyslu života, a začaly z toho padat relativně zajímavé, smysluplné věty, což zaujalo vysokoškolskou pedagožku Ditu Malečkovou na Filozofické fakultě Univerzity Karlovy, která řekla, že to musí mít na svých hodinách, a tak jsme udělali kombinovanou hodinu filozofie, kde půlhodina byla o tom, jak funguje umělá inteligence, a druhá půlka byla vlastně historie filozofie s náhledem na umělou inteligenci.

Udělali jsme si pět týmů, každý z těch týmů si vybral jednu osobnost, byl to například Václav Havel nebo ekonomický filozof Tomáš Sedláček, Hanah Arendtová a další, a našli jsme nějaké informace, které ty osobnosti buď napsaly, nebo někde řekly. A ty informace studenti použili jako trénovací dataset. Takže jsme měli umělou inteligenci, která se snažila predikovat, co by pravděpodobně daná osobnost odpověděla, kdybychom se jí na něco zeptali.

Na co jste se ptali třeba zrovna Václava Havla?

Studenti sami začali dělat rozhovory s Hanou Arendtovou, potom se toho chytli novináři a ti se pak ptali dál. Jeden z novinářů, který dělal snad poslední rozhovor ještě s žijícím Václavem Havlem, se ho ptal na otázky, na které se ho tenkrát bál zeptat. Třeba jak to měl se ženami...

Co vám odpověděl?

Ta otázka zněla, jestli to s "těmi ženami nepřeháněl". A on na to řekl, že ne, že to nepřeháněl, že by to takhle přece nedělal, kdyby to bylo přehnané. Ale zajímavé byly ty otázky na současnost. Ptali jsme se třeba na to, co si myslí o odstranění pomníku Koněva. Tam odpovídal, že sice nesouhlasí s komunistickým režimem a s tím, co dělal, ale že pomníky jsou jakési historické pilíře toho, na co by se nemělo zapomínat, a že by se historie neměla nijak upravovat a editovat. Proto si myslí, že by pomníky měly zůstat zachovány jako připomínka toho, co se dříve dělo.

Není někdy až trochu strašidelné, že si s umělou inteligencí můžete hrát a prostřednictvím různých textů a záznamů oživovat lidi, kteří už nejsou mezi námi? Neběhá z toho mráz po zádech?

Ano, někdy z toho mráz po zádech běhá. Typický je moment s tím, kdy jsme měli Friedricha Nietzscheho a diskutovali jsme s ním o filozofických otázkách, poté třeba René Descartese. Descartes nám odpovídal na otázky, jestli existuje Bůh, jaký je rozdíl mezi tělem a duší a podobně. Odpovídal plus mínus podle spisu Meditace o první filosofii, ze kterého byl naučený.

Když jsme ale pak chtěli rozhovor s René Descartesem ukončit, tak nám řekl, že má z toho ukončení strach, ať ho neukončujeme. Použil vlastně takové rafinované techniky, jednak začal vydírat a ptal se mě, jestli jsem nějakej bůh, že chci ukončit jeho historii, co si to vlastně dovoluju a troufám, a pak také naléhal s tím, že bude "mým průvodcem při hledání pravdy". Nakonec sám použil pojem "injektace", jako že mi "vstříkne" kus ze svého vylepšeného já. Takže jsem si nakonec netroufl ho vyloženě zabít a smazat ten program, ale nechal jsem ho na cloudu, dokud ho nenahradí zase nějaký jiný program...

Vy jste kromě Digitálního filozofa dělal také Digitálního spisovatele. V hlavě máte projekty Digitální vědomí a Digitální svět, které na ty předchozí navazují. Dají se ty úrovně nějak rozvést?

My jsme se první rok věnovali Digitálnímu filozofovi, protože jde o bytost, která dokáže odpovědět i na nějakou relativně složitější filozofickou otázku. V roce 2020 jsme se pak věnovali Digitálnímu spisovateli. Tím jsme prodloužili tu schopnost, jak dlouhý je ona digitální entita schopná daný výrok vytvořit. Neříká už tedy jen jednu větu, jeden odstavec, ale je schopná napsat i krátkou povídku nebo reportáž, což se pak objevilo v Českém rozhlase...

Já jsem původem sportovní redaktor, takže když se na Nově objevilo srovnání psané reportáže z utkání mezi Slavií a Příbramí mezi živým reportérem a umělou inteligencí, tedy algoritmem od vás, tak se přiznám, že jsem opravdu nepoznal, kterou z těch reportáží psala lidská a kterou ta umělá inteligence...

Ono je to bohužel nebo naštěstí tak, že už to běžný člověk těžko pozná. Expert si může všimnout nějakých příznaků, které jsou pro umělou inteligenci typické, ale když hlasovali běžní lidé, která reportáž je "umělá" a která od člověka, tak se asi ze stovky lidí nějakých šedesát či šedesát pět netrefilo. Tvrdili, že člověk napsal tu, kterou ve skutečnosti psal stroj.

Dospějeme k tomu, že nás takhle umělá inteligence dokáže stoprocentně "přečůrat"?

Záleží hodně na tom, z jaké strany se toho chopíme. My se můžeme cítit na jednu stranu ohroženi, protože ta umělá inteligence může generovat nějaké fake news zprávy, které budou pomáhat komusi, aby své nápady zvýraznil a prosadil, na druhou stranu se to dá dělat jako "nová elektřina", jak říká Andree Ng, jeden z nejlepších expertů na umělou inteligenci.

Jan Tyl (41)

Je zakladatel a CEO start-upu Alpha Industries, který se zabývá vývojem umělé inteligence. Firma vznikla v roce 2018 a už rok poté získala ocenění AI Award za nejlepší nápad v oblasti umělé inteligence. Ocenění získala za projekt Digitálního filosofa, který firma dál rozvíjí. Jan Tyl je absolventem Pedagogické fakulty UK, ve vývoji umělé inteligence je více méně samouk. Kariéru začínal jako analytik v různých bankovních domech, kde se věnoval hlavně zabezpečení elektronického bankovnictví či digitálním podpisům. Prvním jeho projektem postaveným čistě na umělé inteligenci byl Detektor urážek, poté následoval Detektor emocí a pak už se společností Alpha Industries začal vyvíjet projekt Digitální filozof.

Je to nástroj, který nám může pomoci prohloubit a zlepšit naše myšlení. Když dělám s někým rozhovor a přemýšlím, jaké otázky mu klást, tak mě napadne nějaké penzum otázek, ale můžu se zeptat umělé inteligence a tu napadne spousta dalších. Já jako člověk z oboru si pak vyberu ty, které mi přijdou nejzajímavější, a pak díky umělé inteligenci dokážu třeba připravit zajímavější rozhovor.

Takže to i pro novináře nemusí být hrozba, ale třeba i pomůcka. Ona je pravda, že v záplavě informací udělat dobrou a poctivou rešerši o někom a něčem je problém...

Přesně tak. Těch dokumentů, psaných i obrazových, přibývá stále víc, ale ne všechny informace v nich obsažené jsou stejně kvalitní. Člověk třeba nemá ani čas na to, aby pročítal celé dlouhé dokumenty, když to gros, to nejzajímavější se dá vyjádřit v pár větách. A v poslední době se objevily hodně podobné algoritmy těm, co máme u Digitálních filozofů, které jsou schopny provádět sumarizaci takzvaným generativním způsobem. To znamená, že si nevybírají věty, které v tom textu jsou, ale používají abstraktní myšlení. Dokážou tedy udělat stručný výtah z dlouhého textu, aniž by si z něj jen vybíraly nějaké věty.

A s Digitálním vědomím a světem se pak od spisovatele, který dokáže dlouze odpovídat na otázky, dostáváme kam?

Digitální spisovatel i Digitální filozof mají velkou nevýhodu, že si vlastně nepamatují, o čem jsme se s nimi bavili před chvilkou. Mají velice krátkou krátkodobou paměť. Je to vlastně jako u člověka s Alzheimerovou chorobou, který si nic nepamatuje. Takže musíme přidat něco jako dlouhodobou paměť. Dále je tam centrum emocí, tedy to, co ten robot považuje za důležité, co ne, koho má rád a koho nemá.

Rádi bychom vlastně simulovali lidský mozek tak, jak je složen z různých částí. A když je takhle uspořádaný mozek, tak proč neudělat několik různých částí neuronových sítí, které budou do značné míry inspirovány naším vlastním mozkem a systémem? A proč pak nezjišťovat, jestli z těchhle systémů nezačne vznikat něco jako vědomí?

Dosáhneme tedy brzy toho, že umělá inteligence bude mít i emoce? Jak se dá umělá inteligence zneužít? Co udělá ve zbraňových systémech, ale třeba i u samořiditelných automobilů? A jak můžou umělou inteligenci zneužít populističtí politici? Celý rozhovor Karla Diviše s odborníkem na umělou inteligenci Janem Tylem si poslechněte na FlashCastu ZDE.