Psovi a umělé inteligenci prostě musíte věřit, nepochopíte je

Co si vlastně dnes představujeme pod pojmem umělá inteligence? A je naše představa správná? Je virtuální realita odrazem umělé inteligence? V první části rozhovoru s Janem Hovorou, "technickým grafikem", odborníkem na virtuální realitu a zakladatelem společnosti Pocket Virtuality, jsme se dostali až k filozofickým dopadům umělé inteligence na vývoj lidstva.

Reklama

Jedním z produktů Pocket Virtuality je Holo Observer, nástroj na "guided maintenance" procesy. Zjednodušeně: Máte složitý přístroj, který neumíte ovládat. Tak si místo studování sáhodlouhých návodů nasadíte speciální brýle pro virtuální realitu a v ní se vám objevují popisky a pokyny, co máte dělat.

Všechno ale musíte naprogramovat vy – není možné, aby si například brýle nasadil zkušený technik, provedl požadovaný úkon a systém se jej "naučil". Podle Jana Hovory je taková představa ještě příliš vzdálená. „Je to hrozně složité,“ říká s úsměvem. „Já viděl demo, kde se snažili naučit umělou inteligenci napsat recept podle videa. Naučit umělou inteligenci pochopit, co vlastně děláte, je ale neuvěřitelně složité.“

Dnes existují systémy, které ze slovního popisu dokážou nakreslit obrázek.

V čem má umělá inteligence největší mezery?

V pochopení banálních věcí, které nejsou ale exaktní. Příklad: vezmete chleba, ukrojíte krajíc, jdete k ledničce, vytáhnete máslo, namažete ho na chleba a pak na to ještě položíte salám. Nepochopí, co jsou vaše ruce, že chleba je chleba, co jste udělal s tím máslem... Je to vlastně strašně složité, ale zároveň úžasná výzva.

Představte si, že v brýlích máte umělou inteligenci, něco jí předvedete a ona se to naučí podle toho, co vidí. Ale od toho jsme ještě daleko, protože z hlediska AI je to velmi složitý problém. Bude to trvat.

Rozdíl mezi úrovní vývoje virtuální reality a umělé inteligence je vidět třeba v aplikaci Theatre VR. Ve virtuální realitě se ocitnete na pódiu divadla a hrajete třeba Hamleta. Když se ale odchýlíte od scénáře, ostatní postavy se „zaseknou“, v lineárním průběhu hry není prostor pro jakýkoliv krok stranou. Je to to, co umělá inteligence ještě nezvládá?

Pod umělou inteligencí si člověk představuje inteligenci, něco, co se umí přizpůsobovat a je tvořivé. Představte si, že hrajete jazz, něco slyšíte, improvizujete a navazujete na to. To umělá inteligence dnes ještě zdaleka nedokáže. Umí třeba napsat báseň, ale de facto jen replikuje naučené struktury, není tam žádný záměr. Neříkám ale, že to nepůjde.

Sophie není nic jiného než hloupý chatbot s robotickým mechanismem a mimikou.

Dnes existují systémy, které ze slovního popisu dokážou nakreslit obrázek. Sice je tam určitá vrstva abstrakce, která umí přejít z psaného textu na to, co si AI vymyslí a vysní. Těchhle vrstev tam ale musí být hrozně moc. A my ještě zdaleka nejsme na takové úrovni, aby to fungovalo. 

Mně se obecně zdá, že termín "umělá inteligence" je dnes hrozně nadužívaný. Představte si, že z mozku vezmete kousíček tkáně a tu začnete používat na nějaké jednoduché úkoly – třeba poznej jablko na obrázku. Nebo si vezměte chatboty, třeba Siri nebo Alexu. To ale není umělá inteligence, správný výraz by byl asi „strojové učení“.

Co se tedy umělé inteligenci nejvíce blíží?

Třeba AlphaGo od Google DeepMind. To je program, který porazil mistra světa ve hře go. Kdyby ale měl tenhle program návod, jak namazat chleba, tak má problém. V reálném světě se totiž neustále mění podmínky.

Neuronové sítě se budou v budoucnu učit tím, že vysledují vaši komunikaci a interakci. Výsledkem budou asistenti, ze kterých se stanou vaše virtuální kopie. 

I v té hře go, která je velice složitá a nelze při ní použít hrubou výpočetní sílu jako například při šachu, jsou základní nepřekročitelná pravidla. Ty ale v reálu neexistují.

A co robotka Sophie, která se nedávno představila v Praze? Představovali ji jako technologický zázrak, umělou osobu, která se s vámi dokáže normálně bavit...

Sophie není nic jiného než hloupý chatbot s robotickým mechanismem a mimikou. I konverzační systémy od Google jsou mnohem pokročilejší, jen nemají tu reálnou podobu. Je neuvěřitelné, jaké PR jsou na tom autoři schopni udělat.

Spousta lidí dnes zaměňuje pojmy "virtuální realita" a "umělá inteligence". Je jasné, že se jedná o dvě různé věci, jak spolu ale navzájem souvisí?

Právě že skoro vůbec, pokud je tedy nepropojíte. Příklad: digitální asistenti v telefonech a chatboti neznají kontext, znají maximálně aplikace, ze kterých je spouštíte, nebo polohu. Když ale používáte digitálního asistenta v brýlích pro virtuální realitu, při správném nastavení může vidět a slyšet přesně to, co vidíte a slyšíte vy. Tam už je kontext zřetelný.

Umělé inteligence budou programovat samy sebe. Všechno bude daleko více neuchopitelné.

Přes vizuální interface asistent "vidí", s kým mluvíte, a bude také vědět, v jakém kontextu jste danou věc řekl. Neuronové sítě se budou v budoucnu učit tím, že vysledují vaši komunikaci a interakci. Výsledkem budou asistenti, ze kterých se stanou vaše virtuální kopie. A pokud je někdo potká ve virtuálním prostoru, tak ani nebude vědět, že nemluví přímo s vámi, ale s vaším modelem.

Neměla by umělá inteligence být autentická, originální?

To záleží na definici. Tady se bavíme o asistentovi, a v tom případě nepotřebujete originalitu. Potřebujete, aby se vaše kopie chovala jako vy, abyste jí mohl delegovat úkoly. Představte si, že přijdete do nemocnice a na displeji se objeví sestřička, která vás odvede tam, co potřebujete. Ta sestřička bude augmentací umělé inteligence nemocnice. A odněkud se to provádění musela naučit, takže předtím stínovala někoho jiného.

Bavíme se o počítačových souborech, ať už jsou to data nebo příkazy. A datům musí někdo stanovit strukturu, příkazům přiřadit priority a formáty. To musí přece udělat ale člověk...

Typickou neuronovou síť moc neprogramujete. Největším problémem je dnes rozhodnout, jaký typ neuronové sítě se použije. Ve skutečnosti nikdo moc neví, proč struktura existujících umělých inteligencí vypadá tak, jak vypadá. Prostě se zkouší, které struktury jsou lepší a které horší.

Umělá inteligence bude třeba tak chytrá, že jejím rozhodnutím vůbec nebudeme rozumět.

Často se používají evoluční algoritmy, kde generujete náhodné struktury, a pak je navzájem porovnáváte. To nejdůležitější je proces učení. Umělé neuronové sítě se učí daleko pomaleji než živé neuronové sítě. Navíc programování bude čím dál míň potřeba.

Jak to?

Umělé inteligence budou programovat samy sebe. Všechno bude daleko více neuchopitelné.

A jak porozumíme tomu, co bude vznikat?

Neporozumíme tomu. Už dnes je to problém. Umělá inteligence provádí výzkum, výsledkem jsou kvanta dat, typicky se například jedná o obory, jako jsou fyzika nebo chemie. A my nevíme, jak ta data validovat. Nerozumíme jim. Víme, že to funguje, ale nevíme proč. Tohle je obrovský problém. 

Co se stane v okamžiku, kdy dojde k chybě, a my nebudeme vědět, proč vznikla? 

To zabíháme skoro až do filozofie. Jak vy víte, že váš pes udělá, co udělá? Jen na základě zkušenosti. Vy mu musíte věřit. Doba exaktního přístupu k věcem skončí, protože ty věci budou tak komplikované, že je nebudeme schopni pochopit.

Jak to ovlivní společnost a lidstvo vůbec? 

To se velice špatně odhaduje. Umělá inteligence bude třeba tak chytrá, že jejím rozhodnutím vůbec nebudeme rozumět. Příkladem je třeba již zmiňované AlphaGo, které v roce 2017 porazilo čínského mistra Ke Jie. V průběhu hry to vypadalo, že AlphaGo udělalo chybu.

Někteří lidi říkají, že nové závody ve zbrojení vypukly v oblasti nové inteligence a že kdo bude mít první umělou inteligenci, tak v nich vyhraje.

Teprve při pozápasové analýze se přišlo na to, že to byl záměr, součást strategie. Šlo o tak složitou a "nelidskou" strategii, že ji nikdo nebyl schopen dlouho vůbec postřehnout. A teď si představte, že budete mít umělou inteligenci, která bude chatovat na úrovni živého člověka s milionem lidí naráz. V různých jazycích. Kreativně. Jak budete schopni odhadnout, co je záměr takového systému? Kam směřuje? A to i v případě, že to s vámi ten systém myslí dobře.

To je dost pesimistická představa, nemáte nějakou pozitivní?

Moment, to ještě není všechno. Představte si, že máte chytré brýle a v nich nejrůznější asistenční systémy. V tu chvíli se strašlivě rozevřou nůžky mezi lidmi, kteří je mají a kteří je nemají. Ti druzí budou proti těm prvním jako děti. 

Představte si, že máte systém, který vám neustále říká, co si myslí člověk, se kterým mluvíte, jestli se mu dá věřit, s jakou pravděpodobností, jestli je vyrovnaný, navíc okamžitě zjistí, jestli to, co říká, je pravda. Představte si třeba, že přijdete na pohovor, a někdo proti vám je vybaven takovým systémem.

Nebo že ten systém máte vy a jdete hrát poker.

Třeba. Proto také někteří lidi říkají, že nové závody ve zbrojení vypukly v oblasti nové inteligence a že kdo bude mít první umělou inteligenci, tak v nich vyhraje, protože převálcuje ostatní. Google říká, že AI je jako oheň, jen její dopad je daleko větší. A je to pravda, ty důsledky mohou být zcela zásadní. Proto se také ročně investuje do umělé inteligence tolik, co stál celý projekt Apollo. Akorát v dnešních cenách. A pokud se ptáte, proč se toho všichni tak bojí, tak si představte, že jste šéf Pentagonu, hrajete válečnou hru a proti vám je AlphaGo. Nemáte šanci mu konkurovat, protože je tisíckrát chytřejší než vy. A to je to, čeho se všichni děsí.

Možná je to tím, že všechny roboty konstruujeme jako lidi. Že i umělé inteligenci možná podvědomě dáváme lidské charakteristiky.

To by teoreticky mohlo být, když tyhle inteligence budeme učit. Pokud je ale necháme vyvíjet se jako samostatné organismy, budou mít jiné potřeby a vyvinou se jiným způsobem. Nebudeme rozumět jejich motivacím a rozhodnutím. Lidé jsou pořád trochu zvířata, bojují o zdroje a partnery. Motivace umělé inteligence bude ale úplně jiná.

foto: Shutterstock a Pocket Virtuality, zdroj: Pocket Virtuality