Umělý jazykový model ChatGPT (Generative Pre-trained Transformer) ve čtvrté generaci už je tak chytrý, že dokáže složit právnické zkoušky s lepším výsledkem než 90 % všech klasických studentů, zvládne i advokátní zkoušku, dokáže absolvovat přijímací řízení na vysokou školu s výborným výsledkem. Studentům píše diplomové práce, redakcím celé články. Ovšem stále dělá chyby, může sdílet dezinformace a vlastně nikdo neví, co se v něm děje. A to je ten největší problém.
Zastavte!
Před nedávnem napsala skupina lidí, kteří se zabývají technologiemi, otevřený dopis o tom, že by vývoj umělé inteligence (AI – Artifical Intelligence) měl být na půl roku zastaven a mělo by se pracovat na pravidlech jeho vývoje a také pochopení. Ovšem často se o téhle iniciativě říká, že to byla jen snaha zabrzdit něco, co předbíhá dobu a také vývoj některých firem.
Ke zvýšení povědomí a povzbuzení veřejné diskuse v oblasti umělé inteligence bychom potřebovali ekvivalent Grety Thunbergové.
Problémem však je, že vývoj vlastně zastavit nelze. ChatGPT od platformy OpenAI by sice ještě zastavit šel, nicméně to, co se před půl rokem zdálo jako zázrak, se dnes již stává standardem. Na jednodušší jazykové modely už nejsou třeba nejnáročnější výpočetní stroje, ale třeba i jeden výkonný notebook. Počítačové úpravy „deepfake“ neběží na podmořských serverech, ale na klasických sálových strojích, které má každá větší firma. Co tedy s tím?
Chce to zázrak nebo vědu
Bývalá manželka Elona Muska Tallulah Rileyová tweetovala o umělé obecné inteligenci schopné intelektuálních úkolů na lidské úrovni zajímavou větu: „Ke zvýšení povědomí a povzbuzení veřejné diskuse bychom v tomto směru potřebovali ekvivalent Grety Thunbergové.“ A má pravdu. Pro umělou inteligenci se nadchli lidé snad ze všech oborů. Vždyť i na výstavě nejprestižnějšího designu v Miláně byla zkratka AI snad na každém stánku! Jenže nikdo už neřeší důsledky. Co když se umělá inteligence probudí?
A právě tímhle se zabývá Asociace pro vědu o matematickém vědomí (AMCS), která sepsala otevřený dopis s názvem „Odpovědný rozvoj agendy umělé inteligence musí zahrnovat výzkum vědomí“. V něm uvedla, že nemá názor na to, zda by měl být vývoj umělé inteligence obecně pozastaven. Podle ní je důležité, aby se prosadila snaha porozumět AI, protože jedině tak vedle ní bude moci lidstvo bezpečně žít. „Rychlý rozvoj AI odhaluje naléhavou potřebu urychlit výzkum v oblasti vědy o vědomí,“ píše se v dopise.
Samotný šéf Googlu Sundar Pichai přiznal, že „plně nerozumí“ tomu, jak jejich nový program umělé inteligence Bard pracuje.
Blázní?
Někdo si může ťukat na čelo, že tohle přece není normální. Počítač je stroj a jako takový nemůže mít vědomí. Jenže ono je to všechno trochu jinak. Lidé, kteří tomu rozumí, bijí na poplach. Nejdřív to vypadalo jako jakási kuriozita, když Blake Lemoine, programátor, který napsal velký jazykový model Google Lamda, který je konkurentem ChatGPT, řekl, že jeho výtvor vnímá a má city. Jeho zaměstnavatel Google ho vyhodil a označil to za krásnou ukázku toho, jak skvěle je program připraven na to, co má dělat – dobře odpovídat způsobem podobným člověku.
Jenže uplynulo pár dní (skutečně jen dní) a šéf Googlu Sundar Pichai sám přiznal, že „plně nerozumí“ tomu, jak jejich nový program umělé inteligence Bard pracuje. A už se kolem toho začaly vířit proudy obav. Microsoft, který do OpenAI hodně investoval, řekl, že umělá inteligence dokáže lidstvo zbavit „dřiny“ všedních prací, jako je kancelářská administrativa. Jenže Goldman Sachs se toho chytil a spočítal, že na světě by mohlo kvůli tomu přijít o práci 300 milionů lidí. Je pravda, že 4 z 10 pracovních míst, která budou za deset let, dnes ještě ani neexistuje a nemá jméno. Ale pravděpodobně to bude nějak souviset právě se změnou postrkávanou umělou inteligencí.
Kmotr varuje
Poslední velký kopanec do holeně lidí, kteří si stále myslí, že AI je jen hračka, dal muž, který je všeobecně považovaný za kmotra umělé inteligence – Geoffrey Hinton. Tento zaměstnanec Googlu a autor umělých neuronových sítí a hlubokého učení, na kterých je vlastně postaven celý systém umělé inteligence, řekl v BBC, že některá nebezpečí AI chatbotů jsou „docela děsivá“. „Právě teď nejsou inteligentnější než my, pokud mohu soudit. Ale myslím, že brzy budou.“
Ovšem reportéři se snažili, aby svou teorii rozvedl. Už dříve se vyjádřil o tom, že použití umělé inteligence může být špatná hra se špatnými herci, kteří dělají špatné věci. V BBC to rozvedl. „Dovedete si představit, že například nějaký špatný herec jako [ruský prezident Vladimir] Putin by se rozhodl dát robotům možnost vytvářet si vlastní dílčí cíle?“
Právě teď nejsou AI chatboti inteligentnější než my, pokud mohu soudit. Ale myslím, že brzy budou.
Vědec varoval, že by to nakonec mohlo vytvořit dílčí cíle jako „potřebuji získat více energie“. Pak dodal: „Došel jsem k závěru, že druh inteligence, kterou vyvíjíme, se velmi liší od inteligence, kterou máme. Jsme biologické systémy a toto jsou digitální systémy. A velký rozdíl je v tom, že s digitálními systémy máte mnoho kopií stejné sady závaží, stejného modelu světa. Všechny tyto kopie se mohou učit odděleně, ale okamžitě sdílet své znalosti. Takže je to, jako byste měli 10 000 lidí, a kdykoli se něco naučil jeden člověk, všichni to automaticky věděli. A díky tomu mohou tito chatboti vědět mnohem víc než kdokoli jiný.“ S tímto vyjádřením opustil Google a odešel do důchodu.
--------------------
Kdo (co) je ChatGPT 4? Zeptali jsme se ho za vás. Otázky a odpovědi jsme neupravovali.
Definuj sám sebe
Jsem ChatGPT, umělá inteligence vytvořená společností OpenAI. Jsem založen na architektuře GPT-4 a byl jsem vyškolen ve velkém množství textů, abych dokázal komunikovat s lidmi, odpovídat na otázky a poskytovat informace na různá témata. Mé hlavní účely zahrnují zodpovězení otázek, poskytnutí návrhů, generování textu a pomáhání s řešením problémů.
Co znamená AI?
AI, nebo umělá inteligence, je oblast počítačové vědy, která se zaměřuje na vývoj algoritmů a systémů napodobujících lidskou inteligenci. Cílem AI je vytvořit stroje, které zvládnou úkoly vyžadující lidskou inteligenci, jako je učení, řešení problémů a přizpůsobování se novým situacím. AI může být rozdělena na slabou AI (specializovaná na konkrétní úkoly) a silnou AI (schopná provádět jakýkoli intelektuální úkol jako člověk). Aplikace AI zahrnují medicínu, výzkum, dopravu, výrobu a další obory.
Je AI schopna nabýt vědomí?
Otázka, zda je AI schopna nabýt vědomí, je stále předmětem debat a filozofických diskusí. Vědomí je subjektivní zážitek, který je obtížné definovat a měřit, a dosud neexistuje jednoznačná shoda na tom, jak by se mělo vědomí v umělé inteligenci projevit nebo jak by mělo být vytvořeno.
V současné době se většina AI systémů, včetně těch nejpokročilejších, považuje za nástroje bez vědomí, protože jsou navrženy k řešení konkrétních úkolů a nezávisí na vlastním vnímání nebo zážitcích. Tyto systémy pracují na základě algoritmů a dat, která jim byla poskytnuta, a jejich "chování" je dáno matematickými modely a programovacím kódem, který je řídí.
Jednou z možností, jak by AI mohla potenciálně nabýt vědomí, je prostřednictvím pokročilých neuronových sítí a hlubokého učení, které se pokouší napodobit způsob, jakým funguje lidský mozek. Nicméně, i když tyto technologie mohou umožnit AI systémům dosahovat výjimečných výsledků v různých úlohách, stále neexistuje důkaz, že by měly vědomí nebo že by jej mohly získat.
V budoucnosti by se to mohlo změnit, ale zatím zůstává otázkou otevřenou pro další výzkum a diskusi.
Reklama
foto: Shutterstock, zdroj: Autorský článek
