Spisovatel Jaron Lanier: Deset důvodů, proč vymazat všechny své účty na sítích

Počítačový odborník a spisovatel Jaron Lanier ve své poslední knize „Deset důvodů, proč vymazat své účty na sociálních sítích – teď hned“ rozebírá systém „Bummer“. Ten za pomoci algoritmů modifikuje chování uživatelů sítí tak, aby to vyhovovalo především inzerentům. Jeho závěry nemusíme hned přejímat do důsledků, ale vycházejí z hluboké analýzy mechanismů, jimiž technologičtí giganti mění samotnou podstatu lidství.

„Nebuďte pes, buďte kočka,“ radí Lanier uživatelům sociálních sítí. Giganti jako Facebook podle něj mění uživatele na domácí zvířata, která reagují na píšťalku. Ovšem kočky, jakkoli jsou též vtaženy do moderního hi-tech světa, si zachovávají svébytnost.

Průzkumy chování publika sice dělali různí inzerenti už dříve, ale obecenstvo nebylo monitorováno a vyhodnocováno nepřetržitě, aby jej dotyční mohli dynamicky a optimalizovaně stimulovat.

„Nehrozí, že by nějaký kradmý algoritmus vytvořený na objednávku oligarchy převzal vládu nad kočkou. Kočky na internetu jsou jedinou nadějí, kterou lidstvo má. Byznys jde za penězi a vy, co máte moc a zodpovědnost, můžete sítě změnit k lepšímu,“ říká.

Návykový Facebook

Ke skutečné změně chování lidstva dochází až v posledních pěti letech, kdy většina obyvatel planety nosí po kapsách smartphony umožňující algoritmickou modifikaci chování (Bummer). Jsme hypnotizováni technikami, které nevidíme, za účely, které neznáme. Algoritmy sbírají data každou vteřinu. Na jaké linky klikáme, jaká videa sledujeme? Kde se při tom nacházíme? Co jsme dělali těsně před tím, než jsme se rozhodli něco koupit či nekoupit? Než jsme se rozhodli jít či nejít k volbám?

Musíme vám občas dát malou dávku dopaminu, pravil loni na podzim Sean Parker, první prezident Facebooku.

Jestli tento text čtete na tabletu nebo jiném elektronickém zařízení, je tu slušná šance, že nějaký algoritmus shromažďuje data o tom, jak dlouho vám trvá přečtení jedné stránky, nebo kdy čtení zanecháte a půjdete dělat něco jiného. Algoritmy nám ve skutečnosti nerozumí, píše Lanier, ale v metadatech se přesto ukrývá síla. Jestli spoustu lidí s podobnými stravovacími návyky odradil obrázek nějakého kandidáta ve fialovém rámečku, ale nikoli v modrém, odradí nejspíše i nás, ačkoli nikdo nemusí tušit proč.

Z filmu The Social Network z roku 2010. Vlevo Justin Timberlake jako Sean Parker a Jesse Eisenberg jako Mark Zuckerberg

Podobné průzkumy sice dělali různí inzerenti už dříve, ale obecenstvo nebylo monitorováno a vyhodnocováno nepřetržitě, aby jej dotyční mohli dynamicky a optimalizovaně stimulovat. „Ano, jsme podrobováni nepřetržitému výcviku jako psi,“ píše Lanier. Klienti velkých korporací se nás pokoušejí dálkově ovládat. To nejmenší, co pro sebe můžeme učinit, je si tuto skutečnost uvědomit.

Dávka dopaminu

Jestli to někomu přijde přitažené za vlasy, ať si poslechne, co o svém vynálezu říkají samotní tvůrci algoritmů. „Musíme vám občas dát malou dávku dopaminu,“ pravil loni na podzim Sean Parker, první prezident Facebooku v letech 2004–2005.

„Třeba tak, že vám někdo dá lajk nebo okomentuje fotku. To vás přiměje, abyste na Facebook nahráli víc obsahu, čímž se dostanete do smyčky zpětné vazby. Je to přesně to, s čím přijde hacker jako já. Zneužíváme zranitelnost lidské psychiky. Myslím, že vynálezci – já, Mark Zuckerberg, Kevin Systrom z Instagramu – všichni jsme přesně věděli, co děláme. Sociální síť má vedlejší důsledky, když se rozroste na miliardu nebo dvě miliardy uživatelů. Doslova mění vztahy ve společnosti. A jenom bůh ví, co dělá Facebook s mozky našich dětí.“

Algoritmy v drobných krůčcích neustále mění samy sebe, aby dosahovaly lepších výsledků a zvyšovaly naše angažmá, které posléze přináší inzerentům vyšší zisky.

Bývalý viceprezident Facebooku pro růst uživatelů (2007–2011) Chamath Palihapitiya to shrnul možná ještě lépe: „Myslím, že jsme vytvořili nástroje, které trhají na kusy předivo fungování společnosti. Cítím obrovskou vinu. Jsem přesvědčený, že jsme to hluboko uvnitř věděli – ačkoli jsme oficiálně drželi linii, že se nic zlého nemůže stát. Facebook mění způsob, jímž se lidé chovají jeden k druhému a ke společnosti. Neexistuje důvěra ani veřejná diskuse. To není věc ruské reklamy. Je to globální problém. Nemám na něj dobré řešení. Prostě už léta Facebook nepoužívám. A i mé děti to mají zakázané.“

Ráj nihilistů

Jelikož se lidé z Křemíkového údolí nyní kají, mohlo by se zdát, že stačí počkat, až sami závadu opraví. Jenže takhle věci nefungují, argumentuje Lanier. Celý obchodní model sociálních sítí je totiž postaven na míře našeho angažmá, zapojení se do online komunikace a jediným účelem adaptivních algoritmů je toto zapojení povzbuzovat.

Sociální média nefandí žádné straně ani světonázoru, nejsou levicová ani pravicová, ovšem fungují nejlépe, když je pohání vztek.

Adaptivní algoritmy v drobných krůčcích neustále mění samy sebe, aby dosahovaly lepších výsledků a zvyšovaly naše angažmá, které posléze přináší inzerentům vyšší zisky. V algoritmech je pokaždé přítomno trochu nahodilosti. Takový algoritmus třeba nabídne koupi nějakého produktu pět vteřin poté, co nás dojalo video s nějakým roztomilým koťátkem. Zanedlouho provede automatický test k ověření, zda bychom produkt nekoupili spíš po čtyřech a půl vteřinách. Když to zafunguje, vyzkouší čtyř a půl vteřinový interval na dalších několika tisících lidech. Jestliže nás nějaký post před volbami podnítil k silným emotikonům, při příštích volbách algoritmus zamíří obdobné posty na tisíce jiných – nám podobných – uživatelů.

První prezident Facebooku Chamath Palihapitiya už Facebook svým dětem zakázal. Svůj profil na něm nemá ani on

Algoritmus ví, že chování se nejsnáze modifikuje při silných, jednoznačných emocích, takže takové emoce za účelem vylepšení sama sebe vyhledává. A silné, snadno identifikovatelné emoce jsou podle biologických zákonů téměř vždy negativní. Sociální média nefandí žádné straně ani světonázoru, nejsou levicová ani pravicová, ovšem fungují nejlépe, když je pohání vztek. Kombinace biologie a matematiky tak za účelem vyšších výnosů pro třetí stranu generuje online války, které polarizují společnost a aktivizují odpor. Všichni nihilisté světa dávno vědí, že na internetu se jim skoro zadarmo dostává obrovské pozornosti. Ve světě informačních válek se konečně našli a svým nihilistickým offline existencím dali ex-post nějaký smysl.

Ale i ostatní uživatele nemusí technologičtí obři zrovna dvakrát povzbuzovat. Propagační kampaň odpracujeme za ně v podstatě tím, že se necháme strhávat. Mnozí jsme si stačili povšimnout, že v každém uživateli dřímá kus internetového trolla, kousek zombie, závisláka bez vůle. Facebooku je fuk, zda kopete za Miloše Zemana, nebo za Jiřího Drahoše. Důležité je, že v honbě za pozorností – za svou dávkou dopaminu – kopete jako o život.

Prodáme váš vztek

Problém nespočívá ve smartphonech ani v internetu, zdůrazňuje počítačový guru a autor výrazu „virtuální realita“ Jaron Lanier. Spousta platforem, třeba Netflix nebo eBay, se nikoho nesnaží manipulovat. Navíc nechat se zhypnotizovat samo o sobě nemusí být škodlivé. Jestliže ale prověřeného hypnotizéra nahradíme nějakou osobou, kterou neznáme, která pracuje na zakázku někoho, o kom nic netušíme, a necháváme se tudíž hypnotizovat za neznámým účelem, měli bychom zpozornět.

Hlavní potíž sociálních sítí je totiž obchodní model, jehož základní motivací je hledat zákazníky, kteří jsou ochotni platit za behaviorální modifikaci uživatelů. Tomuto modelu říká Lanier právě „Bummer“ (anglicky „průser“). Před nástupem socnetů se inzerenti snažili změřit, jak se zvýší prodej nějakého výrobku po odvysílání reklamy, nyní chtějí od provozovatelů sítí znát, jak a kdy uživatelé mění své chování.

Sociální síť by ve skutečnosti nejúčinněji zreformovalo, kdyby všichni vlivní a zasíťovaní lidé naráz opustili své účty.

Jestliže celé schéma zesiluje víc negativní emoce než pozitivní, vyplatí se všem hráčům v konečném součtu společnosti ubližovat, nikoli ji třeba vzdělávat. Nejvíce pozornosti strhávají nihilisté a jejich posty generují nejvíce provozu, který je zase reklamním nosičem. Když se dvě miliardy lidí snaží strhnout co nejvíc pozornosti, výsledkem je, že nejviditelnější skupinou na sociální síti se stanou „assholes“ (hovada), píše Lanier.

Netoxické sítě

Sociální síť by ve skutečnosti nejúčinněji zreformovalo, kdyby všichni vlivní a zasíťovaní lidé naráz opustili své účty. Vzhledem k závislosti, kterou vyvolává, je Facebook občas přirovnáván k tabákovým koncernům. Lepší přirovnání však nabízí barva obsahující olovo. Když se podařilo prokázat, že olovo je ve skutečnosti škodlivé, nikdo nezačal navrhovat, aby se přestalo s natíráním domů. Naopak, vlivem tlaku zákazníků a nové legislativy se novým standardem staly bezolovnaté nátěry. Chytří lidé si počkali, až budou na trhu bezpečné varianty barev. Stejně tak by se poučení zákazníci měli začít shánět po netoxických verzích sociální sítě.

Bummer se nakonec nemusí ukázat dlouhodobě dobrou obchodní strategií, shrnuje Lanier. Ale výsledek závisí na tom, jak moc se necháme zmanipulovat. V další kapitole Jaron Lanier mimo jiné vysvětluje, proč má většina lidí v sobě “vnitřního trolla”.