Britský profesor: Můžeme zkrotit aplikace, jež nabádají k sebevraždě či terorismu?

Čtrnáctiletá Britka Molly Russellová spáchala v roce 2017 sebevraždu poté, co na internetu vídala obrázky sebepoškozování a sebevražd. Její Instagram byl těchto výjevů plný. Pinterest jí ještě měsíc po její smrti posílal automatické e-maily s doporučeným obsahem. A i tam šlo o sebepoškozování. Otec Molly vinil z tragédie právě Instagram a Pinterest, sítě, které jí dodávaly závadný obsah. Profesor John Naughton, který na britské Open University vyučuje mediální dopady na veřejnost a je také autorem knihy From Gutenberg to Zuckerberg: What You Really Need to Know About the Internet, popisuje pro Guardian, jak je těžké najít hranici mezi „doporučováním“ obsahu a cenzurou.

Když se někdo zajímá o terorismus nebo sebevraždy a aktivně tento obsah hledá a navštěvuje, algoritmus mu dodává tuto tématiku.

Každý, kdo používá web, tato doporučení zná. Algoritmus například u každého sleduje, co uživatel koupil v online obchodě, a pak mu nabízí další zboží, které s předchozím nákupem nějak souvisí. Někdy jsou doporučení vítaná a uživatel tyto informace ocení. Jsou ústředním prvkem personalizace obsahu, nejenom reklamního. Když někdo vyhledává a sdílí informace o psech, je zaškatulkován jako milovník psů a sociální sítě a reklamní systémy mu nabízejí relevantní obsah. Když se někdo zajímá o terorismus nebo sebevraždy a aktivně tento obsah hledá a navštěvuje, algoritmus mu pochopitelně dodává tuto tématiku.

Jak zastavit algoritmus

Pokud teenageři hledají informace o sebepoškozování a prohlížejí si fotky pořezaných zápěstí, jsou následně zahrnováni dalším podobným obsahem, který jim servírují z tohoto pohledu velmi hloupé a primitivní algoritmy sociálních sítí. V důsledku průšvihů, jako byla sebevražda Molly Russellové, jsou sociální sítě nuceny veřejností a regulátory nějak zakročit, s tímto obsahem bojovat, znepřístupňovat ho. Problém házejí na uživatele, který obsah vytvořil, ale sítě samotné ho šíří třeba i v doporučujících e-mailech.

Každý je svéprávný a má mozek, ale je nutné tímto způsobem podporovat dvanáctileté holky v jejich sebevražedných sklonech?

Mají tedy vzniknout obrovské týmy, které budou vyhodnocovat a moderovat, co je a co není sebepoškozování, nebo to zajistí umělá inteligence? Zdá se to jako nemožný úkol, ale je potřeba někde začít, ne z tohoto podhledu závadný obsah tlačit na uživatele jen proto, že je kontroverzní, a tím pádem sdílený. Jistě, každý je svéprávný a má mozek, ale je nutné tímto způsobem podporovat dvanáctileté holky v jejich sebevražedných sklonech?

Co je vlastně zlo?

Dění na internetu odráží lidské povahy a vlastnosti jako zrcadlo, proto na něm najdeme mnoho násilného obsahu. Internet je platforma, která umožňuje vyjádřit se opravdu každému, i sebevrahovi nebo vrahovi. Je na provozovatelích služeb a hlavně jejich uživatelích, jak se k obsahu, který uvidí, postaví. Sociální sítě slouží k šíření osvěty, dobra, ale i zla. Některé zlo je zlem pro většinu populace, jiné pro její menšinu. Proti jakým druhům zla je nutno bojovat a s jakou intenzitou? Kdo to určí? To je jen pár otázek, které demonstrují, že to provozovatelé sociálních sítí nemají lehké. Mezi obviněním z cenzury a zablokováním závadného obsahu je někdy opravdu tenká linie.

Že někdo trpí depresí a hledá o ní informace, ještě neznamená, že by chtěl okamžitě taky návod, jak spáchat sebevraždu.

Odborníci kritizují sociální sítě ani ne tak za to, že se na nich objevují obrázky sebepoškozování (koneckonců je tam nahrávají uživatelé a je těžké jim v tom rychle zabránit), ale hlavně kvůli tomu, že je pak dále doporučují lidem, kteří jsou nejvíce zranitelní, tedy dětem. V oblastech, jako je sebepoškozování, dezinformace, nábor teroristů nebo hoaxy, platformy sociálních médií nejen umožňují nalezení tohoto obsahu, ale zesilují ho a zvyšují jeho dosah. Příkladem mohou být různé spiklenecké teorie, které nejsou vlastně šířené jinak než na YouTubu. Podobné je to při šíření radikálních myšlenek, vedoucích až k fyzickým útokům.

Co se tedy s doporučeními, která na internetu někdy způsobí pěknou paseku, dá dělat? Jedním z přístupů je snaha o to, aby byly citlivější na kontext. Že někdo trpí depresí a hledá o ní informace, ještě neznamená, že by chtěl okamžitě taky návod, jak spáchat sebevraždu. Zlepšení softwaru není snadné, ale možné, závisí to jenom na vůli a prostředcích. Vůle mnohdy chybí, protože se všichni snaží udržet uživatele na webech a v aplikacích, zvýšit jejich angažovanost a nabídnout jim fascinující obsah.