Po celém světě zavádějí policejní složky a zpravodajské agentury technologie, které bez souhlasu veřejnosti představují značné riziko zneužívání soukromí. Mezi ně patří i technologie na rozpoznávání obličeje, která se dostává i do Česka a která v zemích, jako jsou USA, Británie nebo Švédsko, již v neregulované podobě stihla napáchat značné škody. Nutno podotknout, že je-li technologie implementována a spravována zodpovědně, může se stát významným hnacím motorem pro pozitivní změny. Pořád tu ale zůstává velké „ale“.
Snímače obličejů mohou urychlit imigrační proces na letištích, rozpoznávání obličeje může zabezpečit platební systém, který se testuje třeba ve Finsku. Není-li ale technologie kontrolována, může být velmi snadno zneužita. Evropská komise si toho je vědoma, a proto jedná o zavedení odpovídajících opatření.
Jak zamezit zneužití
Komise už od konce srpna plánuje vydat nařízení, která by měla občany EU před zásahy do soukromí uchránit. Jak informují Financial Times, děje se tak v rámci přepracovávání způsobu, jímž Evropa reguluje umělou inteligenci.
Evropští občané by měli mít pravomoc vědět, kdy a kde jsou údaje o rozpoznávání obličeje používány s výjimkou striktně stanovených bezpečnostních regulí.
Záměrem takových opatření by mělo být omezení nevyváženého používání technologie rozpoznávání obličeje společnostmi a orgány veřejné správy. Podle plánu by evropští občané měli mít pravomoc vědět, kdy a kde jsou údaje o rozpoznávání obličeje používány s výjimkou striktně stanovených bezpečnostních regulí.
Na King´s Cross to přehnali
Bruselská iniciativa nabyla na naléhavosti ve chvíli, kdy bylo odhaleno užívání technologií rozpoznávání obličeje pro monitorování davů v oblastech, jako je londýnské nádraží King´s Cross, které v polovině srpna podnítilo britské vyšetřování kvůli ochraně osobních údajů.
To ale není jediný případ, kdy v Británii došlo ke zneužití technologie pro dohled bez informování obyvatel. Podle odborného technologického serveru Telecoms bylo z takového počínání usvědčeno i několik vlastníků nemovitostí a muzeí. Ještě znepokojivější je, že některé z těchto údajů byly sdíleny s policejními složkami.
Právě takovým případům by měl přechod k jasné legislativě, která se týká technologie rozpoznávání obličeje, zabránit a posílit ochranu občanů, a to i v souvislosti s nařízením EU o ochraně osobních údajů, které je známé pod zkratkou GDPR. Shromažďování citlivých „biometrických“ údajů, jež je možné použít k identifikaci osob, je v rámci GDPR dneska již zakázáno, pokud k němu občané nedají výslovný souhlas.
Švédsko udělilo první pokutu
Rostoucí využívání sledovací technologie ve veřejných prostorách způsobilo, že se rozpoznávání obličeje stalo předmětem regulace. Elizabeth Denhamová, komisařka britského úřadu pro informace ICO, uvedla, že je zaváděním technologie rozpoznávání obličejů mezi policejními a bezpečnostními silami v Británii hluboce znepokojena.
A švédský úřad, který dohlíží na ochranu osobních dat, udělil v rámci GDPR první pokutu za zneužití rozpoznávání obličejů škole, která technologii testovala pro sledování každodenní účasti studentů.
Důvěra v umělou inteligenci?
Bruselské plány na úpravu užívání technologie rozpoznávání obličeje jsou součástí úsilí Unie o vytvoření eticky založených zákonů, které upravují užívání umělé inteligence. Ačkoliv je plán zatím v rané fázi, cílem je posílit důvěru veřejnosti, která se týká právě technologie rozpoznávání obličejů. Jeho součástí by zároveň měla být jasně formulovaná pravidla, která by na základě stávajících opatření vyplývajících z GDPR jednotlivce ochránila před jakýmkoliv zneužíváním této podoby umělé inteligence.
Rizika pro základní lidská práva mohou znamenat například i aplikace umělé inteligence, které dokonale dokážou simulovat podobu jakéhokoliv lidského obličeje.
Neregulované systémy umělé inteligence mohou dnes podle názoru Evropské komise sbírat data o občanech bez vysvětlení, proč to vlastně dělají, bez možnosti postihu a nepotřebují k tomu ani odpovědného partnera, ať už je jím regulátor v dané zemi, nebo příslušný orgán, který se bezpečností zabývá.
A právě v tom tkví nebezpečí, které je podle Komise nutné eliminovat regulací pravidel. Významná rizika pro základní lidská práva mohou znamenat například i aplikace umělé inteligence, které dokonale dokážou simulovat podobu jakéhokoliv lidského obličeje a vytvářet takzvané deep fakes.
Reklama
foto: Profimedia, zdroj: Financial Times