Českým kriminalistům bude pomáhat umělá inteligence
Technologie na rozpoznávání obličejů je téma, které stále vyvolává ostré diskuze. Česká policie se i přesto rozhodla začít už letos využívat systém vyvinutý českou společností Cogniware.
Aby systém dokázal identifikovat člověka, potřebuje jen pár sekund a ani nemusí jasně vidět celý jeho obličej. Podle výrobce dokáže od samotného obličeje odlišit brýle, vousy, roušky, dokonce čte emoce. Stačí mu pár bodů, které se při porovnání s databází již zaznamenaných fotografií nebo videí (v případě zvuku hlasových nahrávek) budou s nějakým záznamem shodovat. Databázi tvoří nejen materiály z průmyslových kamer, ale údajně také například ze sociálních sítí. Díky nim technologie předává informace o tom, s kým se dotyčný zná, a tak může například odhalit celou zločineckou organizaci.
Zní vám to fantasticky, nebo spíš děsivě?
Systém sice umí rozpoznat obličej, hlas nebo chůzi, ale nelze očekávat, že bude pracovat bezchybně. Zatím ho využívají například tajné služby a policie ve Spojených arabských emirátech, Saúdská Arábie, Jordánsko nebo Bahrajn.
„Tyto státy mají volnější pravidla, co se ochrany osobních údajů týče (…),“ uvedl sám majitel společnosti Ján Račko. (zdroj: Novinky.cz)
Že jsou si sami prodejci technologie vědomi její nebezpečnosti, potvrdil i představitel vývojářů Walter Pavliš: „Je to v jistém smyslu zbraň. Když máte psa, tak může být hodný a chránit vás, ale také zlý a zaútočit. Vždy se musí dodržovat právní úprava státu, který jej používá.“ (zdroj: ČT24)
V souladu s ochranou osobních údajů a soukromí? Jsme skeptičtí.
Občanům Evropské unie v tomto ohledu poskytuje záruky obecné nařízení o ochraně osobních údajů (GDPR) a případně legislativa na státní úrovni.
„Plošné použití nebo použití bez dostatečného zákonného základu je u nás neakceptovatelné,“ upozorňuje Jakub Hruška z Privatry.
Obavy vzbuzuje zejména do značné míry utajené zpracování údajů ze sociálních sítí a jiných webových stránek. Poskytovatelé podobných technologií se navíc často mylně domnívají, že mohou využívat veřejně dostupných dat v podstatě bez omezení. To ale není pravda. I na zveřejněné údaje se vztahuje ochrana podle GDPR a je nutné se vypořádat se všemi povinnostmi, které z toho vyplývají, včetně dostatečného zákonného základu pro takové zpracování a informování dotčených osob. Viz případ polského Bisnodu.
Ani dosavadní praktické zkušenosti s tímto typem technologií bohužel nejsou příliš pozitivní.
Už v našem článku Dokáže technologie rozpoznávání obličejů pomoci odhalit zločin? jsme stručně popsali, proč proti nim bojuje například organizace ACLU (American Civil Liberties Union). Konkrétně jsme se věnovali jejímu testu nástroje Rekognition od společnosti Amazon, při němž software chybně označil 28 členů Kongresu Spojených států amerických za kriminálníky.
Je známo, že rozpoznávání obličejů je méně přesné u lidí tmavší pleti, a tak může vést k diskriminaci a neoprávněným zatčením. To je jeden z důvodů, proč San Francisco, jako první v USA, zakázalo používání této technologie. Jeho rozhodnutí schvaluje i Timnit Gebru, vedoucí týmu pro etickou umělou inteligenci společnosti Google. V rozhovoru pro NYT vedle chybovosti umělé inteligence upozornila také na problém tzv. automation bias (zkreslení automatizace): „Když vám intuice říká, že snímek nevypadá jako Smith, ale počítač říká, že je to on na 99 %, budete pravděpodobně věřit jeho verzi.“
Kombinace nedokonalé technologie, nedostatečné transparentnosti, rizika selhání lidského faktoru a možného zneužití je z našeho pohledu zatím příliš nebezpečná na to, abychom měli klidný spánek. Nezbývá nicméně než počkat, jaké konkrétní využití pro dané technologie policie najde a jak se vypořádá s požadavky na ochranu soukromí a osobních údajů. V každém případě by jakémukoli použití technologií pro rozpoznávání obličejů mělo předcházet důkladné posouzení vlivu příslušného zpracování na ochranu osobních údajů, tzv. DPIA. Těšíme se na vyhotovení této analýzy a detaily řešení potenciálních konfliktů s ochranou soukromí lidí.
O náš názor na technologii rozpoznávání obličejů jsme se s vámi podělili už ve starších článcích:
Dokáže technologie rozpoznávání obličejů pomoci odhalit zločin?
Technologie rozpoznávání obličejů při nakupování — pro koho je užitečná?
Jak zamezit vstupu nežádoucích osob na fotbalové stadiony?
