Dokáže technologie rozpoznávání obličejů pomoci odhalit zločin?

Zdá se to jako ideální řešení. Například skenování každého obličeje, který přijde do obchodu, a jeho porovnání s databází osob zadržených za krádež. Obsluha obchodu tak ví, na koho si dát pozor. Takové řešení nelze prodejcům zazlívat, protože policie toho s krádeží v obchodě obvykle moc nenadělá…

Jak to funguje?
Algoritmus pracuje s množstvím fotek lidských obličejů a informacemi o tom, koho která fotka zachycuje. Dokáže najít charakteristické prvky a použít je k identifikaci. Nejde o měření rozměrů obličeje nebo jeho částí. Technologie vyhodnocuje přechody světla a stínu v lidském obličeji a detekuje tak určité body, díky nimž utváří 3D obraz tváře. Pracuje tedy spíš s texturou obličeje. Proto ho může zmást, když například někdo přibere na váze nebo si nechá narůst plnovous. Problém představuje taky nedostatečně transparentní algoritmus rozpoznávání — pokud technologie pracuje s tisícovkami snímků, nelze už dohledat, jak přesně dospěla ke svému závěru.

Lidská práva by mohla být v ohrožení
S nástrojem pro sledování obličejů Rekognition přišel například Amazon. Když však jeho technologii otestovala organizace ACLU (American Civil Liberties Union), došla k zajímavému, trošku zábavnému, nicméně i znepokojivému výsledku. Software měl za úkol porovnat databázi obličejů členů Kongresu Spojených států amerických s osobami, které byly v minulosti zatčené. Za „kriminálníky“ chybně označil 28 kongresmanů, přestože ani jeden z nich nikdy v americké věznici nepobýval.
ACLU se tak snaží upozornit na to, že ani technologie, jejíž prodej Amazon cíleně směřuje na americké policejní útvary, ani legislativa ještě nejsou připravené na používání rozpoznávání obličejů v tak závažných situacích, jako je identifikace zločinců. Rozpoznávání obličejů je navíc méně přesné, přijde-li na lidi tmavší pleti nebo ženy, čímž může vést k diskriminaci.

Nejde jen o technologii, ale především o následné nakládání se získanými daty. Co na to GDPR?
Databáze obličejů jsou vlastně sbírky osobních údajů, přesněji biometrických dat. Zpracování takových osobních údajů v českém právním prostředí jsme se podrobněji věnovali v našem článku Technologie rozpoznávání obličejů při nakupování — pro koho je užitečná? Společnosti, které tato data spravují, tak musejí činit v souladu s GDPR, ale i se zákony konkrétní země. Zákon by musel obsahovat výslovné zmocnění takové zpracování provádět, avšak doposud jsou české zákony příliš vágní, a tak ani samotní prodejci technologií na rozpoznávání obličejů nevědí, co je ještě legální, a co už ne.

Ačkoli se dostupné technologie neustále zlepšují a na dobře osvětlených místech, jako jsou například odbavovací přepážky na letištích, mohou fungovat dokonce lépe než pouhé lidské oko a uvážení, obava o lidská práva je jistě na místě. Spáchat zločin a po usvědčení jít do vězení je jedna věc. Rozpoznávání obličejů má ale předcházet zločinu. Je například etické automaticky předpokládat, že člověk se záznamem bude krást znovu, a nepustit ho do obchodu?

Zvažujete použití technologie na rozpoznávání obličeje? Nezapomeňte na dvě zásadní věci:

• Posuďte vliv takového zpracování na ochranu osobních údajů dotčených osob — proveďte DPIA. Náš nástroj PRIVATRY obsahuje formulář, který vám s DPIA pomůže.
• Poskytněte jasný a lehce dostupný dokument informující, že k takovému zpracování dochází. Forma takového dokumentu není pevně daná. Abyste nevypustili něco zásadního, spolehněte se raději na PRIVATRY generátor zásad zpracování.