Jde o přehnané šmírování lidí? Umělá inteligence a kamery rozpoznají už i emoce

Dobrý sluha, ale zlý pán. Přísloví se stejně tak dobře jako k ohni může vztáhnout na moderní kamerové systémy. Překotný vývoj technologií na poli umělé inteligence a biometrického hromadného sledování vzbuzuje značné obavy dokonce v Evropském parlamentu. Europoslanci poukazují na možné zneužití, narušení svobody a soukromí.

Kritici upozorňují na zkušenosti z Číny a Ruska s takzvaným digitálním autoritářstvím. Výsledkem může být až neustálý dohled nad podezřelými jedinci. „Databáze, které budou obsahovat biometrické údaje, třeba tvář člověka, jsou velmi rizikové. Bydliště nebo jméno si můžete změnit, obličej ne,“ upozornil Jan Vobořil, ředitel Iuridicum Remedium, spolku zabývajícího se digitální svobodou.

Města v Česku jsou kvůli prevenci kriminality prošpikována kamerami. Státní i obecní policie léta ujišťuje, že monitorovací systémy napomáhají bezpečnosti a dle zákona sledují pouze veřejná prostranství. Pokročilejší kamery s biometrickým rozpoznáváním fungují na pražském Letišti Václava Havla. „Na dalších veřejných místech Policie České republiky takové systémy nemá,“ řekl Deníku mluvčí cizinecké policie Josef Urban.

Přínosná, ale i riziková. Regulace umělé inteligence v EU je o krok blíž

Zatím. „V roce 2023 musí být uvažováno nad každou technologií, která zefektivní výkon práce. Jedná se především o politické téma spojené s investicemi do rozvoje. Současně ale tuto oblast pečlivě sledujeme a průběžně analyzujeme velký přínos systému pro bezpečnosti občanů,“ dodal Urban.

Snahu pražské městské policie o nasazení nejnovější technologie s rozpoznáváním tváře odmítlo vedení magistrátu za bývalého primátora Zdeňka Hřiba (Piráti). „Nechci podporovat Velkého bratra v čínském stylu,“ napsal tehdy.

Podle právníka Vobořila jsou některá města na nasazení pokročilých nástrojů sledování připravená, zatím je ale nepoužívají. „Zprovoznit systém není až tak složité a nákladné. Je to spíš otázka rozhodnutí,“ varoval.

Už ne sci-fi, ale realita

Nejmodernější kamery napojené na umělou inteligenci s možností hromadného rozpoznávání tváří v reálném čase přinášejí možnosti jako ze sci-fi filmů. „Kamerové sledování s využitím biometriky je kvalitativně skokově dál než současný monitoring. Dokáže z řady úhlů rozpoznat v davu jednotlivé lidi. Automaticky, bez lidského faktoru. Díky tomu lze ‚na jedno kliknutí‘ snadněji rekonstruovat pohyb kohokoliv po městě,“ popsal Vobořil.

Soukromý sektor podle něj zase láká rozpoznávání emocí a věku osob. Kamery rychle vyhodnotí, třeba jak velké počty lidí reagují na reklamu.

Naproti tomu u biometrických údajů v mobilu problém nespatřuje. „Přestože je mobil Velký bratr v naší kapse, otisky prstů či tváře jsou uložené ve vašem zařízení. Nemáme informace o únicích nebo externím odesílání těchto citlivých dat. Navíc člověk si chytrý mobil nemusí pořizovat,“ zmínil Vobořil.

Bezpečnost na letišti

Právě kvůli nebezpečí zneužití citlivých osobních údajů v souvislosti s nejnovějšími technologiemi projednávají na půdě Evropského parlamentu Akt o umělé inteligenci. Jak už Deník informoval, včetně právní regulace využívání biometrického dohledu. „Nesmí se stát, aby někdo používal tuto technologii k diskriminaci či šmírování občanů. Nebo jako v Rusku při identifikaci obličejů demonstrantů na protiválečných protestech,“ sdělil europoslanec Marcel Kolaja (Piráti).

Budou nás léčit roboti? Umělá inteligence slibuje zázraky i ve zdravotnictví

Podle Vobořila nejrozsáhlejší veřejně známý systém s automatickou detekcí obličejů v Česku funguje na Letišti Václava Havla. „Je výhradně v gesci bezpečnostních složek státu,“ odkázala Deník mluvčí Letiště Praha Klára Divíšková.

Ministerstvo vnitra za dřívějších vlád rozhodlo o zabezpečení Letiště Václava Havla 145 kamerami s automatickým rozpoznáváním obličejů, z toho 45 schválilo do veřejného prostoru letiště. Podle cizinecké policie, která systém provozuje, ale bylo instalováno 111 kamer. „K rozšíření nedošlo. Zvažovaly se také projekty na dalších letištích,“ potvrdil mluvčí cizinecké policie Josef Urban s tím, že zůstaly na papíře.

Iuridicum Remedium už dříve ve studii o využití biometriky při sledování veřejného prostoru v České republice tvrdilo, že provoz tohoto kamerového systému na Letišti Václava Havla nesplňuje řádně všechny zákonné povinnosti. Policie to odmítá. A tvrdí, že s daty je nakládáno legálně. „Biometrické otisky tváří cestujících jsou uchovávány třicet dní v anonymizované podobě,“ konstatoval Urban.

Úřad pro ochranu osobních údajů však Deníku sdělil, že na letišti neprováděl kontrolu uvedeného kamerového systému. „V případě, kdy jsou spolu s obrazovým záznamem zpracovávány biometrické charakteristiky subjektů údajů (charakteristika tváře či chůze), je třeba pečlivě posoudit, zda je pořizování biometrických charakteristik skutečně nezbytné pro naplnění účelu zpracování osobních údajů. Představuje to totiž zásadní zásah do soukromí takto monitorovaných osob,“ konstatoval mluvčí úřadu Milan Řepka.

Sledování hooligans a nakupujících

Identifikaci problémových fanoušků díky biometrice při vstupu na české fotbalové stadiony však Úřad pro ochranu osobních údajů nepovolil. V odůvodnění uvedl, že zpracování biometrických údajů by dle GDPR v tomto případě vyžadovalo výslovné zákonné zmocnění, které musí být přiměřené sledovanému cíli. Ligová fotbalová asociace nicméně v materiálu k požadavkům na infrastrukturu stadionu do budoucna počítá s možným rozšířením kamerových systémů o rozpoznávání tváře. „Pro identifikaci a zabránění vstupu nežádoucích osob na stadion,“ zdůvodnila.

Na některých stadionech západní Evropy už kontroverzní technologii použili. A francouzský parlament nedávno schválil novelu zákona o používání umělé inteligence k bezpečnostnímu monitoringu. Opatření souvisí s olympijskými hrami v Paříži v příštím roce.

Umělá inteligence změní budoucnost. Nesmí sloužit jen bohatým, říká vědec Fořt

V Evropě fungují i systémy na odhalování zlodějů v supermarketech. Společnost Coop nasadila unikátní technologii poprvé od letoška v berounské prodejně. Umělá inteligence sbírá data z kamer umístěných v obchodě a vyhodnocuje nestandardní chování zákazníků. Podle provozující firmy Sensormatic ale systém nesbírá a neukládá biometrická data zákazníků, pouze analyzuje části těla. „Není to primárně založeno na sledování osobních údajů,“ potvrdil rozdíl Vobořil.

Přesto Úřad pro ochranu osobních údajů na základě poznatků získaných z médií vyzval správce osobních údajů k zaslání dokumentace k posouzení vlivu na ochranu osobních údajů. „Aktuálně ji vyhodnocujeme. Neprobíhá ani kontrola, ani správní řízení,“ doplnil mluvčí úřadu Řepka.