Jan Čech z Fakulty elektrotechnické ČVUT hostem pořadu Studio 6 na ČT 24

Dobré ráno vám přeji dobré ráno Letiště, to je jeden konkrétní praktický přístav Případ kam se takový systém hodí, kde ještě se dá typicky nasadit?

mluvčí 13,
No, nasadit se dá téměř kdekoliv. Právě ty stadiony se nabízí. Pokud vím, tak v Evropě to vlastně možné není a jediná teda myslím, v Evropské unii, ale na druhou stranu ve Velké Británii podobné systémy nasazené jsou proti hooligans.

mluvčí 10,
Na tom letišti. Pokud si to správně vybavuju, to funguje tak, že kamery jsou umístěné mimo jiné u informačních, příletových a odletových tabulí. Tam se musí člověk na nějakou dobu podívat právě do toho objektivu, aby systém stihl vyhodnotit, o koho jde, z jak dlouhého časového úseku obvykle takové systémy dokážu vlastně dobře člověka analyzovat.

mluvčí 13,
Ty systémy jsou dneska velice přesné a velice rychlé. Stačí typicky jediný obrázek. Dokonce existují služby, které neběží, tedy jako nasazené v prostorech běžných, ale existují komerční služby. Kde můžete položit dotaz vyhledání obrázkem vyhledání fotografií Běžné vyhledávače to nepodporují Samozřejmě, protože to je velice citlivé, ale existují takové služby. Můžete si zaplatit za dotaz a uložit tam nějakou fotografii. Ono vám to vlastně ve zlomku sekundy najde. Kde se ten člověk všude vyskytuje Na internetu?

mluvčí 10,
Podle jakých všech parametrů umí ten systém člověka posuzovat? Nejde jenom jaksi o fotku obličeje. Co ještě gesta? Co ještě posuzuje?

mluvčí 13,
Ty systémy hledající shodu Identity fungují na základě obličeje. Ty mají několik obrázků. Pokud je video, tak mají několik obrázků. To samozřejmě zpřesňuje přesnost té identifikace, ale z hlediska i z hlediska identity se nepoužívají gesta nebo takovéhle věci, ale je to v principu možné? ANO.

mluvčí 10,
Proč je z právního hlediska tak důležité, nebo hraje takovou roli to, jestli obraz posuzuje AI nebo ne.

mluvčí 13,
NO proč AI, nebo ne? To je otázka spíše na zákonodárce. Jistě ne na mě jako technika, ale ty systémy jsou velice, spíše problém, že ty systémy jsou příliš přesné, že dokonce se ukazují. Existují studie, že úloha verifikace obličeje, to znamená mám jeden obličej, fotku 2 lidí, fotku 2 fotky a mám zjistit, jestli to je stejná identita. Stejný člověk a tuhletu úlohu lidi běžně řeší a umí dobře, ale přesto ty systémy jsou mnohem lepší jako řádově lepší než lidi než průměrný člověk.

mluvčí 10,
To znamená, II se nemýlí v té identifikaci.

mluvčí 13,
Může se samozřejmě mýlit taky. Mýlí se ale jinak než člověk typicky EIA je tak dobrá, jako jsou dobrá její trénovací data, takže existují různé jako odchylky v těch trénovacích datech. Některé demografické skupiny nejsou dobře reprezentovány, tak tam to funguje hůře, ale jinak je mnohem jako řádově lepší než člověk.

mluvčí 10,
Jsou cesty, které jaksi může člověk, který nechce být rozpoznán, nějak využít. Dají se ty systémy obcházet?

mluvčí 13,
No to je zřejmě těžké, protože ty systémy jsou naučené tak, aby tohleto nešlo. Například když změníte účes nebo když si muži nechají narůst vousy, tak to nepomůže. Když si vezmete nějaké brýle, tak to typicky taky nepomůže. Dokonce nepomůže ani rouška. Nebo částečně pomůže jenom málo jo, ale nepomůže ani vytvořit nějaký jako zvláštní výraz, ale zase trošičku to zhoršují kvalita obrazů, neobvyklý úhel a podobně. Ale vy jako pokud chcete, aby vaše fotografie nebyly nalezitelné na internetu, tak máte málo možností. Existuje jedna možnost, a to je vlastně určitá zranitelnost neuronových sítí, kde můžeme vlastně do obrázku naší fotografie vložit tzv. adversariální šum, který vlastně poškodí rozhodování těch AI systémů. A na tohle jsou Neurové sítě velice citlivé a dají se snadno tímhletím oblafnout. Protože přestože člověk nevidí rozdíl, nevidí, tak tyhlety systémy se tím můžou nechat zmást, ale stoprocentně to samozřejmě není.

mluvčí 10,
Jak se tyto systémy, které využívají k identifikaci lidí právě umělou inteligenci, dají zabezpečit, aby ta data neunikala dál do internetu.

mluvčí 13,
Teď úplně nerozumím, jak to.

mluvčí 10,
Aby vlastně umělá inteligence sesbírá data a zůstaly to v nějakém balíku, jaksi je zabezpečeno, aby to z toho balíku nešlo dál.

mluvčí 13,
No, tak ta ty systémy na rozpoznávání lidí, ty jsou naučené tak, že se shromáždí nějaké databáze, Ten vývojář shromáždí miliony obrázků a možná i desítky milionů. A na tom natrénuje. Má k nim anotovaná data, co je to za identitu. A to natrénuje. Model Ten model se znamená, že se nastaví něco jako já nevím. 60 000 000 vah 60 000 000 parametrů a tohleto je někde uloženo na serveru a to je jako, aby se dostal k těm primárním datům, tak to je běžný kybernetický útok, že jo, to jako běžná kybernetická ochrana.

mluvčí 10,
Úplně ochránit nedá.

mluvčí 13,
No, tak cokoliv může vždycky nějak uniknout.

mluvčí 10,
Říká Jan Čech z ČVUT. Moc vám děkuji za rozhovor. Hezký den.

mluvčí 13,
Na shledanou.