Mareček: Tak bezprostředně si člověk může představit třeba situace přijímání na školu, přijímání ke studiu nebo přijímání do zaměstnání nebo přidělování dávek, kde v řadě tedy těchhle těch situací už dneska se člověk setkává se systémem umělé inteligence, anebo je ten systém do nějaké míry pokřiven tím, že se nesetkává s tím systémem umělé inteligence. Typicky je v tom přijímání do zaměstnání, řada těch nejžádanějších zaměstnavatelů může dostávat stovky těch přihlášek na jednu pozici a poté vlastně se už nejedná o nějakého HR specialistů, který by podrobně procházel všechny ty stovky životopisů, ale je tam nějaký systém umělé inteligence, který předpřipraví nějakou menší množinu těch uchazečů třeba 10 nebo 20 a ten potom skutečně studuje pečlivě nějaký specialista z toho oboru odboru lidských zdrojů a tady v tomhle tom použití, pokud by ten systém umělé inteligence nebyl regulován, tak může docházet k nepřímé diskriminaci typicky osob, které třeba na té pozici ještě nepracovaly a není tedy jasné, jaký by byl jejich výkon v té dané pozici.
Mariana Novotná, moderátorka: Takže třeba u tohohle konkrétního příkladu už to budou moct posuzovat jenom živí lidé nebo si tam zpřísní ty podmínky, ne?
Mareček: Bude se tam testovat to, jak ten systém pracuje s těmi profily nebo životopisy těch uchazečů, které by takhle získal a budou nastavená poměrně přísná pravidla pro to, co ten systém musí dělat, na jakých datech musí být Učen a jak musí vyhodnocovat tady v tomhle tom případě ty životopisy tak, aby bylo možné ho považovat za důvěryhodný tak, aby splňoval ty požadavky.
Mariana Novotná, moderátorka: Hodně se taky mluvilo právě o tom rozpoznávání obličejů v reálném čase, třeba pomocí kamer na veřejných místech, tak tady ta hranice podle nových pravidel povede kudy? Co je ještě možné, co by nemělo už být?
Mareček: To je poměrně komplikované a vlastně to procházelo jakoby značným vývojem. To, co je ten finální text, tak tam jsou výjimky pro použití jednak bezpečnostními složkami, to znamená, že policie například tam má poměrně zásadní jakoby výjimky z toho, kde v reálném čase nemohou hledat bez bližších jakoby podrobností a sledovat všechny, ale mohou sledovat někoho konkrétního při například schválení soudem a poté mimo ty bezpečnostní složky a ministerstvo obrany, tak vlastně další soukromé instituce už nemohou tady tuhle tu biometrii na dálku provádět prakticky vůbec. Pokud to není.Nějakou součástí nějaké širší služby nebo nějakého širšího produktu.
Moderátorka: Tak možná, když se zdržím právě u toho srovnání dopadu na firmy a na úřady, tak jsou to jiné důsledky toho aktu.
Mareček: V případě té biometrické identifikace je to zásadně jiné mezi těmi bezpečnostními složkami a mezi firmami, u většiny firem potom to bude vyžadovat studium celé řady systémů, protože v řadě firem systém umělé inteligence dneska využíváno už poměrně široce, zatímco u většiny institucí ty systémy asi budou, pokud jsou tam nasazeny, tak už budou vysoce rizikové. Ale zase jich možná bude méně.
Moderátorka: A možná ještě nějaké další konkrétní systémy, které už nejsou tedy bezpečné podle těch nových pravidel, podle toho rozdělení?
Mareček: Určitě, tak třeba nejblíže té biometrii by třeba bylo rozpoznávání emocí a nebo řada systémů, které by porušovaly základní lidská práva nějakým způsobem.
Moderátorka: No a obecně nedáváme tímhle nebo nedá tímhle Evropa náskok právě třeba autoritativním režimům vůbec v tom vývoji v oblasti AI? Není to třeba v tomhle nebezpečné?
Mareček: Tak v nějakém smyslu, třeba tady v tomhle tom systému sociálního kreditu nebo rozpoznávání emocí určitě v Evropě nebude ani možné tak široce sbírat ta data, která by byla potřeba pro učení takových systémů, ale z druhé strany možná, že tady tohle to jsou směry, ve kterých vlastně ani člověk to v Evropské unii nechtěl navenek.
Moderátorka: Ten režim jsem třeba myslela, co se týká právě vyvíjení umělé inteligence.
Mareček: Tak v některých případech můžou být i tady tyhle ty možná problematická použití užitečná třeba pro bezpečnostní složky a ty bezpečnostní složky by z tohohle byly vyjmuty. V některých případech.
Moderátorka: Ještě jedna věc, to použití umělé inteligence je asi ještě možná frekventovanější, než si lidé vůbec dokážou uvědomit, když o tom nemají moc povědomí. Například, když používají lidé sociální sítě, tak samozřejmě už tam AI funguje, tak jak se co možná nejbezpečněji chovat, co vy byste doporučil? Na co si dát pozor?
Petr Mareček, FEL ČVUT: Tam je možné rozlišovat jakoby tu cenu těch informací, které vy poskytujete, takže ve většině případů, pokud používáte zadarmo nějakou internetovou službu nebo sociální síť, tak tím poskytujete ta data o sobě. A řada uživatelů vlastně neuvažuje o té ceně těch informací, zatím vlastně není možné ve většině případů zaplatit za nějakou variantu té služby, kde by ta data o vás nebyla dál využívána, ať už pro cílení reklamy nebo pro učení nějakých dalších systémů. A takže člověk dneska se musí rozhodovat binárně, chci používat tu službu s tím, že zadarmo, anebo nechci používat tu službu a potom ale se také nemusím vzdávat nějaké části toho soukromí, nemusím předávat tady tahleta potenciálně citlivá data.
Moderátorka Vy tyhle nějaké služby používáte?
Mareček: Ano.
Moderátorka: To znamená, že v tom nevidíte zase takové nebezpečí, že nějaké ty informace o sobě dáváte.
Mareček: No, já myslím, že je dobré o tom uvažovat ve vztahu třeba k vašim dětem. Můj desetiletý syn zatím žádné takovéhle služby nepoužívá, ale pokud to děláte vědomě, tak si myslím, že v tom nemusí být nutně větší problém.
Moderátorka: Říká Jakub Mareček z ČVUT , díky moc za váš komentář, na shledanou.