Umělá inteligencE už předčila lidský mozek...

VILIAM LISÝ:

Mgr. Viliam Lisý, Ph. D. (34), pracuje M Vili Li ý Ph D 34) j na katedře počítačů Elektrotechnické fakulty ČVUT v Praze. Je expertem na umělou inteligenci a jedním z tvůrců neporazitelného pokerového programu DeepStack!

- Co říkáte slovům fyzika Stephena Hawkinga, který varuje, že umělá inteligence se jednou může vymknout kontrole člověka?

"Laická veřejnost, ale i mnozí vědci toho o umělé inteligenci zas tak moc nevědí. Proto je představa o ní dosti zkreslená. A tak vnímám i slova Stephena Hawkinga, který je jinak samozřejmě vynikajícím fyzikem."

- Umělá inteligence je veřejností považována za něco velice složitého…

"Přesně tak, a já rád říkám, že umělá inteligence funguje jako kouzelnický trik. V aplikacích budí dojem, jak je systém mimořádně inteligentní. Ale je to dáno tím, že je to přesně tak narafičené, aby uživatel ze svého pohledu měl dojem, že je to inteligentní. Ale ve skutečnosti je systém za tím velmi jednoduchý a následuje sadu relativně jednoduchých pravidel. Prostě aplikuje program, který dostává. Proto si také nemyslím, že bychom byli blízko nějakým nebezpečným scénářům souvisejícím s umělou inteligencí."

- Co je vlastně umělá inteligence?

"Je to obor informatiky (computer science), který se zabývá úkoly, ve kterých je člověk momentálně lepší než stroj. Ty se samozřejmě časem mění a vyčleňují se z toho postupně různé obory, jako např. strojové vnímání a rozpoznávání obrazů."

- V čem jsou stroje roje lepší než člověk?

"Počítače jsou v některých oborech výborné, protože dokážou zpracovat hodně jednoduchých kalkulací, velmi rychle počítat komplikované vzorce. Ale třeba tak jednoduchá věc, jak rozpoznat, že na obrázku je třeba kočka nebo pes, což je i pro dítě snadné, to je pro stroj velmi obtížný úkol. A umělá inteligence se zabývá právě takovými problémy a snaží se v nich posunout počítače k tomu, aby dokázaly lépe fungovat."

- Je to softwarová záležitost?

"Ano, je to primárně softwarová záležitost, jen občas se objeví nějaké směry, které se snaží v hardwaru implementovat některé postupy, které se původně zkoušely v softwaru, aby to bylo rychlejší. K vývoji přispívají r také stále vyspělejší v grafické karty, které se nepoužívají jen na grafi-ku, ale i na různé výpočty, které jsou časté v umělé inteligenci. Hardware je spíš o tom, jak urychlit věci, které už fungují v softwaru. Klíčový je ale software."

- Jaké má umělá inteligence limity?

"Myslím si, že žádné. Podle mě je vlastně člověk takový biochemický stroj, a čím budeme umět lépe simulovat, jak člověk funguje, tak se mu budeme umět lépe vyrovnat, a když dokážeme některé věci dělat lépe v rámci algoritmů, tak ho dokážeme i v některých ohledech překonat."

- Dokážete už simulovat činnost lidského mozku?

"Ještě nejsme tak daleko, abychom rozuměli lidskému mozku natolik, abychom ho dokázali simulovat. Ale základní principy, na kterých funguje, se často přenášejí do umělé inteligence a pokoušíme se problémy řešit a přenášet do algoritmů pomocí těchto principů."

- Asi je těžké si představit, že vlastně simulujete biochemické pochody v mozku…

"Ano, je to primárně softwarová záležitost, jen občas se objeví nějaké směry, které se snaží v hardwaru implementovat některé postupy, které se původně zkoušely v softwaru, aby to bylo rychlejší. K vývoji přispívají také stále vyspělejší grafické karty, které se nepoužívají jen na grafi- ku, ale i na různé výpočty, které jsou časté v umělé inteligenci. Hardware je spíš o tom, jak urychlit věci, které už fungují v softwaru. Klíčový je ale software."

- Jak fungují takové neuronové sítě?

"Základní koncept je, že mozek je složený z neuronů, které jsou hustě propojené. V těchto propojeních je zachycená paměť a tím, jak navzájem interagují tyto jednotky, mozek počítá. Tyto základní principy se přenášejí do matematických modelů, na základě kterých fungují umělé neuronové sítě."

- Jak vypadá taková neuronová síť?

"Z 99 procent je to software. Existují firmy, které se snaží vytvořit hardware, který opravdu vykonává některé tyto operace, ale primární důvod je, aby to bylo rychlejší. Není to nějaký biochemický umělý mozek, jestli myslíte to.

- Je reálné, že se jedou jednou kompletně nasimuluje lidský mozek?

"Myslím si, že je to reálné, ale ne v blízké budoucnosti. Podle mě to bude možné minimálně za desítky, možná ale až za stovky let. Postupně budeme stále lépe rozumět chemickým procesům probíhajícím v mozku, tak budeme umět stále lépe nasimulovat, jak to funguje."

- Ale možná ani dokonalá simulace neznamená mená nejlepší řešení?

"Přesně tak! Dokonalé simulace mozku nemusí být tím nejefektivnějším způsobem, jak vytvořit umělou inteligenci. Protože už nyní dokáže počítač některé věci řešit lépe a rychleji než lidský mozek."

- V čem počítače stále zaostávají za mozkem?

"Je to především o výpočetním výkonu. Mozek je masivně paralelní, děje se tam strašně moc věcí najednou, v jednom okamžiku, a naše počítače stále do nějaké míry fungují sekvenčně. Představa Předsta simulace mozku v jeho va komplexní složitosti je zatím z výpočetního hlediska nemožná, ale nemusí nemožná to být ani nutné, jak jsem už řekl."

- Dá se říct, že jsme ještě mozek v celé jeho složitosti nepochopili?

"Ano, nevíme proto, ani co předně chceme simulovat, a i kdybychom to věděli, tak na to nemáme dostatečný výkon. Takže na to, abychom dokázali vytvořit vytvo velmi výkonné počítače, nepotřebujeme úplně pochopit mozek, třeba dokážeme i jinými způsoby kážeme vytvořit velmi inteligentní stroje."

- Spolupracujete při využívání neuronových sítí s biology a lékaři?

"My přímo ne, protože my sítě využíváme a snažíme se nad nimi stavět další technologie. Ale vědci, co se zabývají vývojem těchto sítí, samozřejmě úzce spolupracují s biology právě kvůli tomu, jak lidský mozek funguje a jaké inspirace by odtud mohli získat."

- Bude jednou lidský mozek překonán stroji, co se týče schopností?

"Už nyní je v mnoha ohledech překonán, počítač dokáže prohledávat obrovské databáze, dokáže s i zapamatovat velké množství informací, což by lidský mozek nikdy nedokázal. Takže stroje budou v nějakých úzkých oblastech člověka překonávat, ale že bychom komplexně mozek stroji překonali, to mi přijde jako věc hodně daleké budoucnosti."

- V čem je největší síla lidského mozku?

"V obecnosti, a to je také aspekt, kterého se lidé lid obávají, tedy te obecné umělé inteligence. Pokud Po by se podařilo vyvinout vyv umělou inteligenci, která bude rychlejší a efektivnější k než lidský mozek a bude autonomní, tak z toho mohou plynout rizika. A dává smysl, že se tím už lidé začali zabývat. Abychom něco nepřehlédli…"

- A stroje nás pak neodstavily…

"Něco v tom smyslu. Ale hysterie rozhodně není namístě, jen to nesmíme podcenit. A třeba Stephen Hawking a další vynikající vědci předkládají katastrofické vize právě z toho důvodu, abychom to nepodcenili a opravdu se jednou něco takového nestalo. Snaží se zburcovat lidi."

- K takovým katastrofickým vizím asi vedou představy o systémech, které se samy zdokonalují…

"Ano, tímto směrem se nyní pracuje, ale většinou jsou to jen velmi úzké no oblasti specializované na jednu věc. Když máme oj systém na rozpoznávání hlasu, tak ten systém bude umět stále dokonaleji rozpoznávat hlas a přepisovat ho s méně a méně chybami do textu. Ale když od něho budeme chtít rozpoznat i obrázky, tak to absolutně nezvládne."

- A umí se tento systém sám učit?

"Ano, systém má základní strukturu, která je uzpůsobena pro řešení jednoho problému, má data na vstupu a výstupu, a z těch dat se pak sám učí. Trvá to velmi dlouho a je to jen jedna specializovaná oblast."

- Váš tým už takovou specializovanou umělou inteligenci sestrojil v podobě systému hrajícího poker…

"Ano, DeepStack je právě taková úzce specializovaná umělá inteligence. Skvělý pokerový algoritmus, ale kdybychom chtěli, aby podobně skvěle hrál třeba bridž nebo šachy, tak se sice dají opětovně použít některé základní myšlenky, ale museli bychom vyřešit mnoho dalších problémů, udělat hodně výzkumné práce, aby to dokázalo hrát také bridž a šachy."

- Jak dlouho vzniká takový umělý pokerový šampion?

"Pracoval na tom rok desetičlenný tým lidí."

- Jak jste ho vytvořili?

"Vymysleli jsme systém, který umí dobře hrát poker. Dali jsme mu neuronovou síť, algoritmus, jak tu síť trénovat, bylo tam hodně strojového učení, ale zároveň hodně věcí, které jsme tam nenaprogramovali, ale nechali jsme ten systém se to naučit. Ale to stále znamená, že jsme museli připravit data, ze kterých se bude učit, nějakým způsobem navrhnout algoritmus, kterým se bude učit, a potom mít velké množství výpočetního výkonu. Zdaleka to ještě není tak, že bychom měli nějaký obecný systém, který můžeme naučit úplně cokoliv."

- Proč je váš systém lepší než pokeroví šampioni?

"Hraje výrazně lépe a rychleji než člověk, protože lidé jsou relativně špatní, co se týče statistik, a ta je v pokeru hodně důležitá. A náš systém přesně vyhodnocuje, jak hrát s pravděpodobnostmi v určitých situacích, což lidský mozek tak precizně nedokáže. Náš systém odhalil v jednoduchých pokerových situacích zákonitosti, na jejichž základě se naučil odhadovat, jak je ta která situace pro něj výhodná."

- Vy jste naučili počítač i blafovat, jak jste to dokázali?

"To se naučil on sám, protože poznal, že je to důležité a jen tak může zvítězit. A naučil se to tak, že hrál velké množství partií sám proti sobě. My jsme mu jen řekli, jaká jsou pravidla, a nechali ho hrát. A on se metodou pokus – omyl a projížděním statistik her naučil blafovat. Pokud by nikdy neblafoval, jeho kopie hrající za oponenta by se naučila po zvýšení vždy slabší karty složit. Proto zkoušel občas zvyšovat i se slabými kartami. A pokud to nedělal příliš často, oponent slabší - karty složil. l. Postupně se pak ak naučil, jak často sto je optimální blafovat často a jak často a s jakými kartami na druhé straně hrát dále."

- Takový softwarový softwarosystém musí být velice složitý!

"Systém byl tvořen více než 100 000 řádky programu. Samotná neuronová síť, která tvoří jen jeden komponent systému, je datová struktura, jejíž každá jednotlivá jednotka byla relativně jednoduchá. Složitost ale vzniká z toho, že těch jednotek bylo propojených sedm vrstev po 500 jednotkách, takže 3500 těchto jednotek. A mezi jednotlivými vrstvami byly ty jednotky plně propojené."

- Když se takový umělý inteligentní systém napojí na internet, jaká jsou rizika?

"Vycházíme z toho, že musíme takovému systému nejprve naprogramovat nějaký cíl, který se bude snažit plnit, a nějaký základní algoritmus, jakým způsobem bude ten cíl plnit. Lidé často dodávají umělé inteligenci lidské vlastnosti, že třeba bude závistivá, že bude chtít ovládat svět, že má prostě emoce. Ale žádné emoce stroje nemají, pokud se to do nich samozřejmě nepokusíme naprogramovat."

- Myslíte si, že se jednou nebude chtít umělá inteligence zbavit člověka?

"Může se stát v horizontu stovek let, že u nějaké takové vyspělé obecné inteligence nastane nějaká chyba, teroristé do ní zadají zlovolné cíle a podobně. Ale věřím, že budou existovat další mocné umělé inteligence, které budou schopné ji zastavit."

- Největším nebezpečím umělé inteligence asi bude možnost jejího zneužití?

"Ano, největším rizikem jsou lidé, kteří takovou techniku zneužijí ke svým cílům…"