Umělé mozky jsou už všude kolem nás

Roboti a umělá inteligence (UI) dělají obrovské pokroky, ale k tomu, aby nahradili člověka, mají ještě pořádný kus cesty před sebou.
Nejprve musíme zjistit, jak UI vůbec myslí. "Rozhoduje se tak, jak jsme ji naprogramovali, jak jsme jí řekli, jenom úplně neumíme říct proč," přiznává profesor Michal Pěchouček, přední světový kybernetik, úspěšný podnikatel a investor, šéf katedry počítačů na Fakultě elektrotechnické ČVUT v Praze a jeden z letošních kandidátů na rektora naší největší technické univerzity.

- LN Máme se bát toho, že vznikne umělá inteligence či superinteligence, která se postaví proti lidem?

To je zcela legitimní otázka, stejně jako jestli přiletí mimozemšťané a ovládnou Zemi. Obojí lidé řeší posledních zhruba sto let. Jestli je to ale dnes relevantnější než dřív, to nevím. Vypadá to sice, že dnes máme víc informací než dřív, ale není tomu tak. To, že vidíme velký rozvoj umělé inteligence specializované na určité úkoly, nám nepomůže při odhadování, jestli se dočkáme obecné superinteligence podobné člověku, i když řada lidí dnes tvrdí opak. Dnes umělá inteligence hraje výborně poker, řídí auta, pohyby raket, zkrátka umí fantastické věci. Neznám ale takovou, která by zároveň řídila a uměla hrát go.

- LN Slavný počítač Deep Blue ale byl naprogramovaný, aby hrál šachy přímo s Garrim Kasparovem, aktuální AlphaGo už dostal jen pravidla a porazil velmistry sám. Není tohle velký skok?

Ano, učení je obrovský skok a dnes se hodně probírá. Stroj se skutečně sám učí, což znamená, že zpracovává obrovské množství dat a vyhodnocuje, jak je nejlepší hrát. V tom je podobný lidskému učení. Naučí se časem třeba rozpoznávat sám druhy hub. Nemyslím si ale, že to je svatý grál pro obecnou umělou inteligenci. Zásadní je nacházení podobností v odlišných světech, říct si sám, proč mám něco dělat. Všechny sofistikované programy dnes dělají, co jsme je my naučili. Není nejmenší záblesk algoritmu, který by se rozhodoval opravdu sám.

- LN Samořiditelné auto tak bude dělat jen ta rozhodnutí, která mu naprogramujeme? Třeba zda v bezvýchodné situaci ohrozí spíše svého řidiče, nebo lidi na ulici?

Bude mít nějaké pravidlo; ale je to trochu umělý, hypotetický příklad. Nevím, kolikrát v historii skutečně stál člověk před soudem za to, že se dostal opravdu do situace, kdy mohl otočit volantem doleva či doprava a pokaždé by někoho zabil. Nehodovost a chybovost s roboty a samořiditelnými auty značně klesla.

- LN Není tedy problém spíš v tom, že si od umělé inteligence slibujeme, že bude lepší než my lidé?

Roboti a umělá inteligence se mimořádně zlepšují. Rozšiřují inteligenci člověka. Ale podstatou obecné inteligence je schopnost propojovat. Třeba to, že umím dobře řídit v zácpě, souvisí s tím, jak zvládám emoce v osobních vztazích. Někdo umí třeba dobře počítat, někdo je nadaný skladatel. Ale proč byli geniální matematici i skvělí hudebníci, to nevíme. A právě propojování je klíč k obecné umělé inteligenci, v čemž ale věda dnes žádný pokrok nedělá. Obrovské pokroky se dělají právě v úzkých specializacích.

- LN Co chybí k tomu, aby se to propojilo?

Právě že nevíme. Na to je potřeba spousta vědecké práce, na kterou ale máme jen omezenou kapacitu.

- LN A nehrozí nám spíš nadvláda algoritmů, které jsou už dnes všude kolem nás?

Jednak je potřeba říci, že UI je už dnes všude kolem nás, ale je neregulovaná. A bude ji potřeba nějak regulovat. Už dnes nejen že řídí třeba dopravu, ale prakticky rozhoduje i o našich nákupních zvycích. Obrovské a velmi citlivé téma je umělá inteligence v medicíně a v léčbě, tam se určitě bez regulace neobejdeme.

- LN Co bude tedy dalším krokem ve vývoji umělé inteligence?

Vysvětlitelnost jejího rozhodování, to je zásadní i právě pro regulaci, nastavení pravidel.

- LN My tedy nevíme, proč se neuronová síť rozhoduje tak, jak se rozhoduje?

Dá se to tak říct. Rozhoduje se tak, jak jsme ji naprogramovali, jak jsme jí řekli, jenom úplně neumíme říct proč.

- LN To ale není zas tak daleko od nějaké dystopické představy…

Ale to, že nás nějaká UI obklopuje a my ji nejsme schopni vysvětlit, neznamená, že se objeví obecná inteligence, která zničí lidstvo a ovládne svět. Vysvětluje to třeba, proč rozšíření umělé inteligence do obrany a zbrojení není takové, jaké by mohlo být. I ti, kdo se označují za válečné štváče, se bojí dát robotům do ruky zbraně bez kontroly...

- LN Co je ta skutečně dystopická vize umělé inteligence? A proč se k ní dnes vůbec tolik upínáme?

Dnes vidíme úžasné věci v té úzce specializované umělé inteligenci a to je vzrušující. Probouzí to lidskou fantazii. Dystopii si ale představuji tak, že lidstvo nezvládne nástup umělé inteligence. Nebo ji někdo zneužije k manipulaci lidí, k tomu, na co se budeme dívat, co budeme nakupovat. Druhá věc je, že je stále velmi křehká. Někdo na ni může zaútočit a vypnout tak třeba zdravotní péči. Především ale celospolečenská změna daná nástupem umělé inteligence bude obrovská, nejen na trhu práce a v sociálním systému. A nevím, jestli lídři, kteří mají šanci na to, připravit své země, k tomu mají dost velkou fantazii.