ZNIČÍ NÁS ROBOTI?

PRŮKOPNÍK ROBOTIZACE, PROFESOR VLADIMÍR MAŘÍK ZODPOVĚDNĚ PROHLAŠUJI, ŽE ŽÁDNÝ ROBOT DOSUD ŽÁDNOU EMOCI NEPROKÁZAL.

Člověk snad od nepaměti touží vytvořit umělou bytost. Dnes je na dobré cestě, aby se mu to ve vzdálené budoucnosti podařilo. Al e jak moc je vzdálená? A jak dobrá? Vědci, počítačoví experti i filozofové už varují: umělá inteligence nám zatím slouží, může však člověka zničit, ovládnout ho.
I průkopník robotizace u nás, jeden z nejvlivnějších vědců, profesor VLADIMÍR MAŘÍK (66), apeluje, aby si lidstvo nezahrávalo a včas se zastavilo.
Jenže – umějí se lidé vůbec zastavit?

- Pane profesore, zeptám se hned na začátku, ať vím, na čem jsem. Dožiji se toho, že se umělá inteligence vyrovná té lidské?

Já si myslím, že my dva se toho nedožijeme. A buďme rádi.

- Zrovna od vědce, který se umělé inteligenci věnuje, bych takovou odpověď nečekala.

Já bych tady dokonce citoval dalajlamu: "Že nedostanete vždy to, co chcete, je někdy obrovské štěstí." To je zrovna tento případ. Rizik je mnoho.

- Než se k nim dostaneme, co to vlastně je ta umělá inteligence či robot? Golem rabiho Löwa, do něhož moderní člověk místo šému vložil počítačový program?

Svým způsobem ano. Pokud nerozeznáme, zda je nějaká reakce lidská, nebo strojová, pak hovoříme o umělé inteligenci. Kolem ní se však vytvořila spousta fám a vizí, které mají ke skutečnosti hodně daleko. Abych vám to trošku přiblížil: dnes rozlišujeme umělou inteligenci reálnou, což je vývoj systémů a algoritmů, jež mají fungovat a reagovat podobně jako člověk. To jsou třeba algoritmy pro řízení strojů a robotů v továrnách, pro samořídicí auta či vozítka na Marsu. Může to být i program zabudovaný v nějakém přístroji, který diagnostikuje z obrázku rakovinné buňky. Roboty jsou pak stroje vybavené touto umělou inteligencí. A pak je tu druhá umělá inteligence, jíž já říkám "mystická" či "božská". To je taková představa Matrixu, že někde ve vesmíru existuje jakási myšlenka, hmota, nehmota, která bude čím dál víc vnukávat strojům nějaké schopnosti. Ale to je spíš fantazie, sci-fi.

- Četla jsem, že v roce 2085 by se měl umělý mozek vyrovnat lidskému. Je to tak?

A v čem se mají podle vás vyrovnat?! V jakém výkonu nebo parametru? Co se týče třeba rychlosti algoritmických výpočtů nebo fyzické síly, pak už jsou stroje před námi. Mluvíte-li o emocích, tak zodpovědně prohlašuji, že žádný stroj dosud žádnou emoci neprokázal. Byť některé firmy tvrdí, že robota s emocemi mají. Ale i ti jsou stále jen naprogramovaní člověkem. Robot nic necítí.

- A kdy budou stroje natolik inteligentní a autonomní, že nám budou konkurovat či se stanou našimi nepřáteli, anebo nás dokonce ovládnou? Předpovědi tu už přece jsou.

To si ještě počkáme, jestli vůbec někdy. Nejspíš jste četla o předpokladech vizionáře Raye Kurzweila z roku 2005, že se nám stroje vyrovnají inteligencí v roce 2045, což později posunul na ten váš rok 2085. Ale nebojte se, loni se už vyjádřil, že v tomto století se asi nedočkáme. Narážíme na základní překážky. S miniaturizací, která je pro vývoj umělé inteligence nutná, dál než na úroveň atomu jít nemůžeme. A tam se při dnešním tempu dostaneme někdy za deset patnáct let. Pak už podle Moorova zákona nepůjde procesory dále zmenšovat ani zrychlovat. To je první překážka. A pak je tu druhá překážka, kterou vidíme stále zřetelněji: všechny ty stroje mají anorganický, neživý základ. My přitom pořádně ani nevíme, jak vzniká vědomí u živého člověka. Jak to tedy máme udělat u křemíku, což je základ čipů?! Uvědomte si, že dva živí jedinci spojí své geny a reprodukcí stvoří nové jedince s odlišně nakombinovanými geny a vlastnostmi svých předků. Dva čipy, jež obdobně stvoří třetí, mít nemůžete.

- Tedy žádný oživený robot s duší člověka? Kvůli křemíku?

Samozřejmě, můžete zkusit zrychlit vývoj tím, že spojíte například čip s živou tkání a vložíte ho do lidského mozku. Ale zatím se to moc nedaří. Pozor, ale i tak se stále pohybujeme v rovině oné reálné umělé inteligence, nikoli té vnuknuté shůry. Stále mluvíme jen o naprogramovaných strojích.

-

Jaký největší úspěch v této oblasti jste viděl? My laici čteme o dvounohém robotovi, který umí servírovat nápoje, jenž poráží člověka v šachách...

V muzeu v japonské Cukubě jsem viděl krásného tuleně, kterého bylo nebezpečné pohladit nebo na něj promluvit. Začal se hned lísat a vnucovat. Ale i to tulení dolejzání bylo naprogramované. On zaregistruje dotek nebo hlas, najde si, kdo je poblíž, a mechanickými předprogramovanými pohyby se k němu lísá. Nicméně, působilo to zvláštně a svým způsobem se člověk začal i trošku bát.

- Mazlivý tuleň asi není ten největší zázrak, výkřik pokroku, že?

Těch zařízení je hodně a nejefektivnější z nich nejsou moc vidět. Mám na mysli třeba inteligentní plánování výroby – žádného robota nevidíte, ale program je natolik inteligentní, že ušetří spoustu lidské práce. To je pro mě pravý zázrak umělé inteligence. V robotice vidíme vše – tuleň se tulí, auto jede samo, robot od firmy Toyota hraje na trubku. Ale většinou jsou to spíš artefakty. Asi víte, že tady, v Praze, byla nedávno velká akce o umělé inteligenci. Přišla tam robotická žena, jež měla napodobovat člověka, předvést, jak už jsme daleko. Nakonec její hlas pouštěli z magnetofonu zezadu. Žádná velká inteligence tam nebyla, vše bylo naprogramované, a ještě blbě.

- Když se naprogramovaný tuleň tulil, pak naprogramovaný zabiják může zabíjet. Nedávno sice velké technologické společnosti podepsaly úmluvu (podepsal ji například i Elon Musk), že nebudou vyvíjet autonomní roboty zabijáky. Jenže padouchů je na světě spousta. Neobáváte se, kam lidstvo vy vědci dovede?

Pochopitelně, obávám se. Je snem každého generála, aby měl autonomní systém, který někde sám na bojišti rozezná nepřítele, zničí ho a buď se vrátí, nebo nevrátí. Vyrobí se prostě další. Nebezpečí je v tom, že robotičtí vojáci budou mít mocné zbraně a člověk je nebude mít úplně pod kontrolou. Je to vážně riskantní. Měli bychom se zastavit a říci, kam až autonomii strojů povolíme.

- Umí se lidstvo vůbec zastavit?

To je otázka, již si také kladu. Vždy se najdou jedinci, kteří se nebudou chtít zastavit, protože větří byznys. Ale nebezpečí je tak obrovské, že lidstvo donutí zastavit se.

- A co když dojde k nějaké nekontrolované explozi umělé inteligence? Už nebude dělat jen to, co od ní očekáváme, ale začne komandovat člověka. Obavy vyslovili i excelentní vědci, počítačový experti, filozofové, jako například Stephen Hawking, Frank Wilczek, Elon Musk, Bill Gates, Nick Bostrom. Hawking dokonce řekl, že se nacházíme v nejnebezpečnějším okamžiku vývoje lidstva!

Už jsme o tom mluvili. Dobrá zpráva je, že takovou inteligenci vyrobit zatím neumíme a výzkum k podobným robotům ani nesměřuje. Ti chytří pánové, které jmenujete, jen říkají: "Lidi, neblbněte, zastavte se na určité hranici, jinak to povede k sebezničení." Přece nechceme jít za vizí superinteligence popsanou zmíněným filozofem Bostromem, v níž budeme postupně nahrazováni stroji a nikdo nebude vědět, co je člověk a co stroj! Člověk by si měl zkrátka uvědomit, že sílu zničit se má ve svých rukou. Já vím, je to těžké.

- V medicíně mají naprogramované čipy, implantáty, jež člověku s nějakým handicapem pomohou žít lépe, velkou budoucnost. Vy jste se zmínil o pokusech spojit neživou hmotu s živou. Nedoputuje věda právě po téhle cestě ke zrodu polopočítačů-pololidí?

To už je hra s ohněm. Samozřejmě, kde lékaři s pomocí techniky pomohou vrátit pacientovi aspoň přibližné vlastnosti zdravého člověka, tam to považuju za rozumné. Třeba výzkumy, že by ochrnutí lidé mohli pomocí implantátu v mozku znovu chodit, jsou skvělé. Ale existuje velké nebezpečí, že někteří vědci půjdou až za tuto medicínskou hranici. Někde musíme na etickou zeď narazit.

- Potřeboval by robot k umělému životu i hmotné tělo? Ptám se pro případ, že bychom jednou uměli sestrojit umělý mozek srovnatelný s lidským, vložili ho do nějakého androida, naskočilo by mu vědomí a on si uvědomil svou vlastní existenci. Je to možné?

Zatím nevíme. Bude záležet na tom, co od toho těla budeme očekávat. Umělý mozek zřejmě ještě dlouho nebude schopen plošně nahradit mozek člověka. Spíš se kloním k názoru, že je to nereálné po mnoho dalších století. Opravdu se ukazuje, že vědomí souvisí s živou hmotou. Je to něco, co je refl exí dlouhodobých změn v živé hmotě, schopnosti měnit se a reprodukovat. Vy máte řadu vlastností, zkušeností, schopností, archetypů zděděných po předcích. Odkud to mají vzít stroje? V současné době je propast mezi živým a neživým tak veliká, že nedokážeme udělat žádný experiment, který by tu vaši hypotézu potvrdil nebo vyvrátil.

-

Pojďme blíž k realitě: roboty, tedy ty naprogramované stroje, se využívají čím dál víc v průmyslu, v Japonsku se soustředí na jejich využití v sociální oblasti, pomáhají starým lidem. Ve kterých oborech čekáte jejich největší boom?

Umělá inteligence už proniká téměř všude. Uvidíme ji při automatickém řízení auta, časem doma, kde za nás bude uklízet, možná i vařit. Ale bude pracovat i tam, kde ji přímo neuvidíme – například v oblasti organizace výroby či rozvodu elektrické energie. Evropa a Amerika jsou už plné průmyslových robotů, chapadel a nástrojů pro automatizaci. Naproti tomu v Japonsku nejméně polovina výzkumu směřuje k těm tulícím se umělým zvířátkům, jež nahradí babičkám rodinu, k robotům sociálním, kteří by měli v některých ohledech sehrát roli partnera člověka.

- Roboti prý zanedlouho nahradí čtyřicet procent pracovních míst. To probouzí jiný strach, než o kterém jsme dosud mluvili – obyčejný strach o práci, o obživu. Co budou lidé dělat?

Nevěřte poplašným zprávám typu "roboti seberou lidem práci". Lidé budou dělat něco jiného anebo nám všem přibude o čtyřicet procent víc volného času, protože se zbylá práce rozloží na více lidí. V Česku se nyní roboti nasazují poměrně masívně kvůli tlaku odborů na zvyšování minimální mzdy. A vidíte snad nějaké fronty nezaměstnaných dělníků? Lidé se prostě přeškolí na jiné profese, přesunou se tam, kde bude stále zapotřebí člověčí dotek – do služeb, do nemocnic, k péči o staré, do vzdělávání, kultury, zábavy.

- Vývoj technologií se zrychluje. Historie umělé inteligence má teprve nějakých sedmdesát let – a kam se za tu dobu dostala! Budou lidé v průběhu svého čím dál delšího života schopni pokrok vstřebat? Nestanou se ti, kdo ho nestíhají, lidmi nižší třídy?

Všechny ty stroje s umělou inteligencí musí připravit a nastavit někdo jiný, odborník. My uživatelé je musíme být schopni ovládat pomocí několika ťuknutí a knofl íků. Jinak nemají smysl a nevyplatí se. Mezi vnímáním mladších a starších generací samozřejmě rozdíl vždycky bude, tím spíš, že se pokrok neustále zrychluje, jak říkáte.

- Propojování světa lidí se světem počítačů musí a bude mít velké dopady na celou společnost. Jak ji to změní?

Už ji to mění. Již dnes komunikujeme čím dál častěji prostřednictvím obrazovek nebo mobilů, komunikace přes přístroje sílí na úkor jednání člověka s člověkem. Stáváme se izolovanými a někteří mladí lidé – obzvlášť v technologicky vyspělém Japonsku si na to stěžují – vidí svět jen prostřednictvím svého tabletu. Už nekomunikují ani s rodiči, píší jim esemesku, co chtějí k večeři. Svět se jim tím zužuje, protože jsou schopni "zvládat" několik set kamarádů, ale už ne několik tisíc. A to je už nebezpečné.

- Čili se, byť jiným způsobem, k ohrožení lidského druhu blížíme. Všichni sedí doma u počítačů, nechodí na rande, nemají děti…

Přesně tak. Právě v Japonsku už singles představují velký sociální problém. Mluvil jsem s jedním významným japonským profesorem robotiky a on se mne zeptal: "Máš vnoučata?" "Mám dvě a čekám třetí," odpovídám. A on na to: "Ty jsi šťastný člověk! Já mám tři děti, třicátníky, a všechny jsou doma. Nemůžu je vyhnat na ulici, sedí u počítačů, tlačím je, aby šly na rande, a ony nejdou. Já se vnoučat nedočkám." Anebo jiný zážitek. Byli jsme v císařském paláci u japonské princezny, vzdělané dámy s diplomem z Cambridge. Věděla toho o umělé inteligenci opravdu hodně. Také se mne při tom zeptala na často v japonské veřejnosti diskutovanou otázku, zda by si osamocení lidé mohli nahradit partnera robotem. Musel jsem jí říci, že podle mne není zrovna šťastným řešením, bude-li se národ skládat ze samých singles žijících s roboty. Jenže oni tam ty debaty o robotech a dětech pořízených umělým oplodněním vážně vedou, protože je ten problém tíží. Snažme se, aby časem netížil i nás.

- Ale roboti, kteří člověka připomínají, už přinejmenším v prototypech existují, nebo ne? Třeba sexuální panenka Harmony prý může žárlit, stydět se, předstírat orgasmus, recitovat, nebo dokonce vést slušnou konverzaci. Někomu to může k spokojenému partnerství stačit.

To nepopírám, může. Ale je to pořád jen robot. A robot bude vždycky umět jen něco. Když ho dobře naprogramujeme na uvaření večeře, na vášnivý sex anebo k zapsání poznámek z konference, tak to bude umět. Jenže stále to nebude plnohodnotná bytost s opravdovými emocemi. Vždycky to bude jednostranný nástroj.

- Někteří vědci uvažují o tom, že by si lidé s pomocí umělé inteligence mohli zlepšovat fyzické a mentální schopnosti. Šup čip do mozku a je ze mne génius nebo olympionik. Jenže to může rozdělit společnost na lidi první a druhé kategorie, jedni na to budou mít, druzí ne. Je to možné?

Vrátím se k tomu, co jsem už říkal – ten implantát bude vždy jednostranný, nebude umět obhospodařit všechny stránky lidského života. Když si šup dáte čip do mozku, bude z vás génius při luštění křížovek nebo olympionik, to teoreticky možná půjde, ale jiné vaše schopnosti to současně oslabí. Nebudete schopná uvařit svíčkovou nebo žít běžný manželský život. Myslím si, že čipy s algoritmy jen těžko nahradí člověka v plné mentální a fyzické výbavě. Pořád tomu nemůžu uvěřit.

- Ale představte si člověka, jemuž jednostrannost nebude vadit, naopak, vše soustředí na získání moci. Bude mít dost peněz na pořízení nejrůznějších robotů a čipů, s jejichž pomocí ovládne zbytek společnosti, která k nim přístup mít nebude. Fantazíruji?

Zas tak moc ne. Už dnes je internet sítí, v níž můžete pomocí inteligentních algoritmů prováděním různých operací získat víc peněz nebo víc vlivu na úkor druhých. Těch možností je hodně – od zcela legitimního softwaru miliardáře Janečka přes falešné zprávy na Facebooku až po vyděračský software typu ransomware. Není zase takový problém dosáhnout něčeho navíc, protože ti druzí budou jakoby hloupější. Dnes jde hlavně o peníze, ale občas už i o tu moc, o ovlivňování myšlení lidí, aby se jejich model uvažování nastavil v něčí prospěch. Ať už politický, vojenský, nebo jinak strategický.

- Nerozloučíme se kvůli umělé inteligenci se svobodnou společností?

Může se to stát. Už to ostatně probíhá. Ovlivňování veřejného mínění a způsobu uvažování lidí je díky internetu čím dál snazší. Je na každém z nás, jestli se ovládnout necháme.

- Mimochodem, vy osobně používáte všechny vymoženosti svého oboru? Máte ledničku, která vám řekne, že došly párky?

Bohužel, na radovánky, jako jsou chytré přístroje v domácnosti, nemám čas. Používám jen nejjednodušší nástroje pro sdílení informací a souborů. Snažím se to omezovat, mám samozřejmě mobil, mail, ale třeba nepracuji vůbec s Facebookem. Chci mít ke své komunikaci se světem neutrální prostředí a Facebook už vás někam tlačí. A také si chci udržovat soukromí, nemusím všude vyvěšovat, co si myslím a kde jsem. Rád využiji auto, které ohlídá, abych nenaboural, ale ne, aby mě šikanovalo.

- Vybudoval jste Český institut informatiky, robotiky a kybernetiky ČVUT (anglická zkratka CIIRC), spolupracujete mimo jiné s takovými firmami jako Siemens, Ford či Airbus. Jak jsme na tom v oboru při srovnání se světem?

Špatně na tom nejsme, dokonce v řadě případů si saháme na světovou špičku. Loni například náš tým prof. Hanzálka vyhrál mistrovství světa modelů formule 1 bez řidiče, to by se bez chytrých algoritmů nestalo. Jiný náš tým, vedený dr. Šedivým, zase vyhrál v celosvětové soutěži Amazonu o nejlepší chatbot (počítačový program pro automatizovanou komunikaci s lidmi, nahrazuje třeba živé operátory, pozn. red.) druhé místo, přičemž se účastnilo 110 univerzit z celého světa. Nebo jestliže nedávno prezident Macron vyhlásil iniciativu, aby se Francie dostala na světovou špičku ve výzkumu umělé inteligence, a mezi vybranými osmi spolupracujícími akademickými institucemi je i náš CIIRC, tak to znamená, že někdo o nás ví.

- A co školy, vzdělávání? Dokáží tu proměnu technologií a společnosti zachytit?

My Češi jsme mimořádně schopní. Talentovaní mladí lidé jsou náš národní poklad. Musíme pro ně vytvořit podmínky, aby tu chtěli studovat a byli hrdí, že si můžou vybrat mezi Cambridgí, ČVUT a Vídeňskou technikou. A studují-li v zahraničí, aby se pak vraceli domů. Bohužel, tady máme vše nastavené na šeď. Elity a vizionáři, kteří za něčím jdou a chtějí pro Česko něco udělat, nejsou v tomto státě podporováni. Podporovaná je šeď. Univerzity dostávají peníze na hlavu, nikoliv na špičkovost, a to je problém. Mladí studenti a vědci odcházejí, masu úzce smýšlejících lidí nejsou schopni překonat. To je nejhorší ochuzení národa. Špičky a elity v jakémkoli oboru si musíme hýčkat.

- Slovo elita se teď moc nenosí…

Nosí nenosí, o úrovni národa rozhodují právě elity, horních pár procent, jež zemi někam směrují, mají vizi a současně zodpovědnost vůči společnosti. Zdejší školství je však stále nasměrované k masové výchově stejných absolventů, stejně šedivých, stejně profilovaných. Armáda vojáků bez velitelské elity. Bez ní se však nikam nepohneme a budeme čím dál víc směřovat k té pověstné montovně a poskytování služeb těm, co vizionáře mají. Přitom na to máme – jak naši lidé, tak naše podniky.

- Myslíte, že si to politici uvědomují?

Myslím, že mnozí ano. Nicméně se svými vizemi narážejí právě na tu určitou strnulost, určitou vlastnost českého národa věci neměnit, neposouvat příliš dopředu, protože by někteří jedinci při tom vyčnívali. To nemáme rádi. Máme rádi teploučko a klid. Ani osvícení politici zatím nedokázali bariéru setrvačného odporu šedivých, kteří sedí všude, překonat.