Daniel Stach, moderátor ČT
Spolu s námi. Prof. Michal Pěchouček, ředitel Artificial Intelligence Center Fakulty elektrotechnické ČVUT. Pane profesore, vy jste člověk, který se velmi pečlivě zabývá jak bezpečnostní AI, tak také dopady, tak samotnou strukturou toho systému. Jste rád, že právě za matematiku, která stojí v pozadí, bude udělena Nobelova cena?
Michal Pěchouček, FEL
Je to fantastický výsledek a já jsem rád, že výbor, který uděluje Nobelovu cenu, reflektoval, že jeden z největších výsledků, který dneska vidíme v aplikacích a který způsoby, jakými žijeme, jsou základy strojového učení a základy neuronových sítí, které oba dva laureáti postupně dali dohromady. Takže za mě je skvělá zpráva a gratuluju oběma laureátům.
Daniel Stach, moderátor ČT
Mluvíme o tom, kam jsme se dostali. Na tom úplném začátku výpočetní techniky byl Alan Turing. Britský vědec v roce 1950 publikoval článek s názvem Výpočetní stroje a inteligence. V něm položil klíčovou otázku: Můžou stroje myslet? O šest let později se na letním vědeckém projektu potkaly špičky tehdejší počítačové vědy. Po dvou měsících představily myšlenku, že každý prvek učení nebo inteligence může být popsán natolik přesně, aby jej šlo strojově simulovat. A poprvé tam, tedy v roce 1956, taky zazněl termín umělá inteligence. Letos ocenění věci patří mezi generaci, která strojové učení posouvala desítky let dopředu. Pak přišly ty viditelné klíčové změny, mimo jiné, když stroj poprvé porazil člověka.
Kateřina Poláková, redaktorka ČT
Poprvé počítač porazil člověka v roce 1997. Šachový program Deep Blue zvítězil nad světovým velmistrem Garym Kasparovem. Další systém vyvinutý IBM zvítězil o čtyři roky později v televizní soutěži. Prokázal schopnost pochopení mluveného slova, včetně dvojsmyslů, jinotajů nebo jazykových hříček. V roce 2016 došlo na mnohem variabilnější hru než šachy a program Alfago od Googlu porazil největšího šampiona této hry Leese Dola.
......
Daniel Stach, moderátor ČT
Pane profesore, pokud by AI byla člověkem, v jakém je teď věku? Chodí do mateřské školy, do základní školy, šetří na důchod?
Michal Pěchouček, FEL
To je skvělá otázka. Já si myslím, že AI paralelně vyspívá v různých disciplínách, a to, jak jsme tady viděli v úvodní ukázce, ve schopnosti řešit problémy a hrát hry. AI se dostala se ke všem těm testům, benchmarkům, které máme my jako lidi. Já bych tady zmínil, že česká stopa tady v pokroku umělé inteligence je algoritmus DiepStack, který porazil člověka v pokeru, který sestavili studenti Karlovy Univerzity a ČVUT. Ale zároveň v té době se říkalo, že člověk překonává umělou inteligenci v tom, že je schopen si udržet různé množství informací v hlavě a umět nad nimi intuitivně rozvažovat a že v tom člověka umělá inteligence nikdy nepokoří. A to je tam jako druhá kategorie schopnosti umělé inteligence, obecné znalosti, obecně s nimi pracovati. A tady si myslím, že se umělá inteligence dostává do poměrně dospělého věku. To, co nás dneska čeká, je to, do jaké míry se podaří vědcům a technologům tady ty dvě schopnosti propojit. Tu schopnost propojit statistické uvažování o datech, která jsou na internetu. To je to, co dneska dělají modely Chat GPT. A potom to uvažování, ta schopnost hrát strategické hry, uvažovat do hloubky a plánovat dopředu, to je to, co v minulosti firma DeepMind ukázala na těch hrách, které jste zmiňovali a dneska Open AI v rámci svého nového modelu Chat GPT O.1.
Daniel Stach, moderátor ČT
Vy jste na začátku roku v České televizi říkal, cituji, Vaše slova: "Co jsme věděli o umělé inteligenci před rokem, už neplatí." Vzhledem k té dynamice toho vývoje myslíte, že za rok to řeknete znovu?
Michal Pěchouček, FEL
Myslím si, že schopnost předpovídat exponenciální rozvoj technologií je velmi složité. Určitě bude spousta věcí, které nás překvapí a které se vyvinou výrazně rychleji, než jsme očekávali. Ale obecně si myslím, že my jako lidi předvídáme vývoj technologií tak, že podceňujeme dlouhodobý vývoj a přeceňujeme krátkodobý vývoj. Takže si dokážu představit, že v některých aspektech nás možná modely zklamou za rok, ale dlouhodobě nás určitě překvapí a budou schopny inteligenci, kterou dneska, které se nám dneska ani.
Daniel Stach, moderátor ČT
Je to právě Geoffrey Hinton, který 10 let pracoval pro Google a který se podílel na vývoji umělé inteligence a teď před umělou inteligencí varuje. Mimo jiné tvrdí, že může zničit lidstvo. Mimo jiné říká, že se jako Openheimer, který stál za vývojem atomové bomby, světu dává nástroj, který může být zneužit...... Pane profesore, vy zmiňujete, že umělá inteligence může být mimo jiné silným nástrojem manipulace kvůli šíření různých falešných videí. Jsou dobře známé obrázky od Open AI, tedy systém Musora, který tady je, vidíme vytvořen pouze umělou inteligencí na základě toho zadání. Vy sám ale říkáte, že největší síla umělé inteligence pro stranu zla je v tom, že dokáže optimalizovat a navrhovat, jaká alternativní realita má největší šanci ovlivnit mínění veřejnosti v daném okamžiku. Proč a jaké to má důsledky?
Michal Pěchouček, FEL
Je to pravda. Já jsem technooptimista a souhlasím s tím, že umělá inteligence může zcela zásadně urychlit vědecký vývoj a může nám pomoci vyřešit těžké problémy dříve. Ale zároveň umělá inteligence má negativní možné důsledky. A já jsem nadšen, že Hinton dostal Nobevu cenu, protože on je ten lídr oblasti varování před případnými negativními negativními důsledky rozvoje umělé inteligence. A technologický svět se mu dneska vysmívá. A já říkám, že je vizionář, protože nás varuje před tím, co nechceme vidět. A krásný příklad je historie firmy Open AI, která vznikla jako taková, že měla chránit lidi před rozvojem umělé inteligence a v tomto velkém rozmachu se zmorfovala do firmy, která naopak využívá umělou inteligenci pro maximalizaci profitu a veškeré ochranné mechanismy, které v té firmě řídí rozvoj umělé inteligence, byly navrženy pro to, aby ten překotný rozvoj inteligence hlídaly, bohužel selhaly. Stejně jako snaha legislativců v Kalifornii regulovat umělou inteligenci byla bohužel vetována před několika dny guvernérem, takže já si myslím, že každý hlas, který racionálním způsobem a na základě srozumitelných argumentů varuje lidstvo před tím, že se nám také může umělá inteligence vymknout z rukou, je správný hlas a měli bychom ho brát vážně.
Daniel Stach, moderátor ČT
Vy jste zároveň tím, kdo říká, že moratorium nemá smysl, že nemá smysl zastavit teď vývoj umělé inteligence. Mimo jiné proto, že by to udělal nejspíš jen demokratický svět a zbylé části světa by se takovýmto postojem neřídily. Zajímalo by mě, jak osobně hodnotíte ten postoj Geffreyho Hintona v tom směru, že roky pracoval na rozvoji EI a teď před ní varuje? Je to vystřízlivění? Nebyl to na začátku špatný odhad toho, co všechno dokáže? Co vidíte za touto otočkou?
Michal Pěchouček, FEL
Já si myslím, že to není otočka. Já si myslím, že to je vývoj. Já jsem taky vědec, studoval jsem umělou inteligenci tam, co jí studoval Geffrey Hinton. Každý z nás nějak přispěl svým dílem k rozvoji umělé inteligence, která má bezesporu spoustu pozitivních dopadů na lidstvo a jsem rád, že se tak děje. A myslím si, že taky rád Geffrey Hinton. Ale to neznamená, že nemá negativní důsledky, a to neznamená, že na to nebude poukazovat. Já si myslím, že Hinton neudělal odbočku, že to prostě bylo jisté vyústění jeho výzkumného snažení. Snad jediné, co se dá označit za odbočku, je to, že mnoho let pracoval pro Google a byl v centru toho technologického dění a v roce 23 se rozhodl, že nechce být s tou firmou spojován. Toto bych řekl, že je možná něco, co se dá označit za změnu názoru, změnu postoje. Ale jednak si myslím, že jeho názory jsou po celý život veskrze konzistentní.
Daniel Stach, moderátor ČT
Popisuje Michal Pěchouček, který byl spolu s Lenkou Zdeborovou hosty dnešního vysílání ČT24. Paní profesorko, pane profesore, moc vám děkuji, brzo na shledanou.