Vývoj umělé inteligence v autech

Matěj SKALICKÝ, moderátor:
Představte si svět, ve kterém si sednete do auta a pustíte si na velkoplošné obrazovce třeba film, odpovíte na e-maily nebo se dokonce vyspíte. Řízení necháte na autě. Zní to jako sci-fi z pera Isaaca Asimova nebo snad Arthura Clarka? Podle rychlosti vývoje umělé inteligence v autech je budoucnost možná blíž, než si myslíte. Na projížďku po testovacím okruhu nedaleko Frankfurtu nad Mohanem vás zve Matěj Skalický.
Na rozpáleném asfaltu stojí na první pohled zcela běžné auto, má 4 kola, volant, pedály, nic nevídaného. Jak se tak ale koukám, tak na palubní desce je připevněný velký tablet, ale jinak by člověk vlastně asi ani žádný rozdíl od jiných aut nenašel. Něco navíc ale přeci jen má. Totiž, abych vysvětlil, asi 30 metrů od nás stojí z kuželů vytvořená trať a provizorní garáž, takový dřevěný přístřešek. A právě tam bude náš testovací vůz parkovat. A podle mého řidiče Francesca tam dojede úplně sám.

řidič:
Ukážu vám systém autonomního parkování. Důležité je, že nejprve musíte cestu projet sami a auto vás potom dokáže napodobit.

Matěj SKALICKÝ, moderátor:
Takže auto si tu první cestu nejprve nahraje a pak ví, kudy má jet.

řidič:
Ano, a to až na vzdálenost 200 metrů.

Matěj SKALICKÝ, moderátor:
Můžeme to vyzkoušet?

řidič:
Jasně, nasedněte.

Matěj SKALICKÝ, moderátor:
Tohle je prototyp?

řidič:
Ano, je. Teď se přesuneme k parkovací garáži. Máme tu asi 50metrovou trať z kuželů s esovitou zatáčkou. Tak jsme tu. Auto teď bude samo řadit, zatáčet i přidávat a ubírat plyn.

Matěj SKALICKÝ, moderátor:
Vy jen držíte tedy prst na tlačítku tady na tabletu.

řidič:
Ano, já jsem tuhle trať ráno projel a auto si ji zapamatovalo. Teď ji umí projet samo.

Matěj SKALICKÝ, moderátor:
Dobře. Před námi je tedy krátká trasa, už jedeme. Volant se začal točit doleva a doprava.

řidič:
Podívejte se, jak se drží mezi kužely. Máme tu stereokameru a kolem auta jsou ultrasonické senzory. Tady nás čeká malý zádrhel. Musíme zaparkovat pozadu. Zepředu je to moc jednoduché. Podívejte, teď auto samo přeřadilo, a vidíte? Už parkuje do garáže.

Matěj SKALICKÝ, moderátor:
Vypadá to celkem bezpečně, tady tedy napravo mám jen pár centimetrů.

řidič:
Aha, to je proto, že jsem ráno zaparkoval tak, abych mohl pohodlně vystoupit já. A mimochodem, pokud třeba do garáže dáte kolo, tak auto to pozná a umí zaparkovat vedle něj. Umí se odchýlit až o 50 centimetrů od naučené trasy.

Matěj SKALICKÝ, moderátor:
A jediné, co vy musíte dělat, je zmáčknout tlačítko. Umí to auto i vyjet ven?

řidič:
Ano, umí. Když zaparkujete ve velmi těsném prostoru, můžete ho jen za pomoci telefonu dostat ven. Vyjede samo.

Matěj SKALICKÝ, moderátor:
To je skvělé. Tak díky za ukázku.
Tak, naše počínání s řidičem Francescem sledoval i Luděk Vokáč z Lidových novin. Luďku, ty se o moderní technologie v autech dlouhodobě zajímáš. Docela praktická záležitost, nemyslíš? Takhle autonomní parkování.

Luděk VOKÁČ, Lidové noviny:
Autonomní parkování určitě může být praktickou funkcí. Vystoupím z auta a auto si samo zaparkuje do nějakého parkovacího místa, kdekoli. V podstatě tak, jak jsem ho naučil, nebo ideálně ještě v budoucnosti vlastně samo si klidně to parkovací místo najde a odjede. Nahradí to vlastně toho člověka, kdy třeba dnes možná znají někteří lidé, přijedou před hotel, předají klíčky od vozu, někdo odveze vůz do garáže. Tak tohle by v budoucnu auto mohlo umět samo.

Matěj SKALICKÝ, moderátor:
Tato technologie ještě není v sériové výrobě. Nicméně některé automobilky už k podobnému systému směřují.

Luděk VOKÁČ, Lidové noviny:
Ten vývoj je postupný, to, co dnes můžeme najít v některých automobilech některých značek, například BMW a Mercedes, tak je systém, který umožní zaparkovat a vyparkovat to auto, ale pouze vlastně rovně. To znamená, to auto, když zajíždí kolmo do řady, nebo třeba do garáže, pokud to, tak vy můžete vystoupit z něj venku třeba před garáží a nechat ho do té garáže zacouvat samo. Ovládá se to přes klíček nebo třeba přes chytrý telefon by to mohlo jít také.

Matěj SKALICKÝ, moderátor:
Je to další krok k tomu, aby už brzy byla auta schopná jezdit úplně sama. Je to fenomén, který zasahuje od robotiky až přes vývojáře, umělé inteligence, od laboratoří k počítačům a technikům. Vývojem autonomních se pečlivě zabývají i velké technologické firmy, Siemens, Valeo, Honeywell a další. Já jsem se teď přesunul k dalšímu stanovišti na testovacím okruhu v Boxbergu společnosti Bosch a sedám do černé limuzíny.

navigátorka:
Ukážeme vám, jak funguje autonomní řízení, a taky tu máme systém, na kterém vám vysvětlíme, jak auto komunikuje s řidičem.

Matěj SKALICKÝ, moderátor:
Říká mi navigátorka, která celou naši krátkou výpravu bude jistit ze zadního sedadla. Na klíně má klávesnici, jak se tak dívám, pomocí které ovládá velký tablet na palubní desce, a tedy i veškeré funkce auta. Vedle paní navigátorky sedí pak dvojice nizozemských novinářů. Já jsem na sedadle spolujezdce. A za volantem sedí a stále ještě řídí Stefan.

navigátorka:
Tak, teď si můžeme rozmyslet, jestli budeme řídit manuálně, nebo to necháme na autě. Tady na displayi si to můžete zvolit. Teď řídí auto Stefan, takže tu svítí velké M, tedy manuální řízení. Ještě něco přes kilometr a půl pojede on. A pak začne auto řídit samo. Řidič by měl být ale stále na pozoru, aby zasáhl, třeba kdyby systém spadl.

řidič:
Tohle je třetí úroveň autonomního řízení. Znamená to, že když auto řídí samo, nese za svá rozhodnutí plnou odpovědnost. To je velký rozdíl oproti úrovni číslo dvě.

Matěj SKALICKÝ, moderátor:
Říká Stefan a napovídá, že existuje hned několik úrovní autonomního řízení. Před lety je ustanovila Mezinárodní společnost automobilových inženýrů.

řidič:
Třetí úroveň, ta, kterou splňuje vůz, v němž právě jedeme, je tak někde napůl. Auto umí jet úplně samo, třeba na dálnici, a zvládne předjíždění, uhýbání, taky zrychluje a zpomaluje a zatáčí. Ale řidič, ten musí být vždy připravený zasáhnout.

Matěj SKALICKÝ, moderátor:
Teď se blížíme k místu, kde auto ví, že zvládne jet samo.

řidič:
Tak, a teď můžu použít tato dvě tlačítka na volantu, zmáčknu je, a tím dám kontrolu nad autem autonomnímu systému. Teď auto řídí samo.

Matěj SKALICKÝ, moderátor:
Kolegy teď zajímá, jestli Stefan stále ovládá rychlost auta, pedály.

řidič:
Ne, nic nedělám. Auto samo rozhoduje, kudy jede a jakou rychlostí jede.

Matěj SKALICKÝ, moderátor:
Naše navigátorka nám mezitím vysvětluje, jak to všechno funguje. Na tabletu teď promítá okolí auta s desítkami nebo spíš stovkami, teď jak se dívám, barevných teček, žlutých, modrých a červených, které značí bariéry, zdi nebo stromy a keře kolem.

navigátorka:
Pomocí radaru vytvoříme mapu statických objektů kolem auta. Podle barvy poznáte, z jakého radaru informace přichází. Máme jich kolem auta hodně. Vepředu, vzadu i v rozích. Díky téhle mapě se auto zvládne pohybovat mnohem přesněji.

Matěj SKALICKÝ, moderátor:
Je to poměrně zvláštní pocit. Člověk aktuálně nemá žádnou kontrolu nad tím, co auto dělá, kudy jede a jak jede. Ale zároveň je to vlastně všechno ohromně úžasné, kam technologie pokročily, a že teď člověk sedí v autě, které ho fakticky veze. Volant se sám točí, motor přidává na otáčkách, jak se mu zlíbí, brzdy brzdí, kdy je třeba, a to je takové vnitřní nadšení, radost, že se to opravdu děje a člověk ten pocit nedokáže úplně popsat.

řidič:
Když auto řídí samo, tak já si můžu číst třeba noviny nebo kontrolovat e-maily. Ale v momentě, kdy auto řekne, ať převezmu řízení, je nutné, abych tak udělal. A auto si musí být jisté, že o tom vím. To je také důvod, proč tu máme i kamerový systém. Pro monitorování řidiče. Kamera skutečně kontroluje, zda řidič je v pořádku, a dává pozor, co se děje na silnici. V autech třetí úrovně autonomního řízení například nemůžete spát.

Matěj SKALICKÝ, moderátor:
Vysvětluje Stefan a dokazuje to i na tabletu, kde teď vidíme video jeho obličeje v reálném čase a jakoby v negativu. Obraz se přenáší z kamery nad přístrojovou deskou a Stefanovi z očí a z nosu trčí digitální žluté a červené čáry, takové úsečky, auto pomocí nich totiž pozná, jakým směrem se Stefan zrovna dívá a zda dává pozor.

řidič:
Podívejte, když nedávám pozor jako teď, auto mě varuje. A když se podívám zpět, varování skončí. Tak, teď jsme u konce naší cesty. Auto se teď zeptá řidiče, zda nemůže převzít řízení zpět. A teď už nám auto říká, ať převezmeme řízení.

navigátorka:
A Stefan nepřevzal řízení, vidíte? Mohl třeba spát. Takže auto teď samo bezpečně zabrzdí.

řidič:
A když už řídit zase můžu, předá mi řízení. A můžeme pokračovat.

Matěj SKALICKÝ, moderátor:
Ok, thank you very much.
Jsme u konce. Tohle byla opravdu zážitková jízda na testovacím okruhu. Všichni jsou z toho úplně nadšení. A teď je otázka, kdy se podobný systém dostane do sériově vyráběných aut. Ale člověk, který by si řekl, že to je zatím nějaké sci-fi, tak by se velmi pletl, protože auta s třetí úrovní autonomního řízení se na silnice dostanou zřejmě už na konci letošního roku. A Německo pro to udělalo i důležitý legislativní krok, když letos na jaře schválilo zákon, který autonomní auta na silnicích za určitých podmínek dovoluje.
Příchod autonomních vozidel do běžného provozu v následujících měsících a letech vyvolává nespočet technologických i bezpečnostních otázek. Tak třeba, jak budou samořiditelná auta zvládat jízdu v provozu, kde budou stále ve většině sedět za volanty ostatních aut řidiči? Odpověď hledá Václav Jirovský z Ústavu bezpečnostních technologií a inženýrství na ČVUT v Praze.

Václav JIROVSKÝ, Ústav bezpečnostních technologií a inženýrství na ČVUT v Praze:
No, nazval bych to sociotechnický systém, to je ten dopravní systém, kde vlastně prostřednictvím nějaké technologie vyjadřujeme naše vlastní jednání a je to komunikace nějaká, řekněme, technologie nám umožňuje tu komunikaci nějak zprostředkovat, tak tam, řekněme, tím, že ty auta mají nějakou omezenou dynamiku, tak se, řekněme, dá nějakým způsobem odhadnout, jak ty ostatní vozidla se budou hýbat. Problém je třeba s chodci, problém je s cyklisty a tak dále, a ty z toho systému nikdy nedostaneme.

Matěj SKALICKÝ, moderátor:
To bychom museli podle Jirovského přestavět všechna města a veškerou infrastrukturu. A to samozřejmě není možné. Rozpoznávání prostoru kolem auta je tak zatím největší výzvou pro umělou inteligenci a autonomní systémy na palubě.

Václav JIROVSKÝ, Ústav bezpečnostních technologií a inženýrství na ČVUT v Praze:
Ten prostor okolo toho vozidla není predikovatelný úplně do nejmenších detailů, jak by to ten technický systém potřeboval, není to deterministický systém, my ho neznáme, takže vlastně i to auto může vidět něco, co vlastně v tom prostředí není, nebo nevidět něco, co tam vlastně je. My to vždycky tak sice personifikujeme, aby to, se to tvářilo jako ten člověk, ale prostě pořád je to nějaký způsob rozpoznávání něčeho v obrovském množství šumu. A to je prostě problém těchto systémů.

Matěj SKALICKÝ, moderátor:
Možným řešením je auta nejprve testovat na uzavřených tratích, tak jak se to například děje v případě autonomních vlakových souprav, podotýká Václav Kobera z odboru inteligentních dopravních systémů ministerstva dopravy.

Václav KOBERA, odbor inteligentních dopravních systémů ministerstva dopravy:
Podívejte se na železnici. V současné době existují systémy, které umožňují, aby vlak jel bez řidiče, bez, bez strojvedoucího. Ale podívejte se na to, jak to funguje. Je to tak, že máte uzavřené okruhy, na letišti většinou to bývá nebo v nějaké, nějakých linkách v metru, ani na nástupišti nemůžete vstoupit do toho kolejiště, prostě jsou to uzavřené obvody, které mají různé systémy, které musí být velmi bezpečné. Takže i v tomhle tom případě bezpečnost bude možná jednou z nejdůležitějších otázek, bez toho není možné, aby ten systém fungoval.

Matěj SKALICKÝ, moderátor:
Také proto Václav Jirovský z pražského ČVUT navrhl, aby v České republice vznikl testovací okruh pro autonomní auta. Podle červencových informací Mladé fronty DNES by polygon mohl vzniknout v Ústeckém nebo Karlovarském kraji a investovala by do něj automobilka BMW. Podle informací Českého rozhlasu projevila už na jaře o testovací okruh zájem i mladoboleslavská Škoda Auto.

Václav JIROVSKÝ, Ústav bezpečnostních technologií a inženýrství na ČVUT v Praze:
Ten okruh musí samozřejmě splňovat nejenom podmínky pro testování tedy těch nejmodernějších autonomních vozidel, ale pořád jsou to nějaké mechanické stroje, takže ta mechanická stránka je tam velmi podstatná v té funkce. Takže jsou na to kladeny požadavky nejenom jako na normální testovací okruh, ale i právě z toho hlediska té komunikace s ostatními prvky dopravy a infrastrukturou.

Matěj SKALICKÝ, moderátor:
Říká Václav Jirovský z Ústavu bezpečnostních technologií a inženýrství na ČVUT v Praze.
Víc o samořiditelných autech, o tom, kdy se dostanou na trh a jaké technologie používají, a také, zda budou umět řešit eticky sporné situace a vážnější problémy, kterým jsou dnes vystaveni lidé. Tak o tom jsem si povídal s Gerhardem Steigerem, vedoucím divize Podvozkových systémů u německé společnosti Bosch.
Pane Steigere, řekněte mi, kdy budou auta řídit lépe než lidé?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
No, to je pěkně těžká otázka. Lépe než lidé? Já to možná trochu poupravím. Otázkou je, kdy uvidíme řídit plně autonomní vozidlo v běžném provozu. A to bude začátkem příští dekády. Řekl bych někdy v letech 2021 až 2022. To by mělo začít jezdit i naše robo-taxi, které vyvíjíme s Daimlerem.

Matěj SKALICKÝ, moderátor:
Já jsem měl možnost v prototypu auta s dobře vyvinutou umělou inteligencí jet, to auto už bylo ve vývoji poměrně daleko. Tak si tak říkám, nebojíte se toho, až budou auta řídit za nás?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
Ne, samozřejmě, že se nebojím. A tady je nutné říct velmi důležitou věc. Pro nás je totiž velmi důležitou motivací takzvaná vize nula, tedy nula mrtvých na silnici. Stále totiž máme na silnicích příliš mnoho nehod. A 90 % z těchto nehod zaviní lidé. Může za to nepozornost nebo únava. Samořiditelné auto nikdy neztrácí koncentraci, jízda s ním bude mnohem bezpečnější a vyvaruje se dopravních nehod. Proto se toho nebojím. Naopak se těším. Nemůžu se autonomních aut dočkat.

Matěj SKALICKÝ, moderátor:
A nebojíte se ani situace, jak budou samořiditelná auta zvládat běžný provoz, kde budou hlavně auta řízená lidmi?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
Musíme být realističtí. Pokud chceme, aby na silnicích v budoucnu jezdilo hodně samořiditelných aut, tak nejdřív nastane situace, že jich bude jezdit poměrně málo. To znamená, že samořiditelné auto musí umět zvládat i současný provoz, kdy na silnici jezdí jak nová, tak i stará auta, která řídí lidé a kolem jsou cyklisté a chodci. To je jediná cesta, jak dostat samořiditelná auta do provozu. Ale jakmile přijdou a ukáže se, že toho všeho jsou schopná, tak to bude příležitost, aby jich přibývalo. Zabere to ale ještě opravdu hodně času, než uvidíme na silnicích jen autonomní auta.

Matěj SKALICKÝ, moderátor:
A co otázka bezpečnosti? Máte už vymyšlené, jak auta ochránit například před útoky hackerů?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
Zaprvé, co se týče technologií, tak nikdy nemáte 100% jistotu, že je bezpečná. Prochází neustálým vývojem a vždy tady budou nějací chytráci, kteří se budou snažit slabin využít. My máme vyvinutý systém, který se skládá ze 4 bezpečnostních vrstev. Jedna věc je zašifrovaný přístup do auta. Přímo ve vozidle pak máme striktně technologicky rozdělený systém infotainmentu a navigace, který je připojený k internetu, a řídící jednotku například brzd nebo řízení, která naopak k internetu připojená není. Mezi jednotlivými vrstvami navíc máme firewall a v každé elektronicky řízené jednotce je samostatný bezpečnostní systém, takže myslím, že jsme připraveni. Ale znovu, 100% jistotu nikdy nemáme.

Matěj SKALICKÝ, moderátor:
Rozumím a chápu. Ty běžné úkony, které bude auto zvládat, jako že zahne doprava, doleva, ale co řešení složitějších problémů, které už vyžadují pokročilejší uvažování nebo etické chování?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
Myslím, že tady je třeba udělat rozdíl mezi tím, co je technicky možné a dosažitelné, a co je eticky nebo, řekněme, společensky přijatelné. Já nejsem ten, kdo je schopný vám dát důkladnou analýzu, co je nebo není eticky správné. Budu víc mluvit o té technické stránce. První autonomní auta budou jezdit konzervativně, protože naší prioritou je vyhnout se nehodám. Pojedou defenzivně, opatrně. Když se ale podíváte teď na silnice, tak my nemáme jen opatrné řidiče. Máme i agresivní řidiče, a to je věc, na kterou musíme umělou inteligenci připravit. Autonomní auta se budou učit z každé nové situace. Musí umět předvídat. Když k vám zprava přijde chodec a natočí hlavu směrem k autu, tak auto zjistí, že ten chodec vůz viděl a chce přejít, a auto zastaví. Protože tahle situace se už stotisíckrát opakovala. Takhle můžete velmi pomalu auto naučit, jak určité situace předvídat.

Matěj SKALICKÝ, moderátor:
Vy jste ale ze začátku rozhovoru říkal, že první autonomní auta už budou na silnici začátkem příštího desetiletí. Takhle to vypadá, že umělá inteligence má před sebou ještě poměrně dlouhou školní docházku. Stihne se naučit všechno, co potřebuje?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
My už máme první takový lektorský systém v našich testovacích autech, především v kamerách, umí se učit ze situací, které vidí, ale celé je to kontinuální proces. My se nebavíme o roku 2050. Tohle není žádné science fiction. Tahle technologie přijde do aut v příštích 10 letech. Uvidíte, jak se bude umělá inteligence zlepšovat.

Matěj SKALICKÝ, moderátor:
A máte nějaký plán, jak auta naučit, jak vyřešit složitější situace? Narážím třeba na výzkumy americké MIT, kde zjišťovali, co vlastně lidé po autonomních autech chtějí, a zjistili, že pokud půjde třeba o nevyhnutelnou vážnou nehodu, tak lidé chtějí, aby je za každou cenu auto ochránilo, aby, jinými slovy, nedbalo ničeho jiného. Ale co když si kvůli tomu bude muset vybrat, koho případně zraní, jestli chodce na ulici nebo právě pasažéry v autě?

Gerhard STEIGER, vedoucí divize Podvozkových systémů, Bosch:
To jste narazil opět na ten etický problém. Víte, musí se to řídit nějakými pravidly. A jedno z pravidel zní, že nesmí být žádný rozdíl mezi lidmi. Každý člověk má stejnou hodnotu. Záměr není rozlišovat, jestli auto zabije toho nebo onoho. Naším cílem je, aby se autonomní auto vyhnulo nehodě. Samozřejmě, že se vždycky můžeme bavit o těchto krajních situacích nebo mezních problémech. Ale pro nás jako pro inženýry je zásadní, že my přece nemůžeme rozlišovat, jestli ten či onen život je důležitější. Jestli zachránit mladého nebo starého člověka. Každý lidský život pro nás má stejnou hodnotu. Tečka. To znamená, že pokud je nehoda nevyhnutelná, auto zvolí nejmenší možný dopad na lidské životy.