Ani samotní tvůrci AI mnohdy nejsou z textových záznamů a výpisů programu schopni přesně vyčíst, proč se model rozhodl, jak se rozhodl. Tato technologie dnes přitom řídí roboty, autonomní vozidla nebo celé průmyslové systémy. Lépe pochopit složitý proces rozhodování nyní pomáhá nástroj PANSim z ČVUT, který získal prestižní cenu od světových odborníků na konferenci ICAPS v Dublinu.
Nástroj, který vznikl jako bakalářská práce Erola Medenčeviće, volby umělé inteligence zpřehlednil v interaktivní 2D simulaci. K co nejsrozumitelnějšímu představení zvolili autoři jednoduchý příklad: AI agent se musí v roli animované žáby dostat přes jezírko a cestou posbírat všechny mince, přičemž některé lekníny mohou každou chvíli zmizet pod hladinou. Při řešení tohoto úkolu mohou vývojáři sledovat, jak se jejich agent vyrovnává s náhodnými změnami v prostředí a jaké další kroky plánuje k dosažení cíle. „Nejde jen o samotnou grafiku. Vizuální podoba umožňuje mnohem lépe pochopit, co se během rozhodování skutečně odehrává. Vývojář díky tomu rychle pozná, proč se agent zachoval určitým způsobem a kde je potřeba algoritmus upravit,“ uvedl vedoucí bakalářské práce Jakub Med.
Potenciál nástroje naplno ukázala právě letošní konference v Dublinu, na niž se sjela elita expertů na automatizované plánování. Ta ze 12 projektů z předních světových univerzit a výzkumných institucí udělila nejvíce hlasů právě PANSim. „Když mi kolegové poslali z Dublinu fotografii diplomu za nejlepší demonstraci, opravdu mě to překvapilo. Je to velká motivace pokračovat dál,“ uvedl Erol Medenčević, který na vývoji PANSim pokračuje v magisterském studiu.
Autoři nyní chtějí rozhodovací procesy AI ještě více zpřehlednit, přidat možnost vracet simulaci o několik kroků zpět nebo rozšířit nástroj o další scénáře. Dlouhodobým cílem je vytvoření univerzálního prostředí, které umožní vizualizovat širokou škálu plánovacích úloh.