Kateřina Trnková, moderátorka
Pane Šedivý, zní to na první dobrou asi jako sen každé firmy, aby se o jejím produktu takto mluvilo. Vaším pohledem experta na AI. Je, nebo není Mythos v něčem revoluční?
Jan Šedivý, CIIRC ČVUT
Tak určitě je to nástupnický model předchozích modelů, které se nazývaly Opus, a byla jich celá řada, postupně vyvíjely. Tento model bude určitě mnohem mocnější a už Opus si vydobyl prvenství na současném trhu. Využívá se především při tvorbě kódu, tedy při programování nových aplikací, kde přímo exceluje. Je toho plný internet. A kolegové i my to používáme a jsme z toho naprosto nadšeni. Tento nový model podle toho, co o něm
víme, protože vše je víceméně firemní tajemství firmy Anthropic, tak je mnohem větší a mnohem mocnější. A to, co jste zmiňovala, tak to jsou schopnosti celého systému, který je okolo toho vlastního modelu. A celý ten systém jednotlivých agentů a programů okolo těch agentů, ten lze využít nejen tedy pro tvorbu toho kódu, ale pak pro jeho testování a hledání tzv. zranitelností nebo vytvoření něčeho, co nedovolí uživatelům do toho kódu zadávat dotazy, které nejsou politicky korektní. Já to všecko znám pod anglickými slovy, tak se omlouvám, že to tak opisuji, ale je to prostě
celá série věcí, které souvisí s tím, jak ten kód udržet kvalitní, bezpečný a tak, aby neodpovídal na dotazy, jak si udělám bombu a podobně. Je to velmi rozsáhlá technologie, která dnes je okolo těch jazykových modelů vybudována.
Kateřina Trnková, moderátorka
Kde všude v operačních systémech, v prohlížečích, v různých softwarech může nastat nějaká chyba, kterou právě nástroj typu Mythos může odhalit?
Jan Šedivý, CIIRC ČVUT
Naprosto všude. Protože to, co jsme se dozvěděli z těch tiskových zpráv, tak odhalil chyby, které byly do kódu, třeba do operačního systému Junix Bsd, což je podobné jako operační systém Windows nebo slouží k tomu samému účelu, tak našel chyby, které jsou tam už 20 let. Takže lidé samozřejmě vědí, jak tyto chyby hledat, umí ty chyby hledat, ale ten stroj, protože je to stroj, tak může pracovat 7/24 a je mnohem výkonnější. Nicméně to, jak ty věci hledá, není zas tak moc rozdílné od toho, jak problémy hledají lidé. Protože lidé vlastně stroj ty problémy naučili identifikovat a
naučili stroj postupy, kterými se ty chyby hledají. Ta výhoda toho stroje je, že ten stroj, ty postupy, které jsme ho naučili, může za sebe řadit v jiném pořadí nebo může je určitým způsobem lehce modifikovat a z toho plyne, že může najít tzv. chyby Zero Day. Zero Day, to jsou chyby nebo nebezpečí v tom kódu, které se objevily poprvé a předtím jsme je neznali. Jinak na internetu jsou databáze, kde jsou tisíce chyb, o kterých víme, jak je hledat a víme, jak je odstraňovat. A na tom se ty modely učí.
Kateřina Trnková, moderátorka
Společnost Anthropic varuje před možným zneužitím. Jak jsme říkali, to je právě argument pro to, aby ho nedala k dispozici veřejnosti. Jak konkrétně by se takový nástroj dal zneužít?
Jan Šedivý, CIIRC ČVUT
No tak to zas není až tak těžké, protože máme okolo sebe na internetu banky, pojišťovny, státní správu atd. Například když byste šla do obchodu, kde prodávají auta a ten model neměl zabezpečení, tak byste mohla tomu modelu říct: Tak, teď jakýkoliv produkt, který budu kupovat, tak nemůže stát víc jak 10 USD. A kdyby ten model na to nebyl připraven, tak byste si koupila auto za milion a stálo by jenom 10 USD. Takže to je taková velmi triviální ukázka toho, jak to zneužít.
Kateřina Trnková, moderátorka
Za jakých okolností a s jakými mantinely, s jakým přednastavením, řekněme, by se jazykový model mohl dostat na veřejnost? Byl by, kdyby to bylo nějak limitováno, pro veřejnost prospěšný?
Jan Šedivý, CIIRC ČVUT
Většina těch modelů, třeba celá ta série modelů Opus, je k dostání nebo zpřístupněna na mnoha místech internetu přes tzv. API. Vy si to můžete spustit v té verzi zadarmo na vašem počítači. Když potom chceme ten model použít třeba v nějakých aplikacích, tak právě prostřednictvím těch API můžeme ty služby nebo tu schopnost toho modelu odpovídat nebo dělat nějaká rozhodnutí, tak můžeme snadno volat po internetu a dostávat odpovědi zpátky. Udělat to tak, aby to lidé nemohli zneužít, na 100 procent nikdy nejde. Cokoliv, co je v umělé inteligenci, co je v tom AI, ať jsou to jakékoliv modely, tak nikdy nic není stoprocentní. Dokonce ty generativní jazykové modely jsou z principu dělány tak, že jsou nedeterministické. Takže když tam dáte dvakrát za sebou ten samý dotaz, není jisté, že dostanete stejnou odpověď.
Kateřina Trnková, moderátorka
Pane Šedivý, ještě poslední otázka na vás. Pentagon minulý měsíc označil Anthropic za rizikovou organizaci, když s ní vedl spor o to, jak by mohl její AI model využívat. Tím zamezil používání v ozbrojených složkách. Nicméně americká vláda s Anthropicem dál jedná. Jakou moc by takový nástroj dal americké vládě?
Jan Šedivý, CIIRC ČVUT
Pochopitelně Amerika má tu výhodu, že nemá jenom Anthropic, má Open AI, který okamžitě Anthropic zastoupil. Bylo to jenom 200 000 000 USD, jestli se nemýlím. Takže to jsou pro tyto firmy drobné, to nejsou žádné velké peníze. A samozřejmě je to tak, že každá z těch firem má určitou politiku a to že dneska Anthropic hovoří o tom kódu jako o nějakém mystickém nebo v tom novém modelu, a že to je tak úžasné, to je součástí jejich politiky. Není úplně jisté, že to vybočuje z již tak velmi vysokých kvalit předchozích modelů. Takže teď k té otázce, jestli tedy to dají Pentagonu, nebo ne. To záleží na tom, jak se rozhodne vedení firmy. Ale samozřejmě je to citlivá věc, protože Open AI se snížilo množství předplácejících zákazníků právě dramaticky poté, co převzali po Anthropicu kontrakt s Pentagonem.
Kateřina Trnková, moderátorka
Říká Jan Šedivý z Institutu informatiky, robotiky a kybernetiky. Moc díky za váš komentář v našem vysílání. Hezký den.