Důvodem je údajné riziko zneužití nástroje pro provádění kybernetických útoků. To firma odmítá. Pro Evropu ale jde o varovný signál, že americká administrativa může ze samotných aplikací umělé inteligence udělat obchodní zbraň.
Michal Pěchouček, technický ředitel Avastu, vedoucí AI Centra ČVUT
Samozřejmě, že mi blesklo hlavou, že to opravdu může být problém pro Neameričany, například pro Evropany. A to proto, že kvalita umělé inteligence a kvalita modelů, kterou používáte, může ovlivnit některé velmi komplikované zaměstnání a vědecká práce sama o sobě velmi složitá, ale i ona prochází velkou EIA automatizací. A právě kvalita těch modelů vlastně nakonec může v budoucnosti určovat, jak moc úspěšní, efektivní a vlastně funkční vědci budou.
mluvčí 2,
My jsme samozřejmě podobný příklad právě společnosti Anthropic zažili v minulosti. Kdy tam také bylo omezený přístup k modelu. A teď ten důvod je jiný. Ten důvod je, my ho nechceme dávat cizincům, je tady to nějaká změna. Stává se z EI něco, co třeba už budou mít k dispozici jenom jednotlivé státy? Už to nebude ten majetek v uvozovkách všech, i když placený.
mluvčí 3,
Tak je to něco před čím. Já vlastně už 2 roky varuji, že se to může stát, že se vlastně může umělá inteligence stát. Přimi ten export kontrol Spojených států jako to v minulosti byly pokročilé čipy. Toho jsem se tak nebál. Jsem si myslel, že čipy se nakonec dají vždycky nějaký sehnat, ale kvalita toho modelu nakonec je důležitější. A když by si chtěla americká administrativa zachovat nějakou výhodu v nějaké oblasti, tak jedna z cest, Tak to může udělat. Hete Omezit přístup k těm špičkovým modelům? Já doufám, že to je dočasná situace, protože si nejsem úplně jistý, zdali tak výjimečný model Fabel od antropiku je v porovnání vůči modelům například od společnosti Open AI. A potom by teda americká anestetiva měla přistoupit stejně i k těm ostatním modelům.
mluvčí 2,
Právě tady ten trend. Já nevím, jestli byste měl možnost vyzkoušet model Faejbl, ale je to skutečně třeba možnost do budoucna, že skutečně se dostaneme do doby, kdy ty nejlepší modely už nebudou. A kdyby ano, jak vy jste naznačil, že se to může stát, Co by to znamenalo pro vědu?
mluvčí 3,
Já si myslím, že se to nestane. Já jsem optimista, ale kdyby se to stalo, že to může být pro vědu v nějakém regionu, který nebude mít přístup k těm nejnovějším modelům zcela decimující dopad. Ten region, ta země, ten kontinent by vlastně v nějakém okamžiku se stal ve vědě výrazně méně efektivní, což znamená nerelevantní. A proto si myslím, že vlastně všechny regiony a Evropská unie, Česká republika, naše sousední země, bychom měli opravdu spolupracovat na tom, abychom se tomuto jevu dokázali ubránit. Dobrá zpráva je ta, že to vlastně není problém dneška. Dneska si myslím, že výrazně víc než kvalita modelu v té vědecké práci rozhoduje ta schopnost umělou inteligenci pro vědu používat. To zatím někdo umí, někdo to neumí a ti, co to umí, mají ohromnou výhodu na nějakém okamžiku. Za půl roku, za rok se ty karty srovnají a vlastně všichni budou používat EIA ve vědě a výzkumu. A potom bude rozhodovat takovéto toho modelu. Já asi doufám, že v tom okamžiku teda budou buďto ty špičkové modely zase dostupné všem, jako to bylo v minulosti, anebo teda, že Evropská unie i posílí a vlastně vyvine vlastní suverénní modely, které teda budou schopni toto dodávat.
mluvčí 2,
Ta první, Vy jste naznačil trochu to, zda ten model skutečně je tak dobrý, dá se vůbec říci, je tady to všechno nějaká show, částečně marketingová částiče, nějaká politická, nebo skutečně ty modely už jsou tak kvalitní, že to může teoreticky teoreticky být nějaké bezpečnostní riziko a je to vlastně to omezení potřeba.
mluvčí 3,
Je spousta kritiků, kteří se domnívají, že to opravdu je pouze marketingová show a že firma Anthropec tak vlastně na sebe upoutává pozornost. A ti Krici také říkají, že teďko se jí to vymstilo, protože ten přehnaný marketing ve svém. Důsledku uškodil. Fir Anthropik Já si myslím, že to není pravda. Já si myslím, že to riziko opravdu reálné je, protože bylo ukázáno, že sesterský model, Model MITOS vlastně, když se použil v oblasti segresecurity, tak vlastně dokázal detekovat libovolné volnorability zranitelnosti systému a tudíž se ukázal být použitelný jako nástroj automatizovaných kyberútoků takovým způsobem, že bylo těžké se bránit. Takže ano, je to bezpečnostní riziko, ale já se nedomnívám, že vůči tomuto bezpečnostnímu riziku Za vůbec zafunguje omezení použití toho modelu podle státní příslušnosti to vůbec nedává smysl.Je potřeba tyto modely chránit, vytvářet gardrels, vytvářet různé mechanismy, aby ty modely nešly gelberekovat, aby se nedaly narušit, aby se nedaly zneužít. A v tom si myslím, že firma Anthropic vlastně odvádí nejlepší práci prostě všech AIF firem. Ona byla založena právě s tou myšlenkou AI Bezpečnostně. Na prvním místě měla tzv. tu Constitutional AI, která vlastně vytvořila úplně jiný Fribourg pro bezpečnost modelů, než mají ostatní firmy. Takže já si vlastně myslím, že paradoxně Antropic pro bezpečnost těch velkých hráčů dělá úplně nejvíc.
mluvčí 2,
Konkrétně co může Evropa dělat, je to tedy pořídit si nějaký vlastní, pracovat na vývoj tak, jak už to dělá teď a dokončit a řekněme, prioritizovat vývoj vlastního velkého jazykového modelu.
mluvčí 3,
Já si myslím, že Evropská unie, státy Evropské unie, by se měly primárně soustředit na to, jak se možná nejlépe použít umělou inteligenci proto, aby získaly nějakou konkurenční výhodu na ostatních regionech světa. Já se domnívám, že použití umělé inteligence automatizaci vědecké práce je ta velká příležitost pro Evropu, protože Evropa ještě pořád vyniká ve vědě a ve výzkumu, a proto si myslím, že to je ten prostor, kde se Evropa může začít jako prezentovat A může začít jako stavět svoji AI identitu. Proto je potřeba pokrok v této oblasti, ale zároveň dohánět vlak. To znamená vytvářet modely, které budou co možná nejvíc konkurenceschopné. Budou, budou se přibližovat těm americkým modelům. Zkušenost z Číny, systému DPC v loňském roce ukazuje vlastně, že je technicky možné vlastně vytvořit systémy, které jsou velmi konkuně schopni těm americkým, aniž bychom měli americké know how. Takže já si myslím, že Evropa by měla stavět své suverénní AI modely a měla by se tomu věnovat.