Soutěž Amazon Nova AI Challenge podporuje odpovědný vývoj umělé inteligence tím, že propojuje akademiky s průmyslem a poskytuje přístup ke špičkovým zdrojům pro výzkum. Letošní ročník je zaměřen na "Trusted AI: pokročilé bezpečné AI-asistované vývojové prostředí", cílem je zvýšit bezpečnost a spolehlivost softwarových aplikací.
Každý tým obdrží grant 250.000 dolarů (5,75 milionu korun), měsíční AWS (Amazon Web Services) kredity a možnost soutěžit o hlavní ceny. Vítězné týmy v obou kategoriích získají dalších 250.000 dolarů, druhé týmy obdrží 100.000 dolarů.
Soutěž funguje jako turnaj, ve kterém se střetne deset univerzitních týmů - pět se zaměřuje na vývoj AI modelů, jde o obranné týmy, dalších pět se zaměřuje na hledání jejich zranitelností, to jsou útočné týmy. Každý obranný tým bude čelit všem pěti útočným týmům, které budou pomocí automatizovaných technik testovat bezpečnost generovaného kódu. První kolo turnaje se konalo letos v lednu, finále se uskuteční v červnu. Všechny týmy následně zveřejní své výzkumné studie, čímž přispějí k širšímu rozvoji odpovědné AI v oblasti generování kódu.
Tým ČVUT Alquist AI se od roku 2017 úspěšně účastnil všech ročníků soutěže Amazonu, tehdy ještě pod názvem Alexa Prize Socialbot Grand Challenge. Vždy se umístil na stupních vítězů, v roce 2021 získal zlatou medaili.
"Amazon Nova AI Challenge je skvělá iniciativa od Amazonu, která pomáhá zlepšit bezpečnost velkých jazykových modelů - LLM. Náš tým pracuje na modelu, který generuje bezpečný a důvěryhodný programovací kód (například v Pythonu) a je testován proti útokům od ostatních týmů," řekl Sebastian Garcia ze Stratosphere Laboratory v Centru umělé inteligence na Fakultě elektrotechnické (AIC FEL) ČVUT.
Tým ČVUT letos vede Ondřej Kobza za podpory akademických poradců - Jana Šedivého z Českého institutu informatiky, robotiky a kybernetiky (CIIRC) a Sebastiana Garcii. Na vývoji řešení se podílejí také Adam Černý a Ivan Dostál (oba CIIRC), Maria Rigaki, Muris Sladić a Vladyslav Babyč (všichni AIC FEL).
Kromě ČVUT vyvíjejí modely i týmy z Carnegie-Mellonovy univerzity v Pittsburghu, Kolumbijské univerzity v New Yorku, Univerzita Illinois v Urbana Champaign a americké univerzity Virginia Tech. Pět univerzitních útočných týmů tvoří NOVA School of Science and Technology v Lisabonu, Purdueova univerzita v Indianě, Kalifornská univerzita, Texaská univerzita v Dallasu a Wisconsinská univerzita v Madisonu.