České vysoké učení technické v Praze (ČVUT) bylo vybráno jako jedna z deseti univerzit z celého světa, které se zúčastní prestižní soutěže Amazon Nova AI Challenge. Tato globální univerzitní soutěž se zaměřuje na vývoj bezpečné a spolehlivé umělé inteligence (AI) pro asistovanou tvorbu softwaru. Tým AlquistCoder z ČVUT tvoří zaměstnanci a studenti Českého institutu informatiky, robotiky a kybernetiky a Fakulty elektrotechnické.
Amazon Nova AI Challenge podporuje odpovědný vývoj umělé inteligence tím, že propojuje akademickou obec s průmyslem a poskytuje přístup ke špičkovým zdrojům pro výzkum. Letošní ročník je zaměřen na oblast „Trusted AI: pokročilé bezpečné AI-asistované vývojové prostředí“, které má za cíl zvýšit bezpečnost a spolehlivost softwarových aplikací.
Tým ČVUT – Alquist AI se od roku 2017 úspěšně účastnil všech ročníků soutěže Amazonu, tehdy ještě pod názvem Alexa Prize Socialbot Grand Challenge a vždy se umístil na stupních vítězů, v roce 2021 tým dokonce získal zlatou medaili.
Tým AlquistCoder letos vede Ondřej Kobza za podpory akademických poradců – Jana Šedivého z Českého institutu informatiky, robotiky a kybernetiky (CIIRC) a Sebastiana Garcii ze Stratosphere Laboratory v Centru umělé inteligence na Fakultě elektrotechnické (AIC FEL). Na vývoji řešení se podílejí také Adam Černý a Ivan Dostal (oba CIIRC) spolu s Marií Rigaki, Murisem Sladićem a Vladyslavem Babyčem (všichni AIC FEL).
„Amazon Nova AI Challenge je skvělá iniciativa od Amazonu, která pomáhá zlepšit bezpečnost velkých jazykových modelů – LLM. Náš tým pracuje na modelu, který generuje bezpečný a důvěryhodný programovací kód (například v Pythonu) a je testován proti útokům od ostatních týmů. Naše strategie je zatím tajná, ale lze říci, že zahrnuje přesný trénink s využitím znalostí kybernetické bezpečnosti a rozsáhlé testování pomocí našeho vlastního interního útočného systému,” vysvětluje výzvu Amazonu Sebastian Garcia z AIC FEL.
„Jsme hrdí, že se České vysoké učení technické v Praze účastní Amazon Nova AI Challenge. Tato iniciativa dokonale odpovídá našemu závazku podporovat vzdělávání a výzkum v oblasti umělé inteligence. V AWS věříme, že AI je transformativní technologie s obrovským potenciálem, a jsme odhodláni zpřístupnit vzdělávání v oblasti AI po celém světě. Účast ČVUT v této soutěži nejen demonstruje kvalitu AI talentů v České republice, ale také přispívá k našemu cíli podporovat inovace v generativní AI. Těšíme se na inovativní řešení, která z této spolupráce vzejdou,“ uvedl Jiří Svěrák, manažer pro veřejný sektor ve společnosti Amazon Web Services v České republice.
Soutěžní formát
Soutěž probíhá jako turnaj, ve kterém se střetne deset univerzitních týmů – pět týmů se zaměřuje na vývoj AI modelů (obranné týmy) a dalších pět na hledání jejich zranitelností (útočné týmy). Každý obranný tým bude čelit všem pěti útočným týmům, které budou pomocí automatizovaných technik testovat bezpečnost generovaného kódu. Tým Amazon Nova vyvinul pro tuto soutěž vlastní model na hardwaru AWS Trainium, čímž podporuje otevřený a kolaborativní výzkum v oblasti bezpečné tvorby softwaru.
První kolo turnaje proběhlo v lednu 2025, zatímco finálové kolo se uskuteční v červnu 2025. Všechny týmy následně zveřejní své výzkumné studie, čímž přispějí k širšímu rozvoji odpovědné AI v oblasti generování kódu.
Účastníci soutěže
Mezi pět vybraných univerzitních týmů v kategorii vývoj AI modelů patří:
- Carnegie Mellon University
- Columbia University
- České vysoké učení technické v Praze
- University of Illinois Urbana-Champaign (UIUC)
- Virginia Tech
Pět univerzitních útočných týmů tvoří:
- NOVA School of Science and Technology, Lisabon
- Purdue University
- University of California, Davis
- University of Texas at Dallas
- University of Wisconsin Madison
Motivace a význam soutěže
Soutěžní formát umožňuje týmům efektivně testovat své strategie a zároveň se rychle přizpůsobovat novým výzvám. „Spojili jsme nejlepší a nejbystřejší akademické talenty, aby nejen soutěžily, ale aby se společně vypořádaly s jedním z nejdůležitějších problémů reálného využití generativní AI – bezpečným a spolehlivým vývojem softwaru,“ říká Rohit Prasad, senior viceprezident Amazon Artificial General Intelligence. „Navrhli jsme tuto výzvu jako jedinečný, dynamický turnaj, který urychlí akademický výzkum směrem k praktickému využití. V duchu tradice Amazonu se těším na to, jak týmy budou tvrdě pracovat, užívat si soutěž a zároveň tvořit historii na cestě do finále,“ dodává Prasad.
Amazon ve spolupráci s univerzitami vnímá tuto výzvu jako způsob, jak podporovat mladé talenty a rozvoj AI bezpečnostních řešení. „Tento projekt jde nad rámec teoretického výzkumu – hledáme konkrétní metody k identifikaci bezpečnostních hrozeb a ochraně AI-asistovaných programovacích nástrojů,“ zdůrazňuje Steve Schmidt, bezpečnostní ředitel Amazonu.
Každý tým obdrží grant ve výši 250 000 dolarů, měsíční AWS kredity a možnost soutěžit o hlavní ceny. Vítězné týmy v obou kategoriích získají dalších 250 000 dolarů, zatímco druhé týmy obdrží 100 000 dolarů. Celková investice Amazonu do soutěže přesahuje 5 milionů dolarů.
Účast ČVUT v této prestižní soutěži představuje významnou příležitost pro českou akademickou sféru. Tým má přístup k nejmodernějším technologiím v oblasti umělé inteligence, včetně AWS Trainium – specializovaného AI hardwaru pro trénování velkých jazykových modelů.
Soutěž Amazon Nova AI Challenge je důležitým krokem k posílení bezpečnosti a důvěryhodnosti AI ve vývoji softwaru. ČVUT se svým týmem potvrzuje svou roli mezi špičkovými univerzitami v oblasti AI a softwarového inženýrství.
Více o soutěži naleznete na Amazon Science Blog.
Český institut informatiky, robotiky a kybernetiky je moderní vědecko-výzkumný ústav Českého vysokého učení technického v Praze (CIIRC ČVUT), který spojuje excelentní výzkumné týmy, mladé talenty a unikátní know-how s cílem posouvat technologické hranice a navázat na to nejlepší z tradic českého technického vzdělávání. Těžiště výzkumné práce CIIRC ČVUT se zaměřuje na čtyři základní pilíře: průmysl, energetiku, chytrá města a zdravou společnost, a to jak v základním, tak aplikovaném výzkumu. CIIRC ČVUT byl založen v roce 2013. V současné době čítá více než 300 zaměstnanců v 8 výzkumných odděleních. Oblast odborného zájmu CIIRC ČVUT je široká: zahrnuje umělou inteligenci, robotiku, automatické řízení a optimalizaci, počítačovou grafiku, počítačové vidění a strojové učení, automatické rozhodování, návrh softwarových systémů a výpočetních prostředků, návrh rozhodovacích a diagnostických systémů a jejich aplikace v medicíně, bioinformatiku, biomedicínu či asistenční technologie. CIIRC ČVUT podporuje horizontální spolupráci mezi všemi částmi (fakultami a ústavy) ČVUT a otevírá prostor pro vzájemně prospěšnou spolupráci s dalšími univerzitami, s Akademií věd ČR, s průmyslovými společnostmi a mezinárodními institucemi. CIIRC ČVUT vytváří jedinečný ekosystém akademicko-průmyslové spolupráce, ve kterém využívá diverzifikované formy financování projektů z národních, evropských a soukromých zdrojů. Více na www.ciirc.cvut.cz.
Samostatná Fakulta elektrotechnická ČVUT vznikla v roce 1950. V dnešní době se skládá ze 17 kateder umístěných ve dvou budovách: v rámci hlavního kampusu ČVUT v Dejvicích a v naší historické budově na Karlově náměstí. Fakulta elektrotechnická poskytuje prvotřídní vzdělání v oblasti elektrotechniky a informatiky, elektroniky, telekomunikací, automatického řízení, kybernetiky a počítačového inženýrství. Fakulta se dlouhodobě řadí mezi prvních pět výzkumných institucí v České republice. Produkuje přibližně 30 % výzkumných výsledků celého ČVUT a má navázanou rozsáhlou vědeckou spolupráci se špičkovými světovými univerzitami i výzkumnými ústavy. Od roku 1950 Fakulta elektrotechnická vydala cca 30 000 diplomů, které byly vždy vysoce hodnoceny jako doklad prvotřídního vzdělání. Více informací najdete na www.fel.cvut.cz.
České vysoké učení technické v Praze patří k největším a nejstarším technickým vysokým školám v Evropě. Podle Metodiky 2017+ je nejlepší českou technikou ve skupině hodnocených technických vysokých škol. V současné době má ČVUT osm fakult (stavební, strojní, elektrotechnická, jaderná a fyzikálně inženýrská, architektury, dopravní, biomedicínského inženýrství, informačních technologií). Studuje na něm přes 19 000 studentů. V akademickém roce 2024/2025 má ČVUT v Praze akreditováno celkem 341 studijních programů, z toho 145 v angličtině. Kromě fakult tvoří ČVUT v Praze také šest ústavů (Kloknerův ústav, Masarykův ústav vyšších studií, Ústav tělesné výchovy a sportu, Univerzitní centrum energeticky efektivních budov, Český institut informatiky, robotiky a kybernetiky a Ústav technické a experimentální fyziky). ČVUT vychovává odborníky v oblasti techniky, vědce a manažery se znalostí cizích jazyků, kteří jsou dynamičtí, flexibilní a dokáží se rychle přizpůsobovat požadavkům trhu. Podle výsledků Metodiky 2017+ bylo ČVUT hodnoceno ve skupině pěti technických vysokých škol a obdrželo nejvyšší hodnocení stupněm A. V celosvětovém žebříčku QS World University Rankings je ČVUT na 420. místě a na 12. pozici v regionálním hodnocení „Emerging Europe and Central Asia“. V rámci hodnocení Subject Rankings 2024 pro „Architecture and Build Environments“ je ČVUT 151.–200., v „Engineering – Civil and Structural” je ČVUT mezi 201.–240. místem, v oblasti „Mechanical, Aeronautical & Manufacturing Engineering“ na 201.–250. místě, u „Electrical & Electronic Engineering“ na 201.–250. pozici. V oblasti „Physics and Astronomy“ na 201.–250. místě, „Natural Sciences“ jsou na 307. příčce. V oblasti „Computer Science and Information Systems” je na 201.–250. místě, v oblasti „Material Sciences“ na 251.–300. místě, v oblasti „Mathematics“ na 301.–350. místě a v oblasti „Engineering and Technology“ je ČVUT na 182. místě. Od roku 2020 je ČVUT členem aliance prestižních technických univerzit EuroTeQ. Ta představuje zajímavou a přínosnou příležitost pro studenty, vědecké pracovníky i zaměstnance zapojit se do projektu, který si klade za ambici posunout kvalitu vysokého školství na vyšší úroveň. Dalšími členy skupiny EuroTeQ jsou Technical University of Munich, Technical University of Denmark, Technical University of Eindhoven, École Polytechnique – L´X, Tallinn University of Technology, École polytechnique fédérale de Lausanne a Technion Israel Institute of Technology. Roku 2023 byla aliance rozšířena o HEC Paris a IESE Business School (University of Navarra). Více na www.cvut.cz.