Čipy Graphcore nasazeny do provozu na ČVUT

Graphcore Intelligence Processing Unit (IPU) Graphcore je mladá britská společnost, která vyvíjí takzvaná IPU (Intelligence Processing Unit), tedy čipy s architekturou MIMD schopné akcelerovat operace spojené s prvky umělé inteligence a strojovým učením. Základem nabídky Graphcore je IPU čip MK2 GC200. Tyto čipy dále Graphcore skládá do hotových serverů o několika konfiguracích. Graphcore k tomu dodává i vlastní framework Poplar. Od investorů jako Microsoft, Dell, Sequoia Capital, Samsung nebo BMW posbírala firma Graphcore 692 milionů dolarů na vývoj a rozvoj společnosti a patří k velkým nadějím britského polovodičového průmyslu. Očekávání jsou vysoká, neboť je přímou konkurencí pro podobné akcelerátory od firmy Nvidia. Britské IPU jsou také dostupné v některých cloudech, takže lze rovněž mluvit jako o alternativě k čipům TPU (Tensor Processing Unit) běžících v Google Cloudu. Instalace na ČVUT První instalace Graphcore čipů v regionu byla uvedena do provozu na, kde si pořídili jednotku POD4 obsahující server MI2000 se čtyřmi IPU akcelerátory. Jde o nejmenší možnou konfiguraci, jež by měla zvládat až jeden petaflop. Aktuálně probíhá na ČVUT testování. Mimo jiné si chtějí ověřit, jak na tom Graphcore bude ve srovnání s používanými prvky od Nvidie, tedy kartami V100 a A100 a minisuperpočítačem DGX A100, kterých škola pořídila deset. Cenové srovnání Pro ČVUT dodávaný model MI2000 vyjde na 36 tisíc dolarů, což je zhruba 850 tisíc korun. Pro vzdělávací sektor je cena snížená na 28 tisíc dolarů. K tomu se ještě platí tříletá podpora na hardware a software v hodnotě 6850 dolarů. Pro představu jedna samotná karta Nvidia A100 80 GB se prodává za nějakých 16,9 tisíce dolarů, pro školy za sníženou cenu 13 tisíc dolarů. Sledování celé situace kolem Graphcore Nvidia je velmi zajímavé. Nvidia s nově ohlášenou H100 zase udělala brutální výkonový skok dopředu, ale cenovka za celý server DGX H100 s osmi kartami H100 bude tomuto pokroku také odpovídat. Spekuluje se, že bude atakovat hranici 500 tisíc dolarů za server. Zároveň se řeší, jestli bude postavena na příští generaci Intelu (Sapphire Rapids), který má zpoždění, nebo AMD (Genoa) kvůli PCI Express 5.0. DGX H100 ale bude mít nejlepší poměr výkon/spotřeba a už teď naše firma začíná řešit s některými univerzitami nákup, neboť jim to přijde zajímavé.