Výrobca AI čipov Cerebras Systems predstavil CS-4, nový systém rackovej AI zameraný na trh GPU serverov od Nvidia a na úlohy inferencie veľkých jazykových modelov. Podľa spoločnosti môže CS-4 generovať tokeny až 30-krát rýchlejšie ako konvenčné GPU servery, keď sú všetky systémové zdroje priradené jednému používateľovi.
Pozoruhodne, tento údaj je založený na internom testovaní Cerebras a meria rýchlosť generovania textu, keď má jeden používateľ výhradný prístup k výpočtovým zdrojom systému. Neodráža to agregátový prenos systému pri obslužení viacerých používateľov súčasne.
Na podujatí v San Francisku, Cerebras uviedol, že CS-4 obsahuje tri procesory WSE-3 Turbo na úrovni wafra. Podľa spoločnosti každý procesor integruje približne 4 bilióny tranzistorov, čím sa stáva jedným z najväčších verejne oznámených AI procesorov doteraz. Na rozdiel od architektúr s viacerými čipmi, ktoré bežne používajú Nvidia a AMD, Cerebras využíva monolitický, plno-wafrový dizajn, ktorý skracuje cesty prenosu dát na čipe.
CS-4 je navrhnutý na AI inferenciu, nie na tréning modelov. Jeho pamäťová architektúra využíva statickú pamäť s náhodným prístupom, alebo SRAM, namiesto dynamickej pamäte s náhodným prístupom, alebo DRAM, bežne používané v celom priemysle. SRAM poskytuje výrazne rýchlejšie rýchlosti čítania a zápisu než DRAM, ale jeho zložitejšia štruktúra a vyššia cena za jednotku kapacity zvyčajne sťažujú jeho integráciu do procesorov s obmedzenou plochou čipu. WSE-3 Turbo je približne veľkosti jedného taniera, pričom poskytuje dostatok fyzického priestoru na integráciu SRAM priamo na procesore.
Cerebras umiestňuje rýchlu generáciu textu ako primárnu konkurenčnú výhodu CS-4. Spoločnosť uviedla, že jej procesor na úrovni wafra môže uložiť všetky hodnoty parametrov požadované AI modelom priamo na čipe, čím eliminuje potrebu načítania dát z externých pamäťových čipov a znižuje latenciu spojenú s pohybom dát.
Podľa Cerebras sú vzorky CS-4 momentálne dostupné iba obmedzenému počtu zákazníkov, pričom širšia dostupnosť je plánovaná na neskôr v treťom štvrťroku tohto roka.