Aktuell | Server & Storage | c't

900.000-Kern-Prozessor für KI

Das US-Unternehmen Cerebras bringt die dritte Generation WSE-3 seiner Wafer Scale Engine: ein KI-Prozessor so groß wie ein Pizzakarton.

Cerebras’ riesige Wafer Scale Engine WSE-3 nutzt 4 Billionen Transistoren und 44 GByte SRAM für extreme KI-Rechenleistung.

Bild: Cerebras

Große generative KI-Modelle haben mehrere zig Milliarden Parameter. Fürs Training solcher Modelle braucht man gigantische Rechenleistungen und RAM-Kapazitäten. Daher bestücken Firmen wie Microsoft und Meta riesige Rechenzentren mit Tausenden KI-Beschleunigern von Nvidia.

Dagegen tritt Cerebras mit dem Riesenprozessor Wafer Scale Engine in der dritten Generation WSE-3 an, der im Server CS-3 zum Einsatz kommt. Die WSE-3 aus der TSMC-N5-Fertigung hat rund 4 Billionen Transistoren, 900.000 Rechenkerne und 44 GByte schnelles SRAM. Die Leistungsaufnahme liegt auf dem gleichen Niveau wie beim Vorgänger WSE-2. Über superschnelle Interfaces lassen sich bis zu 2048 CS-3 koppeln, die zusammen das Sprachmodell Llama mit 70 Milliarden Parametern in einem einzigen Tag trainieren. Ein solches System würde wohl über fünf Milliarden US-Dollar kosten, genaue Preise nennt Cerebras nicht öffentlich.