Xai enthüllt Colossus 2

xAI hat gera­de gro­ße Neu­ig­kei­ten über ihr neu­es­tes Pro­jekt namens Colos­sus 2 ver­kün­det. Die­ses mas­si­ve Com­pu­ter­zen­trum wird über eine Mil­li­on spe­zi­el­le Chips beher­ber­gen, die dafür ent­wi­ckelt wur­den, künst­li­che Intel­li­genz schnel­ler und intel­li­gen­ter zu machen. Die Anla­ge stellt einen enor­men Sprung nach vorn in der KI-Tech­no­lo­gie dar und springt von 230.000 Chips auf die­se unglaub­li­che neue Grö­ßen­ord­nung. Aber was bedeu­tet das für gewöhn­li­che Men­schen, und wie wird es die Art ver­än­dern, wie wir in den kom­men­den Jah­ren mit intel­li­gen­ter Tech­no­lo­gie interagieren ?

Von 230.000 zu einer Million Chips

Wäh­rend die meis­ten Men­schen den­ken mögen, dass der Bau des größ­ten Com­pu­ters der Welt wie Sci­ence-Fic­tion klingt, macht Elon Musks Team bei xAI dies gera­de jetzt Rea­li­tät. Das Unter­neh­men hat gera­de Colos­sus 2 ent­hüllt, ihre nächs­te mas­si­ve Daten­fes­tung, die sogar ihre aktu­el­le rekord­ver­däch­ti­ge Anla­ge in den Schat­ten stel­len wird.

Man kann sich Colos­sus 1 bereits als ziem­lich beein­dru­ckend vor­stel­len. Er läuft mit 230.000 leis­tungs­star­ken Com­pu­ter­chips, ein­schließ­lich 30.000 der neu­es­ten GB200-Ein­hei­ten. Die­se rie­si­ge Maschi­ne trai­niert Grok, xAIs intel­li­gen­tes Sprach­pro­gramm. Aber Colos­sus 2 ? Es wird den ers­ten klein aus­se­hen lassen.

Das neue Pro­jekt wird mit 550.000 die­ser fort­schritt­li­chen GB200-Chips begin­nen, plus noch neue­ren GB300-Model­len. Die­se ers­ten Ein­hei­ten soll­ten inner­halb weni­ger Wochen online gehen. Das küh­ne Ziel des Teams ist es, ins­ge­samt eine Mil­li­on Chips zu errei­chen. Das ist genug Rechen­leis­tung, um einem schwin­de­lig zu werden.

Natür­lich erfor­dert der Bau von etwas so Mas­si­vem viel Geld. Das Unter­neh­men sicher­te sich 12 Mil­li­ar­den Dol­lar Fremd­fi­nan­zie­rung über Valor Equi­ty Part­ners. Dies kommt direkt nach der Auf­brin­gung von 10 Mil­li­ar­den Dol­lar regu­lä­rer Finan­zie­rung. Die Kre­dit­ge­ber wol­len ihr Geld inner­halb von drei Jah­ren zurück, was ech­ten Druck auf den Zeit­plan ausübt.

Strom war ein kniff­li­ges The­ma. Colos­sus 1 nutz­te Erd­gas­ge­ne­ra­to­ren, die ört­li­che Beam­te ver­är­ger­ten. Aus die­ser Erfah­rung ler­nend, kauf­te xAI ein gan­zes ehe­ma­li­ges Gas­kraft­werk in der Nähe von Sout­ha­ven, um Colos­sus 2s Ener­gie­be­darf zu decken. Sie fügen auch Tes­la Mega­packs als Back­up-Bat­te­rien hin­zu, um Strom­schwan­kun­gen zu glät­ten und die Belas­tung der ört­li­chen Sys­te­me zu reduzieren.

Bei­de Anla­gen befin­den sich in der Mem­phis- und Sout­ha­ven-Regi­on von Ten­nes­see. Der Stand­ort bie­tet gute Logis­tik, ver­füg­ba­re Ener­gie und ört­li­che Unter­stüt­zung für gro­ße Tech­no­lo­gie­pro­jek­te. Die Erwei­te­rung soll­te min­des­tens 320 neue Arbeits­plät­ze für die Regi­on schaf­fen. Das ursprüng­li­che Colos­sus-Pro­jekt demons­trier­te xAIs Fähig­keit, den Bau in nur 122 Tagen abzu­schlie­ßen und setz­te einen bei­spiel­lo­sen Zeit­rah­men für die Ein­füh­rung von Supercomputern.

Was dies beson­ders inter­es­sant macht, ist, wie Colos­sus meh­re­ren Zwe­cken in Musks ver­schie­de­nen Unter­neh­men dient. Die Rechen­leis­tung hilft beim Trai­ning von KI-Model­len für X (ehe­mals Twit­ter), unter­stützt SpaceX-Ope­ra­tio­nen und för­dert ande­re Pro­jek­te in sei­nem Unter­neh­mens­netz­werk. Es ist, als hät­te man ein Super-Gehirn, das für meh­re­re ver­schie­de­ne Unter­neh­men denkt.

Die Geschwin­dig­keit die­ser Erwei­te­rung zeigt, wie schnell sich das KI-Ren­nen bewegt. Wäh­rend ande­re Tech-Gigan­ten über ihre Plä­ne spre­chen, schal­tet xAI bereits mas­si­ve Hard­ware-Instal­la­tio­nen ein. Die Fra­ge ist nicht mehr, ob sie die­se digi­ta­len Fes­tun­gen bau­en kön­nen. Es ist, was sie mit all die­ser Denk­leis­tung machen wer­den, sobald sie läuft.

Technische Spezifikationen Übersicht

Colos­sus 2 ver­dop­pel­te sei­ne Kapa­zi­tät im Dezem­ber 2024 auf 200.000 Nvi­dia H100 GPUs und ist dar­auf aus­ge­legt, schließ­lich auf 1 Mil­li­on GPUs zu ska­lie­ren. Die­se mas­si­ve GPU-Anzahl wür­de es zum welt­weit größ­ten KI-Super­com­pu­ter machen, wenn es voll­stän­dig ein­ge­setzt wird. Der ursprüng­li­che Colos­sus führ­te erfolg­reich Jobs auf über 150.000 GPUs mit 99% Betriebs­zeit aus und demons­trier­te außer­ge­wöhn­li­che Zuver­läs­sig­keit in bei­spiel­lo­sem Maß­stab für KI-Trainingsarbeitslasten.

Wie hoch ist der Stromverbrauch von Colossus 2 ?

Colos­sus 2 ver­braucht der­zeit 250 MW Strom mit sei­ner 200.000 H100 GPU-Kon­fi­gu­ra­ti­on. Wenn es auf sei­ne vol­le Kapa­zi­tät von 1 Mil­li­on GPUs ska­liert wird, wird der Strom­ver­brauch vor­aus­sicht­lich 1 Giga­watt über­schrei­ten. Die­ser mas­si­ve Ener­gie­be­darf wür­de etwa ein Drit­tel der som­mer­li­chen Spit­zen­nach­fra­ge von Mem­phis dar­stel­len und macht es zu einer der ener­gie­in­ten­sivs­ten Com­pu­ter­an­la­gen, die jemals gebaut wurden.

Welche Netzwerktechnologie verwendet Colossus 2 ?

Colos­sus 2 nutzt 400 GbE-Netz­werk­tech­no­lo­gie, die 400-mal schnel­ler ist als her­kömm­li­ches 1 GbE Ether­net. Jeder GPU-Com­pu­te-Ser­ver erreicht etwa 3,6 Tbps Netz­werk­band­brei­te durch neun 400G­bE-Ver­bin­dun­gen pro Sys­tem mit NVIDIA BlueField‑3 Super­NICs. Die Archi­tek­tur umfasst RDMA-Tech­no­lo­gie für effi­zi­en­te GPU-zu-GPU-Kom­mu­ni­ka­ti­on und fort­ge­schrit­te­ne Rou­ting-Algo­rith­men zur Mini­mie­rung von Eng­päs­sen wäh­rend KI-Trainingsoperationen.

Wie wird Colossus 2 mit Strom versorgt und abgesichert ?

Colos­sus 2 wird von 168 Tes­la Mega­packs unter­stützt, die Bat­te­rie­spei­cher-Back­up für ope­ra­ti­ve Wider­stands­fä­hig­keit und Netz­un­ter­stüt­zung bie­ten. Der ursprüng­li­che Colos­sus ver­wen­det etwa 156 Mega­packs, die 150 MW Back­up-Ener­gie lie­fern kön­nen. Die­se Tes­la Mega­packs die­nen dop­pel­ten Zwe­cken und bie­ten sowohl Strom­lie­fe­rung als auch Küh­lungs­un­ter­stüt­zung, wäh­rend sie die Umwelt­aus­wir­kun­gen mini­mie­ren und unun­ter­bro­che­ne KI-Trai­ning-Com­pu­te-Ver­füg­bar­keit gewährleisten.

Welche Speichertechnologie implementiert Colossus 2 ?

Das Sys­tem ent­hält zahl­rei­che NVMe-Spei­cher­schäch­te an der Vor­der­sei­te der Ser­ver-Chas­sis für Hoch­ge­schwin­dig­keits-Daten­zu­griff. Die Archi­tek­tur zielt auf Daten­durch­satz im Bereich von Hun­der­ten von Peta­bytes pro Sekun­de ab, um mas­si­ve KI-Trai­nings­da­ten­sät­ze zu unter­stüt­zen. Die Spei­cher­leis­tung ist eng mit Rechen- und Netz­werk­kom­po­nen­ten ver­bun­den, um Rechen­zen­trums­ebe­nen-Exa­byte-Durch­satz zu errei­chen, der spe­zi­ell die Grok-Modell-Trai­nings­an­for­de­run­gen unterstützt.

Wie verbindet sich jede GPU mit dem Netzwerk ?

Jede GPU in Colos­sus 2 hat ihre eige­ne dedi­zier­te Netz­werk­schnitt­stel­lenkar­te (NIC), um den Daten­fluss zu opti­mie­ren und Eng­päs­se im Inter­con­nect-Fabric des Clus­ters zu ver­hin­dern. Die­se Eins-zu-Eins-GPU-zu-NIC-Kon­fi­gu­ra­ti­on gewähr­leis­tet maxi­ma­le Band­brei­ten­nut­zung und mini­miert die Latenz wäh­rend der Inter-GPU-Kom­mu­ni­ka­ti­on. Das Design ermög­licht ultra-nied­ri­ge Latenz-Daten­aus­tau­sche, die für groß­maß­stäb­li­ches KI-Modell­trai­ning über den gesam­ten Super­com­pu­ter-Clus­ter hin­weg essen­ti­ell sind.

Welche Datendurchsatzkapazitäten erreicht Colossus 2 ?

Colos­sus 2 zielt auf Daten­durch­satz in der Grö­ßen­ord­nung von Hun­der­ten von Peta­bytes pro Sekun­de über den gesam­ten Clus­ter ab. Ein­zel­ne GPU-Com­pu­te-Ser­ver errei­chen etwa 3,6 Tera­bits pro Sekun­de Netz­werk­band­brei­te. Die­se mas­si­ve Daten­ver­ar­bei­tungs­ka­pa­zi­tät unter­stützt die Anfor­de­run­gen des Trai­nings gro­ßer Sprach­mo­del­le wie Grok und ermög­licht schnel­len Zugriff auf umfang­rei­che Trai­nings­da­ten­sät­ze und effi­zi­en­te Para­me­ter­syn­chro­ni­sa­ti­on über die ver­teil­te Computerinfrastruktur.

Wie zuverlässig ist das Colossus-Supercomputersystem ?

Der ursprüng­li­che Colos­sus demons­trier­te außer­ge­wöhn­li­che Zuver­läs­sig­keit mit 99% Betriebs­zeit beim Aus­füh­ren von Jobs auf über 150.000 GPUs. Die­se hohe Ver­füg­bar­keits­ra­te ist ent­schei­dend für aus­ge­dehn­te KI-Trai­nings­sit­zun­gen, die wochen- oder mona­te­lang lau­fen kön­nen. Die Sys­tem­zu­ver­läs­sig­keit wird durch red­un­dan­te Strom­in­fra­struk­tur, fort­ge­schrit­te­ne Kühl­sys­te­me und robus­te Netz­werk­ar­chi­tek­tur unter­stützt, die dar­auf aus­ge­legt ist, kon­ti­nu­ier­li­chen Betrieb auch bei Kom­po­nen­ten­aus­fäl­len oder War­tungs­ver­fah­ren aufrechtzuerhalten.

Welche Kühlinfrastruktur unterstützt Colossus 2 ?

Das Kühl­sys­tem von Colos­sus 2 ist mit sei­ner Tes­la Mega­pack-Ener­gie­infra­struk­tur ver­bun­den, die sowohl Strom­lie­fe­rung als auch Wär­me­ma­nage­ment-Bedürf­nis­se bedient. Das Ser­ver-Design wid­met etwa ein Drit­tel der Front­plat­ten­flä­che für küh­le Luft­zu­fuhr, um opti­ma­le Betriebs­tem­pe­ra­tu­ren für Spei­cher­ein­hei­ten und Com­pu­ter­kom­po­nen­ten auf­recht­zu­er­hal­ten. Die­ser ver­bun­de­ne Ansatz gewähr­leis­tet effi­zi­en­tes Wär­me­ma­nage­ment über die mas­si­ve 200.000-GPU-Bereitstellung hinweg.

Wie beeinflusst Colossus 2 das Stromnetz von Memphis ?

Wenn es voll­stän­dig auf 1 Mil­li­on GPUs ska­liert wird, wird Colos­sus 2 über 1 Giga­watt Strom ver­brau­chen, was etwa ein Drit­tel der som­mer­li­chen Spit­zen­nach­fra­ge von Mem­phis dar­stellt. Die Anla­ge ist an eine 150-MW-Umspann­sta­ti­on ange­schlos­sen und nutzt Tes­la Mega­packs für Netz­un­ter­stüt­zung und Ener­gie­spei­che­rung. Die­se Infra­struk­tur hilft dabei, das loka­le Strom­netz zu sta­bi­li­sie­ren, wäh­rend sie die mas­si­ven Stroman­for­de­run­gen für kon­ti­nu­ier­li­che KI-Super­com­pu­ting-Ope­ra­tio­nen bereitstellt.

Auswirkungen des Marktwettbewerbs

Der Bau des welt­weit größ­ten KI-Super­com­pu­ters erzeugt Aus­wir­kun­gen weit über Mem­phis hin­aus. xAIs ehr­gei­zi­ge Plä­ne für Colos­sus 2 haben inten­si­ve Kon­kur­renz mit Tech-Gigan­ten wie Ope­nAI aus­ge­löst und prä­gen um, wie Unter­neh­men an KI-Infra­struk­tur herangehen.

Der Kampf um KI-Domi­nanz umfasst mehr als nur Soft­ware. Es geht dar­um, wer die größ­ten, mäch­tigs­ten Rechen­zen­tren bau­en kann :

• xAI plant eine Mil­li­on GPUs, wäh­rend Ope­nAI mas­si­ve Anla­gen in Texas baut
• Ener­gie wird zum neu­en Schlacht­feld, wobei xAI gan­ze Kraft­wer­ke importiert
• Tra­di­tio­nel­le Cloud-Anbie­ter ste­hen unter Druck, da Unter­neh­men ihre eige­ne Infra­struk­tur aufbauen
• Finan­zie­rungs­krie­ge inten­si­vie­ren sich, wobei xAI 10 Mil­li­ar­den Dol­lar bei einer Bewer­tung von 75 Mil­li­ar­den Dol­lar anstrebt
• Regu­la­to­ri­sche Beden­ken wach­sen, da Rechen­zen­tren Giga­watt an Strom verbrauchen

Die­ses Infra­struk­tur-Ren­nen ver­än­dert grund­le­gend, wie KI-Unter­neh­men ope­rie­ren und kon­kur­rie­ren. Die fort­ge­schrit­te­nen Gesprä­che des Unter­neh­mens mit Dell Tech­no­lo­gies über KI-Ser­ver im Wert von 5 Mil­li­ar­den Dol­lar demons­trie­ren die mas­si­ven Kapi­tal­an­for­de­run­gen, die die­se Trans­for­ma­ti­on antreiben.

Quellenangabe

• https://en.wikipedia.org/wiki/Colossus_(supercomputer)
• https://www.tomshardware.com/desktops/servers/first-in-depth-look-at-elon-musks-100–000-gpu-ai-cluster-xai-colossus-reveals-its-secrets
• https://www.datacenterdynamics.com/en/news/xai-seeks-12bn-in-debt-to-fund-colossus-2-data-center-with-first-chips-online-in-a-few-weeks/
• https://x.ai/colossus
• https://www.greshamsmith.com/projects/xai-colossus-supercomputer-data-center/
• https://www.supermicro.com/CaseStudies/Success_Story_xAI_Colossus_Cluster.pdf
• https://www.teslarati.com/xai-tesla-megapack-colossus‑2/
• https://whatsuptesla.com/2025/05/24/xai-powers-colossus-2-with-168-tesla-megapacks/
• https://www.localmemphis.com/article/news/local/xai-says-stable-power-for-shelby-county-colossus/522–54334b93-6d25-49c3-89b8-563437797adc
• https://www.datacenterdynamics.com/en/news/musks-xai-considering-second-data-center-5bn-dell-chip-deal/