Nvidia PAIR verbindet Computer zum KI Netzwerk

NVIDIA hat gera­de PAIR gestar­tet, ein kos­ten­lo­ses Tool, das unge­nutz­te Com­pu­ter zu einem pri­va­ten KI-Netz­werk ver­bin­det. Es arbei­tet unauf­fäl­lig im Hin­ter­grund und ver­knüpft Gerä­te wie Lap­tops und Desk­tops, ohne einen Cloud-Dienst zu benö­ti­gen. Nichts ver­lässt Ihr Heim­netz­werk, sodass Ihre Datei­en pri­vat blei­ben. Betrach­ten Sie es als Team­ar­beit für Ihre unge­nutz­ten Gerä­te. Neu­gie­rig, wie die­ses Set­up tat­säch­lich funk­tio­niert und wel­che Gerä­te dafür geeig­net sind ? Es gibt noch mehr zu entdecken.

Was ist NVIDIA PAIR und wie funktioniert es ?

Im Kern ist NVIDIA PAIR ein cle­ver kon­zi­pier­tes Soft­ware­pro­gramm mit einer ein­fa­chen Auf­ga­be. Es ver­bin­det freie Com­pu­ter in Ihrem Heim­netz­werk zu einem hilf­rei­chen KI-Clus­ter. Stel­len Sie es sich als einen intel­li­gen­ten Ver­kehrs­po­li­zis­ten vor, nicht als ein neu­es Gehirn. Offi­zi­ell wird es als “vir­tu­el­ler Infe­renz-Rou­ter” bezeich­net, und es sen­det Auf­ga­ben an jede ver­füg­ba­re Maschine.

Hier kommt der bes­te Teil : Ihre Ein­ga­ben und Datei­en ver­las­sen nie­mals Ihr Zuhau­se. Das ist wich­tig für den Daten­schutz der Nut­zer, da nichts in eine ent­fern­te Cloud ver­schickt wird. Die­ses Sys­tem mil­dert auch die Sicher­heits­be­den­ken, die vie­le Men­schen heu­te beschäf­ti­gen. Sie behal­ten die Kon­trol­le, und Ihr untä­ti­ger Lap­top ver­dient sich end­lich sei­nen Unter­halt. Frei­heit, so stellt sich her­aus, beginnt direkt zu Hau­se. Jede Maschi­ne läuft wei­ter­hin mit genau der­sel­ben Soft­ware, da PAIR kei­nen Ser­ver- oder Con­trol­ler-Kno­ten hat, der die Befeh­le gibt.

Welche Geräte und Plattformen unterstützt PAIR ?

Wer darf also die­sem Heim-KI-Netz­werk bei­tre­ten ? PAIR unter­stützt Win­dows 11, Linux und macOS auf x64- oder arm64-Chips. Win­dows on ARM ist eben­falls dabei, gilt jedoch noch als experimentell.

Auf der Hard­ware-Sei­te gehö­ren NVIDIA GeForce RTX 20-Serie (oder neu­er) und RTX PRO Work­sta­tion-GPUs zu den unter­stütz­ten Gerä­ten. DGX Spark-Sys­te­me pas­sen eben­falls her­vor­ra­gend dazu. Die Mac-Kom­pa­ti­bi­li­tät hat jedoch einen Haken : Man benö­tigt macOS Tahoe und einen Apple M4-Chip oder neu­er. Älte­re Macs sind bis­lang noch nicht eingeladen.

Eine bemer­kens­wer­te Lücke ist der Aus­schluss von AMD, es gibt der­zeit kei­ner­lei Erwäh­nung von AMD-GPUs im aktu­el­len Ange­bot. Da PAIR sich auf loka­le Netz­wer­ke beschränkt, funk­tio­niert alles hier am bes­ten, wenn sich die Gerä­te in unmit­tel­ba­rer Nähe befin­den, statt über die Cloud ver­teilt zu sein. Anstatt jedes gekop­pel­te Gerät zu einer ein­zi­gen, ein­heit­li­chen GPU zusam­men­zu­füh­ren, behan­delt PAIR jedes Sys­tem sepa­rat als eigen­stän­di­gen Kno­ten, der Auf­ga­ben par­al­lel ausführt.

Was kann man mit PAIRs KI-Cluster eigentlich tun ?

Sobald Ihre Maschi­nen ein­ge­bun­den sind, beginnt der eigent­li­che Spaß. PAIR bie­tet Ihnen intel­li­gen­tes loka­les Rou­ting und sen­det jede Anfra­ge an die Maschi­ne, die frei und bereit ist. Es funk­tio­niert wie ein freund­li­cher Ver­kehrs­po­li­zist für Ihr Heim­netz­werk und ord­net Auf­ga­ben lei­se dem rich­ti­gen Com­pu­ter zu.

Haben Sie meh­re­re Auf­ga­ben gleich­zei­tig ? Die par­al­le­le Ver­tei­lung ver­teilt sie auf Ihre untä­ti­gen Maschi­nen, sodass kei­ne ein­zel­ne GPU die gan­ze Schwer­ar­beit allein erle­di­gen muss. Das sind groß­ar­ti­ge Neu­ig­kei­ten für alle, die Mul­ti-Agen­ten-Set­ups betrei­ben, bei denen ein Haupt­agent klei­ne­re Auf­ga­ben an Hel­fer weitergibt.

Alles bleibt zudem pri­vat. Ihre Prompts und Datei­en ver­las­sen nie­mals Ihr loka­les Netz­werk, und ver­schlüs­sel­te Ver­bin­dun­gen hal­ten alles sicher ver­schlos­sen. PAIR funk­tio­niert sogar zusam­men mit bekann­ten Backends wie Oll­ama und LM Stu­dio und stellt einen ein­zi­gen End­punkt für Ihre Apps bereit. Sie erhal­ten Geschwin­dig­keit und Pri­vat­sphä­re, alles in einem über­sicht­li­chen Paket.