KI-Konzerne unterschreiben zahnlose Selbstverpflichtung

Sechs gro­ße KI-Unter­neh­men haben ein freund­schaft­li­ches Ver­spre­chen unter­zeich­net, ihre Sys­te­me sicher zu hal­ten. Ope­nAI, Anthro­pic, Goog­le, Meta, xAI und Nvi­dia haben sich bereit erklärt, auf Gefah­ren durch Hack­ing sowie durch bio­lo­gi­sche und che­mi­sche Risi­ken zu tes­ten. Ein exter­ner Prü­fer wür­de ihre Arbeit gegen­prü­fen. Der Haken ? Kein Gesetz stützt die Ver­ein­ba­rung, und es gibt kei­ne Stra­fen. Sena­tor Mark War­ner sagt, Selbst­kon­trol­le rei­che nicht aus. Der Kon­gress könn­te das Ver­spre­chen in ver­bind­li­che Regeln umwan­deln. Neu­gie­rig, wie das gesche­hen könn­te ? Die Ein­zel­hei­ten wei­ter unten erklä­ren alles.

Was verspricht das KI-Abkommen des Weißen Hauses ?

Meh­re­re ein­fa­che Ver­spre­chen ste­hen im Mit­tel­punkt der KI-Ver­ein­ba­rung des Wei­ßen Hau­ses. Jedes unter­zeich­nen­de Unter­neh­men ver­pflich­tet sich, siche­re KI als eige­ne Auf­ga­be zu betrach­ten und nicht nur als tech­ni­sches Ziel.

Kon­trol­len intern und extern

Die Fir­men ver­spre­chen stren­ge Kon­trol­len wäh­rend des Trai­nings und der öffent­li­chen Ver­öf­fent­li­chung. Sie wer­den auf Risi­ken in den Berei­chen Hack­ing, bio­lo­gi­sche Bedro­hun­gen und gefähr­li­che Che­mi­ka­li­en ach­ten. Spe­zi­el­le Teams müs­sen bestä­ti­gen, dass die Warn­sys­te­me funk­tio­nie­ren, und anschlie­ßend even­tu­el­le Pro­ble­me beheben.

Exter­ne Prü­fer und Auf­sicht durch den Verwaltungsrat

Ein unab­hän­gi­ger Prü­fer wird die Arbeit noch ein­mal kon­trol­lie­ren. Man kann es sich wie eine zwei­te Mei­nung vor­stel­len. Ein Aus­schuss des Ver­wal­tungs­rats erhält Berich­te und ver­folgt unge­lös­te Probleme.

Frei­wil­lig, vorerst

Nichts davon ist recht­lich durch­setz­bar. Die Mit­glie­der wer­den sich regel­mä­ßig tref­fen, um Bran­chen­stan­dards zu gestal­ten, und Gesetz­ge­ber könn­ten die­se spä­ter zu ver­bind­li­chen Regeln machen. Sena­tor Mark War­ner kri­ti­sier­te die Selbst­re­gu­lie­rung und for­der­te den Kon­gress auf, Geset­ze für Tests fort­ge­schrit­te­ner KI zu ver­ab­schie­den. Wür­den Sie einem Ver­spre­chen ohne Stra­fen vertrauen ?

Warum bezeichnen Kritiker das KI-Abkommen als zahnlos ?

Kri­ti­ker sagen oft, das KI-Abkom­men sehe auf dem Papier stark aus, habe aber kaum Biss. Es ist eine Selbst­ver­pflich­tung, kein Gesetz. Nie­mand wird gezwun­gen, sich dar­an zu hal­ten, und nie­mand zahlt einen Preis dafür, es zu igno­rie­ren. Der ein­sei­ti­ge Pakt, der von Ope­nAI, Anthro­pic, Goog­le, Meta, xAI und Nvi­dia unter­zeich­net wur­de, wird als bewusst zurück­hal­tend beschrieben.

Wo die Lücken sichtbar werden

Das schafft eine Ver­ant­wort­lich­keits­lü­cke. Wenn nie­mand von außen die Arbeit prüft, muss die Öffent­lich­keit dem Ver­spre­chen ein­fach ver­trau­en. Freie Bür­ger wol­len in der Regel Bewei­se sehen, oder ?

Vie­le sehen in dem Pakt eine sym­bo­li­sche Beru­hi­gung, eine tröst­li­che Bot­schaft statt eines dau­er­haf­ten Sicher­heits­sys­tems. Der Text lässt Raum für künf­ti­ge Geset­ze, sodass die Geschich­te hier mög­li­cher­wei­se noch nicht zu Ende ist.

Könnte der Kongress das KI-Abkommen verbindlich machen ?

Ja, der Kon­gress könn­te das KI-Abkom­men in eine Rege­lung mit ech­ter Durch­schlags­kraft ver­wan­deln, und dafür gibt es eini­ge kla­re Wege. Eine blo­ße Selbst­ver­pflich­tung bin­det nie­man­den. Der Advan­cing Ame­ri­can AI Act ver­langt bereits, dass Beschaf­fungs­ver­trä­ge des Bun­des für KI Daten­schutz, Bür­ger­rech­te und bür­ger­li­che Frei­hei­ten berücksichtigen.

Drei Wege nach vorn

1. Die Zusa­gen gesetz­lich ver­an­kern. Der Kon­gress könn­te ein eigen­stän­di­ges Sicher­heits­ge­setz ver­ab­schie­den, das Tests, Mel­dun­gen von Vor­fäl­len und öffent­li­che Offen­le­gun­gen vorschreibt.
2. Die Finanz­mit­tel nut­zen. Die Gesetz­ge­ber könn­ten Bun­des­auf­trä­ge und För­der­mit­tel an Sicher­heits­zu­sa­gen knüpfen.
3. Die Details dele­gie­ren. Behör­den wie NIST oder das Han­dels­mi­nis­te­ri­um könn­ten die Regeln ausarbeiten.

Den Umfang begrenzt halten

Frei­heits­lie­ben­de dürf­te das gefal­len : Die Regeln könn­ten sich allein auf die größ­ten Ent­wick­ler von Spit­zen­mo­del­len (Fron­tier-Model­len) bezie­hen, nicht auf jeden klei­nen Anbie­ter. Ein klar abge­grenz­ter gesetz­li­cher Gel­tungs­be­reich ist wich­tig, denn unschar­fe Begrif­fe las­sen sich schwer durch­set­zen. Sorg­fäl­ti­ge For­mu­lie­run­gen schlie­ßen zudem Lücken bei der Durch­set­zung, etwa schwa­che Strafen.

Ohne ein neu­es Gesetz bleibt das Abkom­men ein blo­ßer Handschlag.