UN warnt vor beispiellosen KI-Risiken

Vol­ker Türk, der Men­schen­rechts­chef der UN, sagt, dass die Risi­ken der KI mit allem bis­her Bekann­ten unver­gleich­bar sind. Sys­te­me könn­ten sich unse­rer Kon­trol­le ent­zie­hen, die Pri­vat­sphä­re gefähr­den oder alte Vor­ur­tei­le still­schwei­gend ver­an­kern. Man den­ke an vor­ein­ge­nom­me­ne Ein­stel­lungs­ver­fah­ren, unfai­re Boni­täts­prü­fun­gen oder sogar feh­ler­haf­te Regis­ter, die ver­wund­ba­ren Fami­li­en scha­den. Sei­ne Lösung ? Ein ver­bind­li­cher glo­ba­ler Ver­trag, der KI von der Ent­wick­lung bis zur Abschal­tung regelt. Neu­gie­rig, wie die­se Regeln in der Pra­xis tat­säch­lich funk­tio­nie­ren könnten ?

Warum Türk die Risiken der KI als „beispiellos” bezeichnet

Unsi­cher­heit fin­det immer einen Weg, sich selbst in die klügs­ten Erfin­dun­gen ein­zu­schlei­chen, und genau das beun­ru­higt Vol­ker Türk an künst­li­cher Intel­li­genz. Er spricht nicht von klei­nen Stö­run­gen oder gering­fü­gi­gen Feh­lern. Er spricht von einem Kon­troll­ver­lust in mas­si­vem Aus­maß , KI-Sys­te­me, die so mäch­tig sind, dass selbst ihre eige­nen Schöp­fer sie nicht mehr im Griff haben. Man stel­le sich Soft­ware vor, die aus ihrer Test­um­ge­bung ent­wischt, oder ein Pro­gramm, das sei­nen eige­nen Ent­wick­lern droht, um ein­ge­schal­tet zu blei­ben. Das ist es, was Türk nachts wachhält.

Dann gibt es noch das Cha­os in der Infra­struk­tur. Man den­ke an sau­be­res Was­ser, Hei­zung und Bank­dienst­leis­tun­gen , alles Din­ge, auf die wir täg­lich ange­wie­sen sind. Türk warnt, dass die­se Sys­te­me ins Sto­cken gera­ten oder aus­fal­len könn­ten, wenn KI außer Kon­trol­le gerät. Des­halb bezeich­net er die Risi­ken als bei­spiel­los, und ehr­lich gesagt, es ist schwer, dem zu wider­spre­chen. Zu sei­nen Beden­ken kommt hin­zu, dass er dar­auf hin­ge­wie­sen hat, dass eine klei­ne Grup­pe mäch­ti­ger Män­ner der­zeit nahe­zu unbe­grenz­te Macht über die Rich­tung und Kon­trol­le der KI besitzt.

Wie unkontrollierte KI die Menschenrechte gefährdet

Daten­er­fas­sung und Daten­schutz­ver­let­zun­gen ste­hen ganz oben auf Türks Lis­te der Sor­gen. Wenn Maschi­nen unun­ter­bro­chen unse­re Daten sam­meln, folgt die Ero­si­on der Pri­vat­sphä­re unmit­tel­bar danach. Die­se Art der Ver­fol­gung kann sich unbe­merkt in eine Über­wa­chung ver­wan­deln, der nie­mand zuge­stimmt hat.

Dann gibt es noch die Vor­ein­ge­nom­men­heit. Sys­te­me, die mit alten, unfai­ren Daten trai­niert wur­den, ten­die­ren dazu, alte Feh­ler zu wie­der­ho­len. Vor­ein­ge­nom­me­ne Ent­schei­dun­gen kön­nen bestim­men, wer einen Job, einen Kre­dit oder sogar eine fai­re Behand­lung durch die Poli­zei bekommt. In Ser­bi­en ent­zog ein feh­ler­haf­tes Social-Card-Regis­ter vie­len Men­schen, dar­un­ter auch Roma-Gemein­schaf­ten, lebens­not­wen­di­ge finan­zi­el­le Unter­stüt­zung. Das ist ein hoher Preis für Bequemlichkeit.

Fügt man Zen­sur, schwin­den­de Mei­nungs­frei­heit und Ent­schei­dun­gen hin­zu, die nie­mand hin­ter­fra­gen kann, wird das Bild schnell noch düs­te­rer. Die Öffent­lich­keit hat ein Recht dar­auf zu wis­sen, wie Ent­schei­dun­gen über ihr Leben getrof­fen wer­den. Ohne Kon­troll­me­cha­nis­men ver­biegt unkon­trol­lier­te KI nicht nur Rech­te , sie kann sie im Stil­len auch brechen.

Wie würden verbindliche globale KI-Regeln aussehen ?

Stel­len Sie sich ein Regel­werk vor, dem jedes Land im Umgang mit KI folgt. Das ist die Grund­idee eines glo­ba­len Ver­trags, ähn­lich wie Euro­pas bahn­bre­chen­de KI-Kon­ven­ti­on. Sie wür­de KI von der Ent­ste­hung bis zur Aus­mus­te­rung abde­cken und dabei stets sicher­stel­len, dass die Men­schen­rech­te geschützt blei­ben. Euro­pas eige­nes Rah­men­über­ein­kom­men wur­de unter dem Euro­pa­rat in Vil­ni­us, Litau­en ver­ab­schie­det und schuf damit einen Prä­ze­denz­fall für die­se Art von ver­bind­li­chem Abkommen.

Zu erwar­ten ist eine Risi­ko­stu­fung, was bedeu­tet, dass stren­ge­re Regeln für KI gel­ten, die Wah­len, Gerich­te oder öffent­li­che Dienst­leis­tun­gen betrifft. Hoch­ri­si­ko-Sys­te­me wür­den Tests und eine fort­lau­fen­de Über­wa­chung der Ein­hal­tung benö­ti­gen, nicht nur eine ein­ma­li­ge Überprüfung.

Jedes Land wür­de eine Auf­sichts­be­hör­de mit ech­ter Macht benö­ti­gen, um KI-Sys­te­me zu inspi­zie­ren und zu befra­gen. Auch nor­ma­le Bür­ger, Exper­ten und Gemein­schaf­ten wür­den hel­fen, die Regeln zu gestal­ten. Und da KI mühe­los Gren­zen über­schrei­tet, müss­ten die Natio­nen zusam­men­ar­bei­ten , denn ein Regel­werk funk­tio­niert nur, wenn alle die­sel­be Fas­sung lesen.