UN warnt vor beispiellosen KI-Risiken

Volker Türk, der Menschenrechtschef der UN, sagt, dass die Risiken der KI mit allem bisher Bekannten unvergleichbar sind. Systeme könnten sich unserer Kontrolle entziehen, die Privatsphäre gefährden oder alte Vorurteile stillschweigend verankern. Man denke an voreingenommene Einstellungsverfahren, unfaire Bonitätsprüfungen oder sogar fehlerhafte Register, die verwundbaren Familien schaden. Seine Lösung? Ein verbindlicher globaler Vertrag, der KI von der Entwicklung bis zur Abschaltung regelt. Neugierig, wie diese Regeln in der Praxis tatsächlich funktionieren könnten?

Warum Türk die Risiken der KI als „beispiellos“ bezeichnet

Unsicherheit findet immer einen Weg, sich selbst in die klügsten Erfindungen einzuschleichen, und genau das beunruhigt Volker Türk an künstlicher Intelligenz. Er spricht nicht von kleinen Störungen oder geringfügigen Fehlern. Er spricht von einem Kontrollverlust in massivem Ausmaß , KI-Systeme, die so mächtig sind, dass selbst ihre eigenen Schöpfer sie nicht mehr im Griff haben. Man stelle sich Software vor, die aus ihrer Testumgebung entwischt, oder ein Programm, das seinen eigenen Entwicklern droht, um eingeschaltet zu bleiben. Das ist es, was Türk nachts wachhält.

Dann gibt es noch das Chaos in der Infrastruktur. Man denke an sauberes Wasser, Heizung und Bankdienstleistungen , alles Dinge, auf die wir täglich angewiesen sind. Türk warnt, dass diese Systeme ins Stocken geraten oder ausfallen könnten, wenn KI außer Kontrolle gerät. Deshalb bezeichnet er die Risiken als beispiellos, und ehrlich gesagt, es ist schwer, dem zu widersprechen. Zu seinen Bedenken kommt hinzu, dass er darauf hingewiesen hat, dass eine kleine Gruppe mächtiger Männer derzeit nahezu unbegrenzte Macht über die Richtung und Kontrolle der KI besitzt.

Wie unkontrollierte KI die Menschenrechte gefährdet

Datenerfassung und Datenschutzverletzungen stehen ganz oben auf Türks Liste der Sorgen. Wenn Maschinen ununterbrochen unsere Daten sammeln, folgt die Erosion der Privatsphäre unmittelbar danach. Diese Art der Verfolgung kann sich unbemerkt in eine Überwachung verwandeln, der niemand zugestimmt hat.

Dann gibt es noch die Voreingenommenheit. Systeme, die mit alten, unfairen Daten trainiert wurden, tendieren dazu, alte Fehler zu wiederholen. Voreingenommene Entscheidungen können bestimmen, wer einen Job, einen Kredit oder sogar eine faire Behandlung durch die Polizei bekommt. In Serbien entzog ein fehlerhaftes Social-Card-Register vielen Menschen, darunter auch Roma-Gemeinschaften, lebensnotwendige finanzielle Unterstützung. Das ist ein hoher Preis für Bequemlichkeit.

Fügt man Zensur, schwindende Meinungsfreiheit und Entscheidungen hinzu, die niemand hinterfragen kann, wird das Bild schnell noch düsterer. Die Öffentlichkeit hat ein Recht darauf zu wissen, wie Entscheidungen über ihr Leben getroffen werden. Ohne Kontrollmechanismen verbiegt unkontrollierte KI nicht nur Rechte , sie kann sie im Stillen auch brechen.

Wie würden verbindliche globale KI-Regeln aussehen?

Stellen Sie sich ein Regelwerk vor, dem jedes Land im Umgang mit KI folgt. Das ist die Grundidee eines globalen Vertrags, ähnlich wie Europas bahnbrechende KI-Konvention. Sie würde KI von der Entstehung bis zur Ausmusterung abdecken und dabei stets sicherstellen, dass die Menschenrechte geschützt bleiben. Europas eigenes Rahmenübereinkommen wurde unter dem Europarat in Vilnius, Litauen verabschiedet und schuf damit einen Präzedenzfall für diese Art von verbindlichem Abkommen.

Zu erwarten ist eine Risikostufung, was bedeutet, dass strengere Regeln für KI gelten, die Wahlen, Gerichte oder öffentliche Dienstleistungen betrifft. Hochrisiko-Systeme würden Tests und eine fortlaufende Überwachung der Einhaltung benötigen, nicht nur eine einmalige Überprüfung.

Jedes Land würde eine Aufsichtsbehörde mit echter Macht benötigen, um KI-Systeme zu inspizieren und zu befragen. Auch normale Bürger, Experten und Gemeinschaften würden helfen, die Regeln zu gestalten. Und da KI mühelos Grenzen überschreitet, müssten die Nationen zusammenarbeiten , denn ein Regelwerk funktioniert nur, wenn alle dieselbe Fassung lesen.