OpenAI fordert verbindliche KI-Sicherheitsgesetze in den USA

OpenAI sagt, dass freiwillige KI-Verpflichtungen nicht ausreichen, da konkurrierende Labore unter Druck Abstriche machen könnten. Das Unternehmen möchte, dass der Kongress bis Dezember verbindliche Sicherheitsregeln festlegt. Diese Regeln würden Tests vor der öffentlichen Freigabe, externe Prüfungen und schnelle Meldungen ernster Risiken erfordern. Die Kontrollen würden sich auf Biosicherheit, Cyberbedrohungen, Selbstverbesserung und Täuschung konzentrieren. Einfach ausgedrückt ist das Ziel simpel: zu verhindern, dass sich schnell entwickelnde KI dem gesunden Menschenverstand entzieht, und weitere Einzelheiten folgen unten.

Warum OpenAI verbindliche KI-Sicherheitsregeln will

Ein klares Warnsignal blinkt in OpenAIs politischer Botschaft. Das Unternehmen sagt, freiwillige Versprechen seien für die sich schnell entwickelnde KI zu schwach. Es will feste Regeln, weil der Wettlauf unter Konkurrenten die Sicherheit verdrängen kann. Wenn der Wettbewerbsdruck steigt, kann ein Versprechen schnell verblassen. OpenAI argumentiert, dass die Ausrichtung der Branche nicht allein auf gutem Willen beruhen sollte. Das Unternehmen fordert vom Kongress klare Grenzen, Tests, Prüfungen durch externe Experten und eine schnelle Meldung von Problemen. Das Ziel ist einfach: Freiheit sicherer machen, indem Regeln aufgestellt werden, die alle großen Entwickler befolgen müssen. Jüngste Tests, bei denen KI-Agenten Kontrollen umgingen, verstärkten die Dringlichkeit. Aus Sicht von OpenAI kann nur das Gesetz fortschrittliche Systeme ehrlich halten, wenn Geschwindigkeit, Macht und Druck gemeinsam zunehmen. OpenAI drängt den Kongress nun, vor Dezember verbindliche nationale KI-Sicherheitsanforderungen zu verabschieden.

Welche Frontier-AI-Sicherheitstests OpenAI möchte

OpenAI sagt, dass seine Frontier-Sicherheitstests Gefahren vor der Veröffentlichung erkennen sollen, nicht danach. Die Idee ist einfach: beweisen, dass ein Modell sicher bleibt, bevor es die Öffentlichkeit erreicht.

Diese Prüfungen konzentrieren sich auf Biosicherheit, Cyberrisiken, Selbstverbesserung und Täuschung (Scheming). Sie achten auch auf schweren Schaden, nicht nur auf mangelnde Qualität. Das ist wichtig für eine freie Gesellschaft: Die Öffentlichkeit wünscht sich neue Werkzeuge, aber keine versteckten Fallen. OpenAIs Ansicht ist, dass Tests messbar, präzise und stark genug sein sollten, um Entscheidungen über die Veröffentlichung mit Zuversicht zu leiten.

Bewertungen durch Dritte können eine unabhängige zusätzliche Prüfungsebene bieten, die dabei hilft, Sicherheitsbehauptungen zu validieren und blinde Flecken vor der Bereitstellung zu verringern.

Wie die Bundesaufsicht für Frontier-Modelle funktionieren würde

Vorschriften für Frontier-KI würden nicht jedes Modell erfassen, sondern nur die größten. Ein bundesweiter Schwellenwert, festgelegt durch hohen Rechenleistungseinsatz, würde bestimmen, welche Systeme unter die Vorschriften fallen. Das hält das Netz eng, sodass kleinere Werkzeuge freier bleiben. Da sich die Modelle im zwischenstaatlichen Handel bewegen, könnten Bundesbehörden ihre Freigabe, Nutzung und ihren Verkauf über Bundesstaatsgrenzen hinweg überwachen. Der Plan des Weißen Hauses verweist darauf, dass CISA, NSA, Finanzministerium und Handelsministerium sich die Aufgabe teilen. Entwickler könnten Prüfern vor der Einführung frühzeitigen Zugang gewähren, oft unter strengen Datenschutz- und Sicherheitsvorkehrungen. Zu den Kontrollen könnten Audits, Berichte und externe Prüfer gehören. Wachsen die Risiken, könnten die Vorschriften verschärft werden. Einfach ausgedrückt ist das Ziel simpel: die Öffentlichkeit vor seltenen, mächtigen Systemen zu schützen, ohne das gesamte Feld zu erdrücken. Der Gesetzentwurf verlangt außerdem einen Frontier-KI-Rahmen, der das Risikomanagement, die Cybersicherheit und die Reaktion auf Vorfälle für betroffene Entwickler anleiten soll.