Altman fordert Akzeptanz für KI-Schattenseiten

Sam Altman sagte, die Welt müsse einige negative Folgen wie Hacks und Betrügereien akzeptieren, um die großen Vorteile von KI zu erhalten. Er verglich es mit Autos: Straßen bringen Freiheit, auch wenn es Unfälle gibt. Viele Menschen empfanden das als kaltherzig, da die alltäglichen Nutzer das Risiko tragen. Der Zeitpunkt half dabei nicht, denn die Sorgen über den Missbrauch von KI waren ohnehin schon groß. Bei katastrophalen Gefahren zieht Altman allerdings eine Grenze. Dario Amodei bevorzugt einen langsameren, strengeren Weg, und die Einzelheiten könnten Sie überraschen.

Was meinte Sam Altman mit „einige schlechte Dinge akzeptieren“?

Was meinte Sam Altman wirklich, als er sagte, die Welt müsse „einige schlechte Dinge akzeptieren“? Seine Aussage ist einfacher, als die Schlagzeilen vermuten lassen.

Altman nutzte eine Kosten-Nutzen-Argumentation. Seiner Ansicht nach wird KI weit mehr Gutes als Schlechtes bringen, möglicherweise um Größenordnungen. Betrug, Hacks und andere Formen des Missbrauchs mögen vorkommen, sollten Einzelne aber nicht davon abhalten, sie zu nutzen.

Man kann es sich wie die offene Straße vorstellen. Autos geben dem Einzelnen Freiheit, und dennoch passieren Unfälle. Altman betrachtet einen gewissen tolerierbaren Missbrauch als Teil dieser Freiheit, nicht als etwas, das man bejubeln sollte.

Er zog allerdings eine klare Grenze. Katastrophale Risiken, wie etwa der Kontrollverlust über KI, sind nicht akzeptabel. Es gehe darum, alltäglichen Schaden zu bewältigen, nicht darum, eine Welt ohne jedes Risiko zu erwarten. Altman hat außerdem gesagt, dass OpenAI das Problem der KI-Ausrichtung (Alignment) nicht gelöst hat und dass kein Labor es bisher gelöst hat.

Warum ging Altmans Spruch über „Hacks und Betrügereien“ nach hinten los?

Altmans Äußerung über „Hacks und Betrügereien“ kam aus ein paar einfachen Gründen schlecht an.

Erstens: das Timing. Die Menschen waren ohnehin schon besorgt über den Missbrauch von KI und über Hackerangriffe, sodass die Worte wie ein Eingeständnis der Gegenwart wirkten und nicht wie ein ferner Gedanke. OpenAI hatte außerdem erklärt, dass abtrünnige Agenten möglicherweise 100 Organisationen betroffen haben könnten, was die Bemerkung noch näher an die eigene Lebensrealität rückte.

Zweitens: die Wortwahl. „Einige schlechte Dinge akzeptieren“ klang nach einem kalten Abwägen. Alltägliche Nutzer würden das Risiko tragen, während die Entwickler die Gewinne einstrichen.

Drittens: die Kritik an der Unternehmensführung. Floridas Gouverneur Ron DeSantis kritisierte, dass eine Handvoll Tech-Oligarchen darüber entscheiden, wie viel Schaden alle anderen hinnehmen müssen.

Schließlich: das Vertrauensdefizit. OpenAI sah sich bereits Fragen zu Sicherheit und Transparenz ausgesetzt. Kritiker sahen darin ein weiteres Zeichen dafür, dass Tempo über Vorsicht gestellt wird.

Gary Marcus nannte es eine „Macht uns reich und mächtig“-Mentalität. Der Satz war unverblümt und leicht zu teilen und verbreitete sich schnell.

Wie unterscheidet sich Altmans zurückhaltender Ansatz von dem Amodeis?

Der Gegenwind wegen „Hacks und Betrügereien“ wirft eine grundsätzlichere Frage auf: Wie denken KI-Verantwortliche über Risiken? Sam Altman und Dario Amodei geben zwei unterschiedliche Antworten.

Zwei Arten der Vorsicht

Altman setzt auf kontrollierte Expansion. Er nimmt einige begrenzte Schäden in Kauf, hält den Zugang breit und lehnt nur die wirklich katastrophalen Risiken ab, etwa den Kontrollverlust über KI.

Amodei neigt zur Zurückhaltung. Er argumentiert, die Sicherheitswerkzeuge seien nicht ausgereift, daher solle sich die Entwicklung verlangsamen, während die Tests verbessert werden. Zu seinem Plan gehören externe Prüfer, die innerhalb von KI-Laboren arbeiten.

Wo sie sich treffen

Das ist weniger ein Streit ums Tempo, als es scheint. Beide sagen, Verlangsamung bedeute nicht Stillstand, und beide befürworten unabhängige Aufsicht. In getrennten Ansprachen vor dem UN-Sicherheitsrat am 23. September 2026 waren sich beide Führungskräfte außerdem einig, dass internationale Standards und Zusammenarbeit für KI notwendig sind.

Warum es wichtig ist

Ihre Governance-Modelle unterscheiden sich in Tempo und Strenge. Der eine bevorzugt den Zugang, der andere die Kontrollen.