Apple erlaubt Gemini und Claude auf iPhone
07/05/2026
Claude KI steuert jetzt ganze Computer
07/05/2026
Etwas Großes ist gerade in der Welt der künstlichen Intelligenz passiert. Drei der mächtigsten Technologiegiganten , Microsoft, Google und xAI , haben zugestimmt, der US-Regierung die Möglichkeit zu geben, ihre fortschrittlichsten KI-Systeme zu überprüfen, bevor sie der Öffentlichkeit zugänglich gemacht werden. Stellen Sie sich das wie eine Sicherheitsinspektion vor, bevor ein neues Auto auf die Straße kommt. Aber warum jetzt, und was bedeutet das für den einzelnen Menschen ?
Historisches KI-Sicherheitsabkommen erreicht
Die US-Regierung hat eine wegweisende Vereinbarung mit Microsoft, Google und Elon Musks xAI getroffen, um KI-Frontier-Modelle vor der öffentlichen Veröffentlichung einer nationalen Sicherheitsprüfung zu unterziehen. Die Vereinbarung markiert die erste formelle Prüfungsstruktur dieser Art und verpflichtet die Unternehmen, ihre fortschrittlichsten Systeme der Kontrolle durch US-Sicherheitsbehörden zu öffnen, die in der Lage sind, Risiken im Zusammenhang mit Biosicherheit, kritischer Infrastruktur und Informationskriegsführung zu identifizieren , bevor ein einziger Nutzer Zugang erhält. Diese Entwicklung folgt der Unterzeichnung eines wegweisenden KI-Sicherheitsvertrags durch die EU, die USA und das Vereinigte Königreich, der darauf abzielt, künstliche Intelligenzsysteme mit demokratischen Werten und dem Schutz der Menschenrechte in Einklang zu bringen.
Wichtiges KI-Sicherheitsabkommen geschlossen
Meta, OpenAI, Microsoft, Google, Amazon, Anthropic und Inflection gehören zu den Unterzeichnern und verpflichten sich zur sofortigen Umsetzung von Protokollen, die Sicherheitstests, Inhaltsauthentifizierung und branchenübergreifendes Risikomanagement umfassen. Die Vereinbarung signalisiert eine seltene Übereinstimmung zwischen staatlichen Prioritäten und unternehmerischem Handeln in Bezug auf die KI-Aufsicht.
Vorab-Tests und unabhängige Überprüfung
Im Rahmen des Abkommens müssen Unternehmen vor der Einführung eines KI-Systems strenge interne und externe Sicherheitstests durchführen. Unabhängige Experten werden Drittpartei-Bewertungen vornehmen, wobei Testumgebungen über das NIST AI Institute bereitgestellt werden. Entscheidend ist, dass das U.S. Artificial Intelligence Safety Institute frühzeitig Zugang zu neuen Modellen zur Bewertung vor der öffentlichen Markteinführung erhält , eine Bestimmung, die den Bundesbehörden einen beispiellosen Einblick in die kommerzielle KI-Entwicklung gibt.
Transparenz und Authentifizierung
Das Abkommen schreibt Wasserzeichensysteme zur Identifizierung von KI-generierten Inhalten vor, zusammen mit öffentlichen Berichten über Systemfähigkeiten, Einschränkungen und bekannte Risiken. Branchenweite Kennzeichnungsstandards zur Unterscheidung von menschlich erstelltem und KI-generiertem Material werden entwickelt. Unternehmen sind außerdem verpflichtet, Versuche zur Umgehung von Schutzmaßnahmen zu dokumentieren und die Erkenntnisse innerhalb des Konsortiums zu teilen.
Finanzierung und Rechenschaftspflicht
Die Exekutivverordnung von Präsident Biden schuf die rechtliche Grundlage für die Aufsicht, wobei dem National Institute of Standards and Technology bis zu 10 Millionen Dollar für die Einrichtung des AI Safety Institute zugewiesen wurden. Ein breiteres Konsortium aus 200 Unternehmen und Organisationen wird an koordinierter Forschung teilnehmen, wobei die Ergebnisse mit Regierung, Zivilgesellschaft und akademischen Einrichtungen geteilt werden. Die teilnehmenden Unternehmen haben sich außerdem dazu verpflichtet, bewährte Verfahren zum KI-Risikomanagement mit Akteuren aus Industrie, Regierung und Wissenschaft zu teilen.
Beamte charakterisierten das Abkommen als wesentlich für die Aufrechterhaltung des öffentlichen Vertrauens bei gleichzeitiger Wahrung des Tempos der technologischen Entwicklung.
Quellenangabe
- https://www.weforum.org/stories/2024/09/ai-deepfake-digital-news-september-2024/
- https://www.gov.uk/government/news/historic-first-as-companies-spanning-north-america-asia-europe-and-middle-east-agree-safety-commitments-on-development-of-ai
- https://www.centeraipolicy.org/work/statement-on-the-april-2024-us-uk-ai-safety-agreement
- https://en.wikipedia.org/wiki/AI_Safety_Summit_2023
- https://www.industry.gov.au/publications/bletchley-declaration-countries-attending-ai-safety-summit‑1–2‑november-2023
- https://timelines.issarice.com/wiki/Timeline_of_AI_safety
- https://www.research-live.com/article/news/seven-major-firms-sign-up-to-us-governments-ai-safety-deal-/id/5115073
- https://www.youtube.com/watch?v=kWpdwou3o2Y
- https://dig.watch/updates/openai-and-anthropic-sign-ai-safety-deals-with-us-government
- https://www.democrats.senate.gov/newsroom/press-releases/majority-leader-schumer-announces-first-of-its-kind-funding-to-establish-a-us-artificial-intelligence-safety-institute-funding-is-a-down-payment-on-balancing-safety-with-ai-innovation-and-will-aid-development-standards-tools-and-tests-to-ensure-ai-systems-operate-safely
