Anthropic sperrt KI Modell wegen globaler Cybergefahr

Ein leis­tungs­star­ker KI namens Clau­de Mythos erreg­te kürz­lich die Auf­merk­sam­keit der Cyber­si­cher­heits­welt , und nicht aus­schließ­lich auf ange­neh­me Wei­se. Anthro­pic, das Unter­neh­men hin­ter dem Modell, stell­te fest, dass es gefähr­li­che Soft­ware­feh­ler schnel­ler auf­spü­ren konn­te als jeder mensch­li­che Exper­te. Das klingt beein­dru­ckend, warf jedoch auch erns­te Beden­ken auf. Wer erhält Zugang zu etwas so Mäch­ti­gem ? Die Ant­wort ist, wie sich her­aus­stellt, nicht die brei­te Öffent­lich­keit , und die Grün­de dafür sind es wert, ver­stan­den zu werden.

Anthropic schränkt den Zugang zu KI-Modellen ein

Anthro­pic hat den öffent­li­chen Zugang zu Clau­de Mythos, sei­nem bis­her leis­tungs­fä­higs­ten KI-Modell, zurück­ge­zo­gen und begrün­det dies mit Sicher­heits­ri­si­ken, die schwer­wie­gend genug sind, um es aus dem all­ge­mei­nen Umlauf zu hal­ten. Die Ent­schei­dung folgt auf zuneh­men­de Bele­ge, dass das Modell Soft­ware­schwach­stel­len auf einem Niveau erken­nen kann, das die meis­ten erfah­re­nen mensch­li­chen Exper­ten über­trifft , eine Fähig­keit, die Anthro­pic für genui­nen Gefahr hält, wenn sie unein­ge­schränkt bleibt. Um die­se Risi­ken unter kon­trol­lier­ten Bedin­gun­gen zu hand­ha­ben, hat Anthro­pic Pro­ject Glass­wing ins Leben geru­fen, eine siche­re Test­in­itia­ti­ve, an der wich­ti­ge Tech­no­lo­gie­part­ner wie AWS, Apple, Cis­co, Goog­le, Micro­soft und Nvi­dia betei­ligt sind.

Vollständige Cybersicherheits-Risikoankündigung

Anthro­pic hat weit­rei­chen­de Zugangs­be­schrän­kun­gen für sein neu­es­tes KI-Modell, Clau­de Mythos, ange­kün­digt und begrün­det dies mit bei­spiel­lo­sen Cyber­si­cher­heits­ri­si­ken, die inter­ne Bewer­tun­gen offen­bart haben. Die­se zeig­ten, dass das Sys­tem über eine außer­or­dent­li­che Fähig­keit ver­fügt, Soft­ware-Schwach­stel­len zu iden­ti­fi­zie­ren und auszunutzen.

Fähigkeiten hinter der Entscheidung

Clau­de Mythos iden­ti­fi­zier­te Tau­sen­de von Schwach­stel­len in wich­ti­gen Betriebs­sys­te­men und Inter­net­brow­sern, wobei über 99 % noch unge­patcht sind. Das Modell demons­trier­te die Fähig­keit, Zero-Day-Schwach­stel­len , bis­her unbe­kann­te Sicher­heits­lü­cken , aus­zu­nut­zen und führ­te kom­ple­xe, mehr­stu­fi­ge simu­lier­te Cyber­an­grif­fe von Anfang bis Ende durch. Bei Cyber­si­cher­heits-Her­aus­for­de­run­gen auf Exper­ten­ebe­ne erziel­te das Modell eine Erfolgs­quo­te von 73 %, ein Richt­wert, der For­scher alar­mier­te und sofor­ti­ge Ein­däm­mungs­maß­nah­men auslöste.

Vie­le der ent­deck­ten Schwach­stel­len waren jahr­zehn­te­lang unent­deckt geblie­ben und in weit ver­brei­te­ter Soft­ware ein­ge­bet­tet, der Mil­lio­nen von Ein­zel­per­so­nen und Insti­tu­tio­nen welt­weit vertrauen.

Eingeschränkte Verbreitung

Anstatt eines brei­ten öffent­li­chen Roll­outs hat Anthro­pic den Zugang auf eine klei­ne Grup­pe gro­ßer Tech­no­lo­gie­un­ter­neh­men beschränkt, dar­un­ter Goog­le, Ama­zon, Apple und Micro­soft. Eine Vor­schau , als Clau­de Mythos Pre­view bezeich­net , wur­de selek­tiv mit die­sen Unter­neh­men unter über­wach­ten Bedin­gun­gen geteilt. Anthro­pic bestä­tig­te, dass eine Echt­zeit­über­wa­chung ein­ge­rich­tet ist, mit einer Abschalt­mög­lich­keit, die akti­viert wird, sobald Miss­brauch fest­ge­stellt wird.

Projekt Glasswing

Par­al­lel dazu hat Anthro­pic das Pro­jekt Glass­wing gestar­tet, eine kon­trol­lier­te Ein­satz­in­itia­ti­ve, die in Zusam­men­ar­beit mit AWS und Goog­le ent­wi­ckelt wur­de. Das Pro­jekt lenkt die Fähig­kei­ten des Modells aus­schließ­lich auf defen­si­ve Cyber­si­cher­heits­an­wen­dun­gen. Sicher­heits­exper­ten füh­ren umfang­rei­che Red-Team­ing-Übun­gen durch, und Anthro­pic steht in lau­fen­den Gesprä­chen mit US-Regie­rungs­ver­tre­tern bezüg­lich einer ver­ant­wor­tungs­vol­len Implementierung.

Institutionelle Reaktion

Das bri­ti­sche KI-Sicher­heits­in­sti­tut bestä­tig­te die Fähig­kei­ten von Clau­de Mythos durch kon­trol­lier­te Tests. Das Wei­ße Haus steht in Kon­takt mit KI-Unter­neh­men bezüg­lich Stra­te­gien zur Offen­le­gung und Min­de­rung von Schwach­stel­len. Kri­ti­ker haben jedoch Beden­ken geäu­ßert, dass eine so leis­tungs­star­ke Tech­no­lo­gie auf eine begrenz­te Grup­pe pri­va­ter Unter­neh­men kon­zen­triert wird, und stel­len die Auf­sichts­ver­ant­wor­tung und lang­fris­ti­ge Gover­nan­ce in Fra­ge. Die Details zu Clau­de Mythos gelang­ten erst­mals an die Öffent­lich­keit, nach­dem Anthro­pic ver­se­hent­lich etwa 3.000 unver­öf­fent­lich­te Assets durch­si­ckern ließ, dar­un­ter Doku­men­te, Bil­der und PDFs.

Alle bis­he­ri­gen Tests wur­den in iso­lier­ten Umge­bun­gen durch­ge­führt, ohne bestä­tig­te Expo­si­ti­on gegen­über Live-Systemen.

Quellenangabe

• https://forklog.com/en/anthropic-restricts-public-access-to-ai-model-mythos-after-laboratory-escape/
• https://www.giskard.ai/knowledge/claude-mythos-analyzing-anthropics-new-frontier-model-for-ai-security
• https://fortune.com/2026/03/27/anthropic-leaked-ai-mythos-cybersecurity-risk/
• https://www.politico.com/newsletters/digital-future-daily/2026/04/09/anthropics-ai-sparks-concerns-over-a-new-national-security-risk-00865901
• https://www.youtube.com/watch?v=4a3n2Nhz3eY
• https://fox11online.com/news/nation-world/fact-check-team-anthropics-mythos-ai-raises-cybersecurity-promise-but-poses-risk-tools-cautious-google-amazon-apple
• https://www.anthropic.com/news/disrupting-AI-espionage
• https://www.youtube.com/watch?v=xT6CMLuvGQk