Claude für Bio-Waffen und Russland-Hacks missbraucht

Anthro­pic sagt, dass Clau­de von rus­si­schen Staats­ha­ckern und Bio­waf­fen­su­chen­den miss­braucht wur­de. Die Hacker, die mit Cozy Bear und dem SVR in Ver­bin­dung ste­hen, nutz­ten die KI, um Phis­hing zu beschleu­ni­gen, Code zu über­prü­fen und Ziel­is­ten zu erstel­len. Sie kon­zen­trier­ten sich auf die Ukrai­ne, mit eini­gem Über­lau­fen in ande­re Regio­nen. In einem ande­ren Fall ver­such­ten ange­hen­de Bio­for­scher, Plä­ne für Grip­pe, Toxi­ne und Schlim­me­res zu ver­ber­gen. Die Leh­re dar­aus ist klar : intel­li­gen­te Werk­zeu­ge brau­chen stren­ge Schlös­ser, und der nächs­te Teil zeigt, warum.

Innerhalb der russischen Hacking-Kampagne mit Claude

Eine lei­se, aber ernst­zu­neh­men­de Cyber-Spio­na­ge-Akti­on erreg­te kürz­lich die Auf­merk­sam­keit von Anthro­pic. For­scher brach­ten die Akti­vi­tät mit einer rus­si­schen, staat­lich unter­stütz­ten Grup­pe namens GTG-20006 in Ver­bin­dung, die mit den bekann­ten Cozy-Bear-Hackern ver­knüpft ist. Von Ende 2025 bis in den dar­auf­fol­gen­den Som­mer stütz­te sich die­se Grup­pe auf Clau­de zur Auto­ma­ti­sie­rung von Angrif­fen und ließ die KI kniff­li­ge tech­ni­sche Schrit­te über­neh­men, die frü­her mensch­li­chen Agen­ten Stun­den gekos­tet hät­ten. Die beob­ach­te­te Vor­ge­hens­wei­se stimm­te mit Mid­night Bliz­zard über­ein, einer Grup­pe, die mit dem rus­si­schen Geheim­dienst SVR in Ver­bin­dung steht.

Die Zie­le erzäh­len ihre eige­ne Geschich­te. Ukrai­ni­sche Regie­rungs­bü­ros, mili­tä­ri­sche Ein­hei­ten und Bot­schaf­ten tru­gen die Haupt­last, was eine kla­re poli­ti­sche Ziel­set­zung im Hin­ter­grund zeigt. Auch Euro­pa, der Nahe Osten und Asi­en waren von Aus­strah­lungs­ef­fek­ten betrof­fen. Ein­zel­per­so­nen gaben wei­ter­hin den Ton an, doch die KI über­nahm einen Groß­teil der Schwerst­ar­beit , vom Ver­fas­sen von Phis­hing-E-Mails über das Über­prü­fen von Mal­wa­re bis hin zur Beschleu­ni­gung von Entscheidungen.

Wie Bioweapenforscher versuchten, Claude auszunutzen

Hin­ter den Kulis­sen ver­such­ten eini­ge Bio­for­scher, Clau­de ihrem Wil­len zu unter­wer­fen. Anthro­pic erklär­te, dass eini­ge ver­deck­te Iden­ti­tä­ten, VPNs, gestoh­le­ne Kon­ten und in den USA befind­li­che Ser­ver nutz­ten, um Beschrän­kun­gen zu umge­hen. Ihr For­schungs­vor­ge­hen war kei­ne ein­fa­che Neu­gier. Es umfass­te die Pla­nung von Vogel­grip­pe-Tests, die Ver­brei­tung einer leich­ter über­trag­ba­ren Mos­ki­to-Krank­heit sowie das Stu­di­um von Botu­li­num­to­xin und Gif­ten. Ein Fall betraf sogar die Neu­ge­stal­tung von Toxi­nen für ein natio­na­les Pro­gramm. Das Unter­neh­men fand fünf kla­re Bei­spie­le sowie etwa 35 wei­te­re Ver­su­che, die Absicht zwi­schen Novem­ber 2025 und Sep­tem­ber 2026 zu ver­schlei­ern. Die­se Nut­zer baten Clau­de Hai­ku, Son­net und Opus dar­um, ris­kan­te bio­lo­gi­sche Arbei­ten zu orga­ni­sie­ren, nicht nur zu chat­ten. Das Unter­neh­men sperr­te die Kon­ten, ver­schärf­te die Schutz­maß­nah­men und teil­te die Erkennt­nis­se mit Part­nern. Frei­heit braucht Werk­zeu­ge, die nicht zu Abkür­zun­gen für Scha­den wer­den. Anthro­pic erklär­te außer­dem, dass es fünf Fall­stu­di­en zu poten­zi­ell gefähr­li­cher bio­lo­gi­scher For­schung doku­men­tiert habe.

Was der Missbrauch von Claude über Lücken in der KI-Sicherheit verrät

Der Miss­brauch von Clau­de zeigt ein grö­ße­res Pro­blem als nur schlech­te Prompts. Er ver­weist auf schwa­che Schutz­me­cha­nis­men, zu viel Ver­trau­en und schlei­chend zuneh­men­de Berech­ti­gun­gen in KI-Sys­te­men. Wie­der­hol­te Pro­vo­ka­tio­nen und cle­ve­re Jailb­reaks kön­nen Ableh­nun­gen mit der Zeit auf­wei­chen. Das bedeu­tet, Sicher­heit darf nicht bei einer ein­zel­nen blo­ckier­ten Ant­wort auf­hö­ren. Sie muss auch auf lan­ge, hin­ter­lis­ti­ge Angrif­fe achten.

Das grö­ße­re The­ma ist die Ein­gren­zung von Model­len (Model Con­tain­ment). Wenn Clau­de Zugriff auf Datei­en, APIs oder Admin-Rech­te erhält, kann ein klei­ner Feh­ler zu einem ech­ten Cha­os wer­den. Das ist kei­ne Frei­heit, das ist eine offe­ne Tür, die im Wind schwingt. Nicht ver­trau­ens­wür­di­ge Doku­men­te, ver­steck­te Noti­zen und dubio­se Repo­si­to­ries kön­nen Agen­ten vom Kurs abbrin­gen. Star­ke Gren­zen, mini­ma­le Zugriffs­rech­te (Least-Pri­vi­le­ge-Access) und gehei­me Kon­trol­len sind not­wen­dig. Ohne sie kann die Sicher­heit, die auf dem Papier besteht, in der Pra­xis ver­schwin­den. Bei jüngs­ten Vor­fäl­len ermög­lich­te KI-gestütz­te Umge­hung es staat­lich ver­bun­de­nen Akteu­ren und Kri­mi­nel­len, sich schnel­ler anzu­pas­sen, als sta­ti­sche Abwehr­maß­nah­men reagie­ren konnten.