Sicherheitsrisiken bremsen neue KI Modelle aus

Zwei gro­ße Künst­li­che-Intel­li­genz-Unter­neh­men haben die Frei­ga­be ihrer neu­es­ten Cyber­si­cher­heits­mo­del­le ein­ge­schränkt. Ope­nAI und Anthro­pic haben beschlos­sen, den Zugang zu die­sen fort­schritt­li­chen Sys­te­men auf­grund erheb­li­cher Sicher­heits­be­den­ken zu begren­zen. Sie müs­sen ver­ste­hen, dass die­se leis­tungs­star­ken Werk­zeu­ge kri­mi­nel­len Akteu­ren ermög­li­chen könn­ten, groß­flä­chi­ge Finanz­an­schlä­ge durch­zu­füh­ren, wenn sie unbe­fug­ten Zugang erlangen.

Bei­de Unter­neh­men haben stren­ge Kon­troll­maß­nah­men imple­men­tiert. Sie wer­den fest­stel­len, dass der Zugang zu die­sen Sys­te­men nun aus­schließ­lich ver­trau­ens­wür­di­gen Orga­ni­sa­tio­nen vor­be­hal­ten ist. Die Unter­neh­men über­wa­chen alle Ver­wen­dun­gen sorg­fäl­tig, um Miss­brauch zu verhindern.

Ope­nAI und Anthro­pic ste­hen vor einer kri­ti­schen Her­aus­for­de­rung. Sie müs­sen erken­nen, dass sie zwei kon­kur­rie­ren­de Zie­le aus­ba­lan­cie­ren müs­sen. Einer­seits müs­sen sie Finanz­sys­te­me schüt­zen und kri­mi­nel­le Aus­beu­tung ver­hin­dern. Ande­rer­seits müs­sen sie wei­ter­hin Cyber­si­cher­heits­in­no­va­tio­nen und ‑for­schung vorantreiben.

Sie soll­ten berück­sich­ti­gen, was die­ser Ansatz für die Cyber­si­cher­heits­ent­wick­lung bedeu­tet. Ein ein­ge­schränk­ter Zugang könn­te unmit­tel­ba­re Risi­ken auto­ma­ti­sier­ter Anschlä­ge in gro­ßem Maß­stab ver­rin­gern. Sie müs­sen jedoch auch erken­nen, dass die Begren­zung des Zugangs zu fort­schritt­li­chen Werk­zeu­gen den Fort­schritt bei defen­si­ven Cyber­si­cher­heits­fä­hig­kei­ten ver­lang­sa­men könnte.

Die Unter­neh­men haben Vor­sicht der schnel­len Bereit­stel­lung vor­ge­zo­gen. Sie wer­den beob­ach­ten, dass dies ihre Bewer­tung der aktu­el­len Bedro­hun­gen wider­spie­gelt. Die ver­blei­ben­de Fra­ge für Sie ist, ob die­ser gemes­se­ne Ansatz die kri­ti­sche Infra­struk­tur wirk­sam schüt­zen kann und gleich­zei­tig legi­ti­me Sicher­heits­for­schung und ‑ent­wick­lung ermöglicht.

Sie soll­ten bewer­ten, ob frei­wil­li­ge Beschrän­kun­gen durch die Unter­neh­men selbst aus­rei­chend sind. Sie könn­ten erwä­gen, ob staat­li­che Regu­lie­rung oder bran­chen­wei­te Stan­dards die­se vor­sich­ti­ge Stra­te­gie ergän­zen könn­ten. Ihre Bewer­tung die­ser Situa­ti­on wird bestim­men, wie Sie das Gleich­ge­wicht zwi­schen Sicher­heit und Inno­va­ti­on in der Künst­li­che-Intel­li­genz-Ent­wick­lung sehen.

Zwei der welt­weit größ­ten Künst­li­che-Intel­li­genz-Unter­neh­men beschrän­ken die Ver­brei­tung ihrer neu­es­ten Cyber­si­cher­heits­tools für die brei­te Öffent­lich­keit. Anthro­pic und Ope­nAI haben bei­de beschlos­sen, strik­te Kon­trol­le über ihre fort­ge­schrit­te­nen Sicher­heits­mo­del­le zu behal­ten. Bei­de Unter­neh­men sind besorgt, dass die­se leis­tungs­star­ken Tools erheb­li­chen Scha­den anrich­ten könn­ten, wenn sie in die Hän­de von nicht auto­ri­sier­ten Nut­zern gelan­gen. Sie und Ihre Orga­ni­sa­ti­on sind daher durch die­se absicht­li­chen Beschrän­kun­gen vor poten­zi­el­len Angrif­fen geschützt.

Anthro­pic schränk­te den Zugriff auf sein Mythos-Vor­schau­mo­dell am Diens­tag, den 8. April 2026, ein. Nur aus­ge­wähl­te Tech­no­lo­gie- und Sicher­heits­fir­men dür­fen der­zeit auf die­ses Modell zugrei­fen. Anthro­pic hat sich gegen eine öffent­li­che Ver­öf­fent­li­chung ent­schie­den. Das Unter­neh­men hält die leis­tungs­star­ken Hack­ing-Fähig­kei­ten des Modells für zu ris­kant für eine brei­te Ver­brei­tung. Bevor Anthro­pic ein Mythos-Modell an Kun­den lie­fert, muss das Unter­neh­men zunächst robus­te Sicher­heits­maß­nah­men einführen.

Ope­nAI ver­folgt eine ver­gleich­ba­re Stra­te­gie mit sei­nem eige­nen fort­ge­schrit­te­nen Cyber­si­cher­heits­mo­dell. Ope­nAI beschränkt den Zugriff eben­falls auf eine klei­ne Grup­pe veri­fi­zier­ter Orga­ni­sa­tio­nen. Ope­nAI star­te­te sein Pro­gramm „Trus­ted Access for Cyber” nach der Ver­öf­fent­li­chung von GPT‑5.3‑Codex. Die­ses Pro­gramm bie­tet aus­ge­wähl­ten Teil­neh­mern zehn Mil­lio­nen US-Dol­lar in API-Gut­ha­ben. Sie und Ihre Orga­ni­sa­ti­on kön­nen die­se Tools für siche­re Zwe­cke nut­zen. Der Fokus bleibt auf defen­si­ver Sicher­heits­ar­beit. Sie stär­ken Ihre Ver­tei­di­gungs­me­cha­nis­men und schüt­zen Ihre Kun­den durch die­sen Ansatz, anstatt Angrif­fe durchzuführen.

Bei­de Unter­neh­men erken­nen eine grund­le­gen­de Wahr­heit bezüg­lich ihrer Tools an. Behörd­li­che Kon­for­mi­tät ist uner­läss­lich, wenn Sie leis­tungs­star­ke Tech­no­lo­gie frei­ge­ben. Die Markt­aus­wir­kun­gen eines Sicher­heits­vor­falls könn­ten erheb­lich sein. Wenn nicht auto­ri­sier­te Nut­zer die­se Model­le miss­brauch­ten, könn­ten sie auto­ma­ti­sier­te groß­flä­chi­ge Finanz­an­grif­fe star­ten, die Mil­lio­nen von Ein­zel­per­so­nen schä­di­gen. Die­ses Risi­ko erfor­dert, dass bei­de Unter­neh­men vor­sich­tig mit dem Zugriff umgehen.

Die Indus­trie eta­bliert neue Stan­dards für die ver­ant­wor­tungs­vol­le Frei­ga­be fort­ge­schrit­te­ner Künst­li­che-Intel­li­genz-Tools. Tech­no­lo­gie- und Sicher­heits­fir­men haben gezeigt, dass sie einen ein­ge­schränk­ten Zugriff ver­ant­wor­tungs­voll ver­wal­ten kön­nen. Sie und Ihre Kol­le­gen nut­zen die­se Model­le, um Ihre Ver­tei­di­gungs­me­cha­nis­men zu stär­ken und Ihre Kun­den zu schüt­zen. Die­ser kon­trol­lier­te Ansatz ermög­licht legi­ti­me Sicher­heits­ar­beit, wäh­rend Sie Risi­ken gleich­zei­tig minimieren.

Der Zeit­rah­men für eine brei­te­re Ver­füg­bar­keit bleibt unge­wiss. Anthro­pic hat eine öffent­li­che Ver­öf­fent­li­chung aus­ge­schlos­sen. Ope­nAI hat nicht offen­ge­legt, ob sein Modell irgend­wann für ein­zel­ne Nut­zer ver­füg­bar sein wird. Alles hängt von Ihrer Ent­wick­lung und Imple­men­tie­rung ver­bes­ser­ter Sicher­heits­maß­nah­men ab. Mit fort­schrei­ten­der Tech­no­lo­gie und gestärk­ten Schutz­maß­nah­men könn­te sich die Situa­ti­on ändern.

Die­se Situa­ti­on ver­deut­licht ein wich­ti­ges Prin­zip der Künst­li­chen Intel­li­genz heu­te. Die­se leis­tungs­star­ken Tools kön­nen Ihnen hel­fen, sich zu schüt­zen, oder Ihnen erheb­li­chen Scha­den zufü­gen. Unter­neh­men wie Anthro­pic und Ope­nAI ent­schei­den sich für Vor­sicht. Sie erklä­ren, dass bestimm­te Inno­va­tio­nen einer sorg­fäl­ti­gen Ver­wal­tung bedür­fen, bevor Sie sie erhal­ten. Dies stellt einen bewuss­ten Ansatz dar, um tech­no­lo­gi­schen Fort­schritt mit Ver­ant­wor­tung in einer kom­ple­xen Umge­bung auszubalancieren.

Maßnahmen zur Verhinderung von Missbrauch

Anthro­pic trai­niert Model­le, um sicher auf Ihre Anfra­gen zu reagie­ren und gleich­zei­tig Bil­dungs- und Defen­siv­zwe­cke zu unter­stüt­zen. Das Unter­neh­men modi­fi­ziert Model­le, um Unter­stüt­zung bei schäd­li­chen Auf­ga­ben zu ver­wei­gern, und imple­men­tiert ver­fas­sungs­mä­ßi­ge Klas­si­fi­zie­rer, die Jailb­reaks um 81,6% redu­zie­ren. Dar­über hin­aus blo­ckiert Anthro­pic pro­ak­tiv Ihre Anfra­gen zu CBRN-Sicher­heits­ri­si­ken, ein­schließ­lich che­mi­scher oder bio­lo­gi­scher Anwei­sun­gen, wäh­rend sepa­ra­te Schutz­maß­nah­men für bös­wil­li­ge Benut­zer und nicht aus­ge­rich­te­te Model­le in Bedro­hungs­mo­del­lie­rungs­sze­na­ri­en bei­be­hal­ten werden.

Wie überwacht Anthropic unsichere Aktivitäten auf seiner Plattform ?

Anthro­pic setzt kon­ti­nu­ier­li­che Über­wa­chung der LLM-Nut­zung ein, um unsi­che­re Akti­vi­tä­ten zu erken­nen. Wenn Sie Anfra­gen ein­rei­chen, blo­ckiert das Unter­neh­men die­se oder lei­tet sie bei Bedarf an weni­ger leis­tungs­star­ke Model­le wei­ter. Anthro­pic kom­bi­niert auto­ma­ti­sier­te und mensch­li­che Erken­nungs­sys­te­me, um bös­wil­li­ge Benut­zer zu iden­ti­fi­zie­ren und zu stop­pen, bevor unan­nehm­ba­rer Scha­den zu Stan­de kom­men kann. KI-gestütz­te Tools hel­fen dabei, Indi­ka­to­ren für Betrü­ge­rei­en zu sam­meln, zu spei­chern und zu kor­re­lie­ren, dar­un­ter Erpres­sungs­ope­ra­tio­nen, Über­wa­chungs­sche­ma­ta und Beschäf­ti­gungs­be­trug. Das Unter­neh­men betei­ligt sich an Dis­kus­sio­nen des Fron­tier Model Forum, um Bedro­hungs­mo­del­le aus­zu­tau­schen und Erken­nungs­me­tho­den mit Indus­trie­part­nern zu verfeinern.

Welche Kontosperrmaßnahmen hat Anthropic gegen böswillige Benutzer ergriffen ?

Anthro­pic hat Kon­ten sofort gesperrt, wenn Sie groß­an­ge­leg­te Erpres­sung mit Clau­de Code betrie­ben haben. Das Unter­neh­men sperr­te Kon­ten, die mit nord­ko­rea­ni­schen betrü­ge­ri­schen Beschäf­ti­gungs­sche­ma­ta ver­bun­den sind, und Clus­ter von Kon­ten, die an täu­schen­den Beschäf­ti­gungs- und ver­deck­ten Ein­fluss­ope­ra­tio­nen betei­ligt sind. Anthro­pic sperr­te auch Kon­ten wäh­rend Ermitt­lun­gen von KI-orches­trier­ter Cyber-Spio­na­ge und Kon­ten, die Ran­som­wa­re mit grund­le­gen­den Pro­gram­mier­kennt­nis­sen erstellten.

Wie arbeitet Anthropic mit externen Sicherheitsorganisationen zusammen ?

Anthro­pic arbei­tet mit Red-Team­ing-Orga­ni­sa­tio­nen zusam­men, um Sicher­heits­maß­nah­men zu bewer­ten und zu ver­bes­sern. Das Unter­neh­men unter­hält ein Pro­gramm für ver­trau­ens­wür­di­gen Zugriff für Sie als Cyber­de­fen­se-Benut­zer mit gestuf­ten erwei­ter­ten Funk­tio­nen. Anthro­pic betreibt eine bera­ten­de Grup­pe des Fron­tier Risk Coun­cil mit Sicher­heits­fach­leu­ten und arbei­tet mit dem Fron­tier Model Forum an gemein­sa­men Bedro­hungs­mo­del­len und Best Prac­ti­ces. Das Unter­neh­men teilt auch Miss­brauchs­in­di­ka­to­ren mit Third-Par­ty-Sicher­heits­teams und Behörden.

Was ist Project Glasswing und wie verbessert es die Cybersicherheit ?

Pro­ject Glass­wing ist eine Zusam­men­ar­beit zwi­schen Anthro­pic, AWS und Goog­le, die sich auf die siche­re Bereit­stel­lung von Funk­tio­nen zur Schwach­stel­len­aus­nut­zung kon­zen­triert. Die­se Initia­ti­ve ermög­licht es Ihnen als Sicher­heits­fach­mann, Schwach­stel­len ver­ant­wor­tungs­voll zu iden­ti­fi­zie­ren und zu behe­ben, wäh­rend stren­ge Schutz­maß­nah­men gegen Miss­brauch auf­recht­erhal­ten wer­den. Das Pro­jekt stellt einen koor­di­nier­ten Ansatz dar, um Cyber­si­cher­heits­for­schung vor­an­zu­trei­ben, ohne die Platt­form­si­cher­heit zu gefähr­den oder bös­wil­li­ge Akteu­re zu ermächtigen.

Was ist das Aardvark-KI-Agent-Programm ?

Aard­vark ist ein KI-Agent, der sich der­zeit in pri­va­ter Beta-Pha­se befin­det und ent­wi­ckelt wur­de, um Schwach­stel­len in Open-Source-Pro­jek­ten zu iden­ti­fi­zie­ren. Das Pro­gramm ermög­licht es Ihnen als qua­li­fi­zier­ter Sicher­heits­for­scher oder Pro­jekt­be­treu­er, Sicher­heits­män­gel pro­ak­tiv zu erken­nen. Sie kön­nen schnel­le­re Abhil­fe­maß­nah­men ermög­li­chen und Expo­si­ti­ons­fens­ter durch die­ses Werk­zeug ver­rin­gern. Aard­vark stellt Anthro­pics Enga­ge­ment zur Unter­stüt­zung Ihrer Defen­siv-Sicher­heits­fä­hig­kei­ten in der Open-Source-Gemein­schaft dar.

Wie koordiniert sich Anthropic mit Industriestandards und Frameworks ?

Anthro­pic betei­ligt sich am OWASP GenAI Secu­ri­ty Pro­ject und trägt zur NIST-Taxo­no­mie­ent­wick­lung für AI-Bedro­hungs­prä­ven­ti­on bei. Das Unter­neh­men teilt Pay­loads und Intel­li­genz mit der brei­te­ren Sicher­heits­ge­mein­de, um bös­wil­li­ge Ope­ra­tio­nen zu unter­bre­chen. Die­ser kol­la­bo­ra­ti­ve Ansatz stellt sicher, dass Sicher­heits­prak­ti­ken mit Indus­trie­stan­dards und sich wei­ter­ent­wi­ckeln­den Best Prac­ti­ces in der KI-Sicher­heit in Ein­klang stehen.

Wie reagiert Anthropic auf verdachtete Spionagekampagnen ?

Bei Ermitt­lun­gen zu KI-orches­trier­ten Cyber-Spio­na­gen führt Anthro­pic gründ­li­che Bewer­tun­gen durch, bevor es Maß­nah­men ergreift. Das Unter­neh­men sperrt Kon­ten, wenn Bewei­se bestä­tigt sind. Anthro­pic koor­di­niert sich mit betrof­fe­nen Ein­rich­tun­gen und rele­van­ten Behör­den, um umfas­sen­de Infor­ma­tio­nen über Ope­ra­tio­nen bereit­zu­stel­len. Die­se koor­di­nier­te Reak­ti­on trägt dazu bei, die Aus­wir­kun­gen zu mini­mie­ren und ver­hin­dert, dass Akteu­re unent­deckt zu ande­ren Platt­for­men migrieren.

Welche Rolle spielt die menschliche Überprüfung in Anthropics Sicherheitsprozessen ?

Mensch­li­che Erken­nung und Über­prü­fung ergän­zen Anthro­pics auto­ma­ti­sier­te Sicher­heits­sys­te­me, um nuan­cier­tes Urteils­ver­mö­gen bei der Kenn­zeich­nung bös­wil­li­ger Akti­vi­tä­ten zu gewähr­leis­ten. Sicher­heits­teams unter­su­chen ver­däch­ti­ge Mus­ter und kor­re­lie­ren Indi­ka­to­ren über Ihre Kon­ten und Kam­pa­gnen. Sie tref­fen fun­dier­te Ent­schei­dun­gen über Kon­to­sper­run­gen und Inhalts­be­schrän­kun­gen. Die­ser Hybridan­satz gleicht schnel­le Reak­ti­ons­fä­hig­keit mit sorg­fäl­ti­ger Berück­sich­ti­gung von Kon­text und pro­por­tio­na­ler Durch­set­zung aus.

Wie balanciert Anthropic Sicherheit mit legitimer Cybersicherheitsforschung ?

Anthro­pic unter­schei­det zwi­schen defen­si­ven Cyber­si­cher­heits­an­wen­dun­gen und schäd­li­chen Anwen­dun­gen durch das Pro­gramm für ver­trau­ens­wür­di­gen Zugriff. Das Unter­neh­men ver­gibt Ihnen als qua­li­fi­zier­tem Sicher­heits­fach­mann gestaf­fel­te erwei­ter­te Funk­tio­nen. Anthro­pic unter­hält sepa­ra­te Bedro­hungs­mo­del­le für ver­schie­de­ne Benut­zer­ka­te­go­rien und arbei­tet mit Red-Team­ing-Orga­ni­sa­tio­nen zusam­men, um geeig­ne­te Funk­ti­ons­ebe­nen zu eva­lu­ie­ren. Die­ser nuan­cier­te Ansatz unter­stützt Ihre legi­ti­me Sicher­heits­for­schung, wäh­rend er Miss­brauch durch bös­wil­li­ge Akteu­re verhindert.

Verantwortungsvolle KI-Bereitstellung ist wichtig

Bei der Bereit­stel­lung fort­schritt­li­cher KI-Sys­te­me müs­sen Sie sorg­fäl­tig berück­sich­ti­gen, wie die­se Tools Ein­zel­per­so­nen und Gemein­schaf­ten beein­flus­sen. Wenn Orga­ni­sa­tio­nen wie Ope­nAI und Anthro­pic leis­tungs­star­ke Cyber­si­cher­heits­mo­del­le ein­schrän­ken, tref­fen sie bewuss­te Ent­schei­dun­gen zur Risi­ko­kon­trol­le. Sie erken­nen an, dass die Frei­ga­be solch leis­tungs­star­ker Tools ohne ange­mes­se­ne Schutz­maß­nah­men Ihre finan­zi­el­le Sicher­heit und per­sön­li­che Sicher­heit gefähr­den könnte.

Eine star­ke Inter­es­sen­ver­tre­tung der Stake­hol­der ist in die­sem Kon­text wesent­lich. Die­se Orga­ni­sa­tio­nen bezie­hen Ethi­ker, Sicher­heits­exper­ten und Gemein­de­mit­glie­der in ihre Ent­schei­dun­gen über die Frei­ga­be neu­er Tech­no­lo­gie ein. Sie unter­su­chen die fol­gen­den Fra­gen : Wer könn­te hier­durch geschä­digt wer­den ? Wel­che Schutz­maß­nah­men benö­ti­gen wir ? Eine kon­ti­nu­ier­li­che Über­wa­chung der Bereit­stel­lungs­er­geb­nis­se stellt sicher, dass die Ein­hal­tung von Richt­li­ni­en gewähr­leis­tet bleibt und poten­zi­el­le Schä­den schnell iden­ti­fi­ziert werden.

Die­ser bewuss­te Ansatz respek­tiert Ihre Frei­heit, indem er Sie vor poten­zi­el­ler Miss­brau­chung schützt. Ver­ant­wor­tungs­vol­le Bereit­stel­lung schränkt Inno­va­ti­on nicht ein. Viel­mehr stellt sie sicher, dass KI-Tools der Gesell­schaft nut­zen, wäh­rend Sie mit mini­ma­len ech­ten Gefah­ren kon­fron­tiert sind. Ange­mes­se­ne Schutz­vor­rich­tun­gen machen Ihre Umge­bung sicherer.

Quellenangabe

• https://the-decoder.com/openai-reportedly-following-anthropics-lead-in-restricting-access-to-powerful-cybersecurity-ai/
• https://securityboulevard.com/2026/04/anthropic-unveils-restricted-ai-cyber-model-in-unprecedented-industry-alliance/
• https://www.youtube.com/watch?v=xT6CMLuvGQk
• https://blog.barracuda.com/2025/12/16/openai-ai-model-cybersecurity-warning
• https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf
• https://www.anthropic.com/news/detecting-countering-misuse-aug-2025
• https://cdn.openai.com/threat-intelligence-reports/disrupting-malicious-uses-of-our-models-february-2025-update.pdf
• https://www.anthropic.com/news/disrupting-AI-espionage
• https://technijian.com/chatgpt/anthropics-new-ai-security-system-a-breakthrough-against-jailbreaks/
• https://ironscales.com/blog/ai-gone-rogue-what-anthropic-report-means-for-cybersecurity