Claude Mythos findet Fehler im Code automatisch

Anthro­pic hat das Pro­ject Glass­wing gestar­tet, um wich­ti­ge Inter­net­sys­te­me vor KI-gestütz­ten Cyber­an­grif­fen zu schüt­zen. Zusam­men damit kommt Clau­de Mythos Pre­view, ein Tool, das wie ein Detek­tiv nach Soft­ware­feh­lern sucht und dann Lösun­gen vor­schlägt, die tat­säch­lich zum Code pas­sen. Über 40 Part­ner, dar­un­ter Micro­soft und Goog­le, haben sich der Initia­ti­ve ange­schlos­sen. Gemein­sam haben sie bereits Tau­sen­de schwer­wie­gen­der Sicher­heits­lü­cken gefun­den. Neu­gie­rig, wie die­ser Schutz­schild eigent­lich hin­ter den Kulis­sen funktioniert ?

Was ist Project Glasswing und warum Anthropic es entwickelt hat

Stel­len Sie sich ein Schloss vor, das sich selbst auf­bre­chen kann. Genau das ent­deck­te Anthro­pic, als ein neu­es Spit­zen­mo­dell zeig­te, dass es Soft­ware-Schwach­stel­len bes­ser fin­den und aus­nut­zen kann als fast alle Men­schen. Anstatt die­se Macht unge­nutzt zu las­sen, ent­wi­ckel­te das Unter­neh­men Pro­ject Glass­wing , einen Schutz­schild für die kri­tischs­ten Sys­te­me des Internets.

War­um jetzt han­deln ? Weil eine ähn­lich leis­tungs­fä­hi­ge KI, wenn sie unbe­auf­sich­tigt blie­be, Angrif­fe für Kri­mi­nel­le bil­li­ger und ein­fa­cher machen wür­de. Anthro­pic möch­te die­ses Dreh­buch umkeh­ren und intel­li­gen­te Werk­zeu­ge zum Schutz statt zur Aus­nut­zung einsetzen.

Die­ser Wan­del wirft auch ech­te regu­la­to­ri­sche Impli­ka­tio­nen und ethi­sche Über­le­gun­gen auf. Wer kon­trol­liert leis­tungs­star­ke KI, und wie stel­len wir ihre Rechen­schafts­pflicht sicher ? Glass­wing bie­tet eine durch­dach­te Ant­wort : Fähig­kei­ten sicher tei­len und Abwehr­maß­nah­men stär­ken, bevor Bedro­hun­gen ein­tref­fen. Die Initia­ti­ve ver­eint über 40 Orga­ni­sa­tio­nen, dar­un­ter AWS, Anthro­pic, Apple, Broad­com, Cis­co, CrowdStrike, Goog­le, JPMor­gan­Cha­se, Linux Foun­da­ti­on, Micro­soft, NVIDIA und Palo Alto Net­works.

Wie Claude Mythos Preview Software-Schwachstellen erkennt und behebt

Stel­len Sie sich Mythos Pre­view als einen neu­gie­ri­gen Detek­tiv vor, der in einem digi­ta­len Raum mit nur einer Fall­ak­te ein­ge­schlos­sen ist : dem Pro­gramm selbst. Es beginnt damit, den Quell­code zu lesen und Ver­mu­tun­gen dar­über anzu­stel­len, wo sich Pro­ble­me ver­ber­gen könn­ten. Dann wird es prak­tisch tätig und führt das Pro­gramm aus, um die­se Ver­mu­tun­gen wie ein Wis­sen­schaft­ler zu tes­ten, der eine Theo­rie überprüft.

• Es nutzt auto­ma­ti­sier­tes Fuz­zing, indem es unge­wöhn­li­che Ein­ga­ben in das Pro­gramm ein­speist, um zu sehen, was dar­an scheitert.
• Es denkt pri­vat in einem Notiz­block nach und plant sei­ne Schrit­te, bevor es sei­ne Arbeit zeigt.
• Es scannt rie­si­ge Code­ba­sen auf ein­mal, dank eines gewal­ti­gen Kontextfensters.

Sobald ein Feh­ler bestä­tigt ist, bleibt es nicht dabei ste­hen. Es bewegt sich in Rich­tung kon­text­be­zo­ge­nes Patching und schlägt Lösun­gen vor, die tat­säch­lich zum umge­ben­den Code pas­sen, kei­ne gene­ri­schen Not­lö­sun­gen. Die­se glei­che Sorg­falt zeig­te sich auch in Cyber­si­cher­heits­tests auf Exper­ten­ni­veau, bei denen das Modell 73 % der Zeit erfolg­reich war , bei Her­aus­for­de­run­gen, die kein frü­he­res Modell lösen konnte.

Projekt Glasswing Ergebnisse, Preisgestaltung und Partnerzugang

Die­se Detek­tiv­ar­beit hört sich auf dem Papier groß­ar­tig an, aber hat sie sich tat­säch­lich aus­ge­zahlt ? Ja, und zwar erheb­lich. Fünf­zig Part­ner fan­den in einem Monat über 10.000 schwer­wie­gen­de Feh­ler. Anthro­pic ver­zeich­ne­te 23.019 Fun­de, davon 6.202 als hoch oder kri­tisch ein­ge­stuft. Unab­hän­gi­ge Über­prü­fun­gen bestä­tig­ten, dass 90,6 % davon ech­te Pro­ble­me waren. Bis­her erreich­ten 530 Feh­ler die Main­tai­ner, wei­te­re 827 sind auf dem Weg. Das Patchen dau­ert sei­ne Zeit, im Durch­schnitt etwa zwei Wochen pro Fix, doch der Fort­schritt ist stetig.

Nun spre­chen wir über die Wahl­frei­heit. Zu den Part­ner­an­rei­zen gehört ein Gut­ha­ben-Pool von 100 Mil­lio­nen Dol­lar, der den Teams Spiel­raum gibt, ohne finan­zi­el­len Druck zu arbei­ten. Anthro­pic ist außer­dem eine Part­ner­schaft mit dem Alpha-Ome­ga-Pro­jekt der Open Source Secu­ri­ty Foun­da­ti­on ein­ge­gan­gen, um Main­tai­nern bei der Tria­ge von Feh­ler­be­rich­ten zu hel­fen. Nach der Vor­schau­pha­se liegt die Preis­ge­stal­tung bei 25 Dol­lar pro Mil­li­on Input-Token und 125 Dol­lar pro Mil­li­on Out­put-Token. Die­se Art von Preis­trans­pa­renz hilft Teams bei der Pla­nung und ist über die Clau­de API, Bed­rock, Ver­tex AI und Micro­soft Foundry zugänglich.