OpenAI öffnet seine Bücher zur Modellsicherheit

Sicherheitstransparenz beginnt heute

Ope­nAI setzt neue Maß­stä­be, indem es sei­ne KI-Sicher­heits­da­ten durch das Safe­ty Eva­lua­tions Hub öffent­lich macht. Dies mar­kiert einen Wan­del von ein­ma­li­gen tech­ni­schen Berich­ten zu regel­mä­ßi­gen, trans­pa­ren­ten Aktua­li­sie­run­gen der Modell­leis­tung. Nut­zer und Regu­lie­rungs­be­hör­den kön­nen nun ver­fol­gen, wie GPT-Model­le mit Her­aus­for­de­run­gen wie der Erzeu­gung schäd­li­cher Inhal­te, fak­ti­scher Genau­ig­keit und poten­zi­el­lem Miss­brauch umge­hen. Die­ser Schritt kommt zu einem wich­ti­gen Zeit­punkt, da jüngs­te Kon­tro­ver­sen über über­stürz­te Tests und zurück­ge­hal­te­ne Berich­te die KI-Sicher­heits­prak­ti­ken unter inten­si­ve Prü­fung gestellt haben. Das Unter­neh­men plant die Ein­füh­rung einer Opt-in-Alpha-Pha­se, in der aus­ge­wähl­te Nut­zer neue Model­le vor ihrer offi­zi­el­len Ein­füh­rung tes­ten und Feed­back geben können.

Sicherheitsdaten-Veröffentlichung heute

Ope­nAI hat sei­ne Safe­ty Eva­lua­tions Hub gestar­tet, eine neue Platt­form, die Sicher­heits­me­tri­ken für sei­ne Model­le doku­men­tiert. Die Initia­ti­ve bie­tet trans­pa­ren­ten Zugang zu Daten, ein­schließ­lich Hal­lu­zi­na­ti­ons­ra­ten und poten­zi­el­ler Risi­ken schäd­li­cher Inhalte.

Der Hub ent­hält Sys­tem Cards, die Test­pro­zes­se, Ein­schrän­kun­gen und mög­li­che Pro­ble­me für jedes Modell detail­liert beschrei­ben. Die Bewer­tun­gen sind in vier Haupt­be­rei­che unter­teilt, die schäd­li­che Inhal­te, Jailb­reaks, Hal­lu­zi­na­tio­nen und Anwei­sungs­hier­ar­chie abde­cken. Regel­mä­ßi­ge Aktua­li­sie­run­gen wer­den mit wich­ti­gen Ver­öf­fent­li­chun­gen zusam­men­fal­len und unter­stüt­zen die Bemü­hun­gen der Com­mu­ni­ty zur Ver­bes­se­rung der Sicherheitstransparenz.

Jüngs­te Kri­tik hebt Beden­ken bezüg­lich über­stürz­ter Test­ver­fah­ren und ver­zö­ger­ter Sicher­heits­be­rich­te her­vor. Mit­ar­bei­ter­be­rich­te deu­ten auf Unbe­ha­gen über beschleu­nig­te Test­zeit­plä­ne hin, wäh­rend ein kürz­li­ches Update auf­grund über­mä­ßig vali­die­ren­der Ant­wor­ten Nut­zer­be­schwer­den auslöste.

Als Reak­ti­on dar­auf ent­wi­ckelt Ope­nAI ein dyna­mi­sches Sicher­heits­frame­work und ein risi­ko­ba­sier­tes Kate­go­ri­sie­rungs­sys­tem. Das Unter­neh­men zielt dar­auf ab, schnel­le Ent­wick­lung gegen gründ­li­che Sicher­heits­be­wer­tun­gen abzu­wä­gen, beson­ders bei Model­len mit kri­ti­schen Fähigkeiten.

Die Initia­ti­ve reiht sich ein in ähn­li­che Bemü­hun­gen von Wett­be­wer­bern wie xAI und Goo­gles Gemi­ni. Durch Pro­jek­te wie Health­Bench demons­triert Ope­nAI sein Enga­ge­ment für prak­ti­sche Sicher­heits­be­wer­tun­gen in spe­zia­li­sier­ten Berei­chen und setzt mög­li­cher­wei­se neue Stan­dards für Trans­pa­renz in der Branche.

Quellenangabe

• https://techcrunch.com/2025/05/14/openai-pledges-to-publish-ai-safety-test-results-more-often/
• https://www.binance.com/en/square/post/05–14-2025-openai-launches-safety-evaluations-hub-to-enhance-ai-model-transparency-24242188313713
• https://openai.com/safety/
• https://opentools.ai/news/openai-steps-up-a-new-era-of-ai-transparency-with-safety-evaluations-hub
• https://thezvi.substack.com/p/on-openais-safety-and-alignment-philosophy
• https://www.tomsguide.com/ai/openai-just-published-a-new-safety-report-on-ai-development-heres-what-you-need-to-know
• https://openai.com/safety/evaluations-hub/
• https://openai.com/index/healthbench/
• https://techcrunch.com/2025/04/15/openai-says-it-may-adjust-its-safety-requirements-if-a-rival-lab-releases-high-risk-ai/

Wer­bung