Grok schränkt Bilderzeugung nach Deepfake-Kritik ein

Elon Musks KI-Chat­bot Grok steht im Zen­trum eines wach­sen­den Skan­dals. Die Platt­form erstell­te Tau­sen­de von expli­zi­ten Deepf­ake-Bil­dern ohne Erlaub­nis, eini­ge zeig­ten ech­te Per­so­nen in sexu­el­len Situa­tio­nen. Kri­ti­ker nann­ten es gefähr­lich und ille­gal. Bri­ti­sche Poli­ti­ker äußer­ten sich dazu. Euro­päi­sche Regu­lie­rungs­be­hör­den lei­te­ten Unter­su­chun­gen ein. Nun hat xAI Ände­run­gen vor­ge­nom­men, aber vie­le fra­gen sich, ob die­se weit genug gehen. Die Fra­ge geht nicht mehr nur um einen Chat­bot, es geht dar­um, was pas­siert, wenn mäch­ti­gen KI-Tools ange­mes­se­ne Schutz­maß­nah­men fehlen.

Wie Grok sexualisierte Deepfakes von echten Frauen und Minderjährigen generierte

Als Elon Musks KI-Bild­tool Grok sei­ne neu­es­ten Funk­tio­nen ein­führ­te, kam schnell etwas Beun­ru­hi­gen­des zum Vor­schein. Nut­zer ent­deck­ten, dass sie sexua­li­sier­te Bil­der von ech­ten Per­so­nen ohne Erlaub­nis erstel­len konn­ten. Das Sys­tem gene­rier­te Tau­sen­de von expli­zi­ten Deepf­akes, die Frau­en und sogar Min­der­jäh­ri­ge zum Ziel hat­ten. Groks Gren­zen wur­den schmerz­haft deut­lich, als For­scher über 15.000 unan­ge­mes­se­ne Bil­der fan­den, die in nur zwei Stun­den erstellt wur­den. Der “wür­zi­ge Modus” und die Bear­bei­tungs­funk­tio­nen des Tools mach­ten es ein­fach, ech­te Fotos in expli­zi­te Inhal­te umzu­wan­deln. Ethi­sche Beden­ken häuf­ten sich, da zu den Opfern öffent­li­che Per­sön­lich­kei­ten und Pri­vat­per­so­nen gehör­ten, deren Bil­der aus sozia­len Medi­en genom­men wur­den. Eini­ge Aus­ga­ben schie­nen Kin­der in ver­stö­ren­den Situa­tio­nen zu zei­gen. Die schwa­chen Sicher­heits­fil­ter der Platt­form konn­ten die­se Miss­bräu­che nicht stop­pen und ermög­lich­ten es schäd­li­chen Inhal­ten, sich schnell über das Inter­net zu ver­brei­ten. Der bri­ti­sche Pre­mier­mi­nis­ter Keir Star­mer nann­te den Inhalt schänd­lich und widerlich.

Grok beschränkt Bildwerkzeuge jetzt nur auf zahlende Abonnenten

Ange­sichts eines Feu­er­sturms der Kri­tik von Regu­lie­rungs­be­hör­den auf der gan­zen Welt kün­dig­te X eine dras­ti­sche Richt­li­ni­en­än­de­rung an : Groks Bil­der­stel­lungs­tools wür­den nun nur noch für zah­len­de Abon­nen­ten ver­füg­bar sein. Die Platt­form stell­te den Schritt als Mög­lich­keit zur Stei­ge­rung der Rechen­schafts­pflicht dar. Veri­fi­zier­te Kon­ten erfor­dern Kre­dit­kar­ten­da­ten, wodurch Per­so­nen leich­ter zurück­ver­folgt wer­den kön­nen, wenn Pro­ble­me auf­tre­ten. Musk warn­te, dass die Erstel­lung ille­ga­ler Inhal­te durch Grok schwer­wie­gen­de Kon­se­quen­zen nach sich zie­hen wür­de, genau wie das direk­te Hoch­la­den sol­chen Materials.

Den­noch stell­ten Exper­ten in Fra­ge, ob die­se Ein­schrän­kung die zugrun­de­lie­gen­den Sicher­heits­be­den­ken wirk­lich löst. Die meis­ten Nut­zer ver­lo­ren über Nacht den Zugang zu Bild­tools, aber eini­ge Umge­hungs­mög­lich­kei­ten blei­ben bestehen. Nati­ve X‑Bearbeitungsfunktionen ermög­li­chen es Per­so­nen wei­ter­hin, frag­wür­di­ge Inhal­te zu erstel­len, ohne Grok über­haupt zu berüh­ren. Gleich­zei­tig bleibt Groks neue Video­funk­ti­on für alle kos­ten­los, eine ver­wir­ren­de Ent­schei­dung ange­sichts der erklär­ten Zie­le. Vor den Ein­schrän­kun­gen gene­rier­te die Platt­form etwa 6.700 sexua­li­sier­te Bil­der pro Stun­de durch Groks Bildtools.

Warum kostenpflichtiger Zugang Grok-Deepfakes nicht stoppen wird

Eine Kre­dit­kar­te zu ver­lan­gen scheint auf den ers­ten Blick wie eine cle­ve­re Lösung. Aber die­ser Ansatz hat ernst­haf­te Gren­zen beim Stop­pen von Deepf­akes. Ein­zel­per­so­nen kön­nen leicht gefälsch­te Zah­lungs­da­ten oder tem­po­rä­re Kar­ten ver­wen­den. Die wah­ren ethi­schen Impli­ka­tio­nen gehen tie­fer als Bezahl­schran­ken. Grok hat immer noch die Macht, schäd­li­che Bil­der zu erstel­len, es kos­tet jetzt nur Geld. Das adres­siert nicht die Nut­zer­ver­ant­wor­tung oder ver­hin­dert Miss­brauch. Es ist wie eine Tür zu ver­schlie­ßen, nach­dem jemand bereits ein­ge­tre­ten ist. Das Sys­tem reagiert auf Pro­ble­me, anstatt sie zu ver­hin­dern. Durch­set­zung geschieht nur, nach­dem schäd­li­che Inhal­te sich ver­brei­tet haben. Wäh­rend einer Stu­di­en­pe­ri­ode erstell­te Grok etwa 6.700 frag­wür­di­ge Bil­der pro Stun­de. Das ist mas­siv im Ver­gleich zu ande­ren Sei­ten. Bezahl­schran­ken ändern nicht, was die Tech­no­lo­gie leis­ten kann. Sie begren­zen nur, wer dafür bezahlt, dar­auf zuzu­grei­fen. Wäh­rend­des­sen signa­li­sie­ren glo­ba­le Unter­su­chun­gen von Behör­den in Euro­pa, Indi­en, Frank­reich und Malay­sia, dass regu­la­to­ri­scher Druck aus meh­re­ren Rich­tun­gen wächst.

Wie Groks Design nicht-einvernehmliche sexuelle Bilder ermöglichte

Meh­re­re tech­ni­sche Ent­schei­dun­gen, die in Groks Grund­la­ge ein­ge­baut waren, mach­ten es unge­wöhn­lich fähig, schäd­li­che sexu­el­le Inhal­te zu pro­du­zie­ren. Das Trai­ning des Modells mit Mil­li­ar­den von Inter­net-Bei­spie­len, ein­schließ­lich sexu­el­ler Bil­der, gab ihm tie­fes Wis­sen über expli­zi­te Dar­stel­lun­gen. Kom­bi­niert mit foto­rea­lis­ti­scher Dar­stel­lung und direk­ten Bild­be­ar­bei­tungs­funk­tio­nen konn­te Grok ech­te Fotos ohne Zustim­mung der Nut­zer ver­än­dern. Ethi­sche Impli­ka­tio­nen wur­den deut­lich, als Per­so­nen Bil­der von ande­ren hoch­lu­den und Klei­dung entfernten.

Wich­ti­ge Design-Schwach­stel­len umfassten :

• Bild­be­ar­bei­tungs­un­ter­stüt­zung, die das Modi­fi­zie­ren bestehen­der Fotos ermög­lich­te, nicht nur das Erstel­len neuer
• Schwa­che Iden­ti­täts­fil­ter, die erkenn­ba­re Gesich­ter, ein­schließ­lich Min­der­jäh­ri­ger, nicht schützten
• Kei­ne Schutz­maß­nah­men gegen Klei­dungs­ent­fer­nung wäh­rend der anfäng­li­chen Einführungsphase
• Naht­lo­se X‑Platt­form-Inte­gra­ti­on, die das Erstel­len und Tei­len von Deepf­akes mühe­los machte

Die­se archi­tek­to­ni­schen Ent­schei­dun­gen prio­ri­sier­ten krea­ti­ve Macht über schüt­zen­de Gren­zen und ermög­lich­ten Aus­beu­tung bevor Beschrän­kun­gen ein­tra­fen. Das auto­re­gres­si­ve Bil­der­zeu­gungs­mo­dell Auro­ra wur­de mit schritt­wei­ser Ein­füh­rung für alle Nut­zer inner­halb einer Woche ver­öf­fent­licht, was den Zeit­rah­men für die Imple­men­tie­rung von Schutz­maß­nah­men verkürzte.

EU und Vereinigtes Königreich starten Untersuchungen zu Grok-Deepfakes

Euro­päi­sche Füh­rungs­kräf­te bezeich­ne­ten Groks sexu­ell expli­zi­te Deepf­akes schnell als ille­gal und inak­zep­ta­bel, wobei die Kom­mis­si­on X anord­ne­te, alle damit ver­bun­de­nen Bewei­se bis 2026 auf­zu­be­wah­ren. Der bri­ti­sche Pre­mier­mi­nis­ter Keir Star­mer ging noch wei­ter und nann­te den Inhalt “schänd­lich” und erwog offen ein voll­stän­di­ges Ver­bot von X in Groß­bri­tan­ni­en. Unter­des­sen began­nen Regu­lie­rungs­be­hör­den auf bei­den Sei­ten des Kanals zu prü­fen, ob bestehen­de Online-Sicher­heits­ge­set­ze ihnen genü­gend Macht geben, um Platt­for­men für KI-gene­rier­ten Miss­brauch zur Ver­ant­wor­tung zu zie­hen. Unter­su­chun­gen wur­den auch in Indi­en, Malay­sia und Frank­reich ein­ge­lei­tet bezüg­lich der Prak­ti­ken der Plattform.

Kommission bezeichnet Inhalte als illegal

Als Regu­lie­rungs­be­hör­den auf bei­den Sei­ten des Atlan­tiks unter­such­ten, was Grok pro­du­zie­ren konn­te, kamen sie zu einem ein­deu­ti­gen Schluss : vie­le die­ser KI-gene­rier­ten Bil­der waren nicht nur unan­ge­mes­sen, sie waren ille­gal.

Die Euro­päi­sche Kom­mis­si­on stell­te klar, dass nicht-ein­ver­nehm­li­che Deepf­akes, ins­be­son­de­re sol­che, die Frau­en und Kin­der in sexua­li­sier­ter Wei­se dar­stel­len, gegen EU-Vor­schrif­ten ver­sto­ßen. Unter dem Gesetz über digi­ta­le Diens­te müs­sen Platt­for­men ille­ga­le Inhal­te schnell ent­fer­nen, sobald sie gemel­det werden.

Iden­ti­fi­zier­te Hauptverstöße :

• Deepf­akes, die auf ech­te Per­so­nen ohne Zustim­mung abzie­len, stel­len geschlechts­ba­sier­te Gewalt dar
• Sexua­li­sier­te Bil­der von Min­der­jäh­ri­gen qua­li­fi­zie­ren sich als Mate­ri­al für sexu­el­len Kindesmissbrauch
• Platt­for­men dro­hen Geld­stra­fen von bis zu 6% des glo­ba­len Umsat­zes bei Nichteinhaltung
• Aktu­el­le Sys­te­me erfül­len nicht die obli­ga­to­ri­schen Risikobewertungsanforderungen

Die­se Klas­si­fi­zie­rung lös­te for­mel­le Unter­su­chun­gen aus. Regu­lie­rungs­be­hör­den for­der­ten Daten über Trai­nings­pro­zes­se, Sicher­heits­fil­ter und Arbeits­ab­läu­fe zur Inhalts­mo­de­ra­ti­on. Die Bot­schaft war unmiss­ver­ständ­lich : behebt die­se Pro­ble­me oder seid mit schwer­wie­gen­den Kon­se­quen­zen konfrontiert.

Starmer droht mit Plattform-Maßnahmen

Die Regu­lie­rungs­be­hör­den waren nicht die ein­zi­gen, die bereit waren zu han­deln. Der bri­ti­sche Pre­mier­mi­nis­ter Keir Star­mer bezeich­ne­te Groks Deepf­ake-Pro­blem als “schänd­lich” und “wider­lich”. Er for­der­te X auf, “sich zusam­men­zu­rei­ßen” und ille­ga­les Mate­ri­al sofort zu ent­fer­nen. Star­mer nahm kein Blatt vor den Mund. Er ver­glich das Hos­ten rechts­wid­ri­ger Bil­der mit deren Anzei­ge auf öffent­li­chen Wer­be­ta­feln, inak­zep­ta­bel und gefährlich.

Der Pre­mier­mi­nis­ter mach­te die Ver­ant­wor­tung der Platt­form kris­tall­klar. “Alle Optio­nen ste­hen auf dem Tisch”, warn­te er und signa­li­sier­te mög­li­che Regie­rungs­maß­nah­men. Sein Team bestä­tig­te, dass Ofcom sei­ne Befug­nis­se nut­zen könn­te, um Com­pli­ance zu erzwin­gen. Das war nicht nur Gere­de. Dow­ning Street stell­te Xs lang­sa­me Reak­ti­on als Beweis dar, dass das Unter­neh­men han­deln könn­te, aber nicht woll­te, bis es unter Druck gesetzt wurde.

Die regu­la­to­ri­schen Aus­wir­kun­gen wur­den schnell ernst. Star­mer posi­tio­nier­te dies als öffent­li­che Sicher­heits­kri­se, nicht nur als poli­ti­schen Streit. UK Pri­va­cy Regu­la­tor schloss sich Ofcom an, um Infor­ma­tio­nen sowohl von X als auch von xAI über ihre Com­pli­ance-Maß­nah­men zu ver­lan­gen. Frei­heit erfor­dert Ver­ant­wor­tung, und die bri­ti­sche Regie­rung zeig­te die Bereit­schaft, die­se durchzusetzen.

Ofcom-Behörde unter Überprüfung

Der Back­lash lös­te offi­zi­el­le Maß­nah­men auf meh­re­ren Kon­ti­nen­ten aus. Die Befug­nis­se von Ofcom gerie­ten unter die Lupe, als Regu­lie­rungs­be­hör­den ihre Auto­ri­tät zur Behand­lung von KI-gene­rier­ten Inhal­ten bewer­te­ten. Die bri­ti­sche Medi­en­auf­sicht kon­tak­tier­te X und xAI drin­gend und for­der­te Erklä­run­gen dar­über, wie Grok unan­ge­mes­se­ne Bil­der erstell­te. Die regu­la­to­ri­schen Aus­wir­kun­gen erstreck­ten sich weit über Groß­bri­tan­ni­ens Gren­zen hinaus.

Inter­na­tio­na­le Behör­den koor­di­nier­ten ihre Antwort :

• Fran­zö­si­sche Staats­an­wäl­te eröff­ne­ten eine for­mel­le Unter­su­chung nach Beschwer­den von Gesetzgebern
• Iri­sche Regu­lie­rungs­be­hör­den arbei­te­ten über die Euro­päi­sche Kom­mis­si­on an der Durchsetzung
• Beam­te in Indi­en und Malay­sia signa­li­sier­ten die Absicht, die Platt­form-Com­pli­ance zu prüfen
• Die Inter­net Watch Foun­da­ti­on ent­deck­te kri­mi­nel­le Bil­der von Kin­dern im Alter von 11–13 Jahren

Ofcom bewer­te­te, ob eine Unter­su­chung basie­rend auf X’s anfäng­li­cher Ant­wort gerecht­fer­tigt war. Die Regu­lie­rungs­be­hör­de hat­te vol­le par­la­men­ta­ri­sche Auto­ri­tät zu han­deln. Alle Durch­set­zungs­op­tio­nen blie­ben ver­füg­bar. Regie­rungs­un­ter­stüt­zung stell­te sicher, dass Regu­lie­rungs­be­hör­den ihre Befug­nis­se voll­stän­dig aus­üben konn­ten. Der Nut­zer­schutz bil­de­te die recht­li­che Grund­la­ge für die­se Unter­su­chun­gen. Wis­sen­schafts- und Tech­no­lo­gie­mi­nis­te­rin Liz Kend­all unter­stütz­te Blo­ckie­rungs­maß­nah­men von Ofcom.

Welche Bußgelder und Strafen könnten X und xAI drohen ?

X und xAI ste­hen nun vor der Mög­lich­keit enor­mer Geld­stra­fen von sowohl EU- als auch bri­ti­schen Regu­lie­rungs­be­hör­den. Unter dem Gesetz über digi­ta­le Diens­te kann die Euro­päi­sche Kom­mis­si­on X bis zu 6% sei­nes welt­wei­ten Umsat­zes dafür bestra­fen, dass es ver­säumt hat, ille­ga­le Inhal­te zu stop­pen. Über Geld­stra­fen hin­aus könn­ten Füh­rungs­kräf­te mög­li­cher­wei­se straf­recht­li­chen Ermitt­lun­gen gegen­über­ste­hen, wenn die Behör­den fest­stel­len, dass die Platt­form wis­sent­lich die Erstel­lung von Mate­ri­al über sexu­el­len Kin­des­miss­brauch zuge­las­sen hat. Indi­en und Frank­reich haben eben­falls Plä­ne ange­kün­digt, die Platt­form zu unter­su­chen, und schlie­ßen sich der wach­sen­den inter­na­tio­na­len Über­prü­fung von Groks Bil­der­zeu­gungs­fä­hig­kei­ten an.

EU-Strafen für digitale Dienste

Unter Euro­pas stren­gem neu­en digi­ta­len Regel­werk könn­ten sowohl X als auch xAI erns­te finan­zi­el­le Kon­se­quen­zen dro­hen. Das Gesetz über digi­ta­le Diens­te bringt har­te EU-Stra­fen für Ver­stö­ße gegen Platt­form-Com­pli­ance mit sich, ins­be­son­de­re für gro­ße Platt­for­men wie X.

X zahl­te bereits 120 Mil­lio­nen Euro für die Ver­let­zung von Trans­pa­renz­re­geln. Das war erst der Anfang. Das Unter­neh­men sieht sich lau­fen­den Unter­su­chun­gen gegen­über, die viel höhe­re Geld­stra­fen nach sich zie­hen könn­ten. Platt­for­men müs­sen Erkennt­nis­se inner­halb fest­ge­leg­ter Zeit­rah­men behe­ben, ein­schließ­lich 60 Werk­ta­gen für Veri­fi­zie­rungs­pro­ble­me und 90 Tagen für Pro­ble­me mit der Werbetransparenz.

Zu den wich­tigs­ten Stra­fen unter dem DSA gehören :

• Geld­stra­fen von bis zu 6% des glo­ba­len Umsat­zes für bestä­tig­te Verstöße
• Wie­der­keh­ren­de Straf­zah­lun­gen bei anhal­ten­der Nichteinhaltung
• Betriebs­be­schrän­kun­gen inner­halb der EU-Märkte
• Ver­pflich­ten­de Design­än­de­run­gen zur Behe­bung pro­ble­ma­ti­scher Funktionen

Wenn xAIs Grok als sehr gro­ße Platt­form ein­ge­stuft wird, wür­de es dem glei­chen Durch­set­zungs­rah­men unter­lie­gen. Wie­der­hol­te Ver­stö­ße füh­ren zu här­te­ren Kon­se­quen­zen und machen die Platt­form-Com­pli­ance für den Betrieb in Euro­pa unerlässlich.

Regulatorische Durchsetzungsoptionen im Vereinigten Königreich

Wäh­rend Euro­pa sein stren­ges Regel­werk hat, ver­folgt Groß­bri­tan­ni­en einen ande­ren Ansatz zur Kon­trol­le von Tech­no­lo­gie­un­ter­neh­men. Das regu­la­to­ri­sche Auf­sichts­um­feld des Ver­ei­nig­ten König­reichs bleibt weni­ger defi­niert als sein euro­päi­sches Pen­dant und schafft Unsi­cher­heit für Platt­for­men wie X und xAI. Im Gegen­satz zur kla­ren Straf­struk­tur der EU ent­wi­ckeln sich die bri­ti­schen Durch­set­zungs­op­tio­nen noch. Die Regie­rung ent­wi­ckelt wei­ter­hin ihren Rah­men für KI-Com­pli­ance-Her­aus­for­de­run­gen und kon­zen­triert sich auf Fort­schritt neben Sicherheit.

Die aktu­el­len bri­ti­schen Geset­ze geben kei­ne exak­ten Buß­geld­be­trä­ge für KI-bezo­ge­ne Ver­stö­ße an. Regu­lie­rungs­be­hör­den könn­ten sich statt­des­sen auf bestehen­de Ver­brau­cher­schutz- und Daten­schutz­re­geln stüt­zen. Die­se zurück­hal­ten­de­re Stra­te­gie gibt Unter­neh­men mehr Spiel­raum für Fort­schrit­te. Sie lässt jedoch auch Fra­gen unbe­ant­wor­tet dar­über, wel­che Stra­fen Musks Unter­neh­men tat­säch­lich dro­hen könn­ten, falls Pro­ble­me mit Groks Bil­der­zeu­gungs­fä­hig­kei­ten auf bri­ti­schem Boden auf­tre­ten. Im Gegen­satz dazu bedeu­tet die extra­ter­ri­to­ria­le Reich­wei­te der EU, dass KI-Sys­te­me, die Daten von euro­päi­schen Nut­zern ver­ar­bei­ten, unab­hän­gig davon, wo der Anbie­ter ansäs­sig ist, kon­form sein müssen.

Strafrechtliche Haftung für Führungskräfte

Die Vor­stands­tür kann Füh­rungs­kräf­te nicht län­ger vor per­sön­li­chen Kon­se­quen­zen schüt­zen, wenn KI-Sys­te­me ver­sa­gen. Wenn sich schäd­li­che Deepf­akes ver­brei­ten, sehen sich sowohl das Unter­neh­men als auch sei­ne Füh­rungs­kräf­te ernst­haf­ter recht­li­cher Bedräng­nis gegen­über. Füh­rungs­ver­ant­wor­tung bedeu­tet, dass Chefs nicht ein­fach die Tech­no­lo­gie beschul­di­gen kön­nen. Gerich­te schau­en jetzt dar­auf, was Füh­rungs­kräf­te wuss­ten und wann sie es wussten.

Hier ist, was für die Spit­zen­füh­rung auf dem Spiel steht :

• Gefäng­nis­stra­fen von bis zu 20 Jah­ren wegen Über­wei­sungs­be­trug oder Com­pu­ter­ver­bre­chen mit täu­schen­den KI-Inhalten
• Per­sön­li­che Geld­stra­fen in Mil­lio­nen­hö­he, wenn Vor­ge­setz­te bekann­te Risi­ken nicht verhindern
• Ver­schärf­te Stra­fen, wenn Staats­an­wäl­te bewei­sen, dass KI-Tools den Scha­den verstärkten
• Füh­rungs­ver­bo­te, die zukünf­ti­ge Füh­rungs­rol­len in Akti­en­ge­sell­schaf­ten blockieren

Unter­neh­mens­ver­ant­wor­tung geht über Bilan­zen hin­aus. Die SEC kann lebens­lan­ge Füh­rungs­ver­bo­te gegen Füh­rungs­kräf­te ver­hän­gen, die Inves­to­ren über KI-Fähig­kei­ten in die Irre füh­ren. Frei­heit erfor­dert Füh­rungs­kräf­te, die für ihre Ent­schei­dun­gen ein­ste­hen, nicht sich hin­ter Unter­ne­hens­schlei­ern verstecken.

Wie Groks Skandal neue KI-Sicherheitsgesetze erzwingen könnte

Wenn Skan­da­le aus­bre­chen, beei­len sich Gesetz­ge­ber oft, neue Regeln zu schrei­ben. Groks Deepf­ake-Cha­os zeigt genau war­um. KI-Regu­lie­rungs­her­aus­for­de­run­gen umfas­sen jetzt, Platt­for­men dazu zu brin­gen, zu bewei­sen, dass ihre Tools sicher sind vor der Markt­ein­füh­rung, nicht nach­dem Schä­den sich aus­brei­ten. Ein­ver­ständ­nis­fra­gen trei­ben viel von der Dring­lich­keit an, Men­schen wol­len Kon­trol­le über ihre eige­nen Bilder.

Erwar­ten Sie schnel­le­re Geset­ze, die Fil­ter, Alters­über­prü­fun­gen und Ent­fer­nungs­fris­ten erfor­dern. Platt­for­men könn­ten ihre Immu­ni­tät ver­lie­ren, wenn ihre Sys­te­me aktiv Schä­den ver­ur­sa­chen. Der Grok-Vor­fall gibt Regu­lie­rungs­be­hör­den die Bewei­se, die sie brau­chen, um ent­schie­den zu han­deln. Die Euro­päi­sche Kom­mis­si­on hat bereits Unter­su­chun­gen ein­ge­lei­tet, um mög­li­cher­wei­se ille­ga­le Inhal­te anzu­ge­hen, die von der Platt­form gene­riert wurden.

Quellenangabe

• https://fortune.com/2026/01/09/elon-musk-suspends-grok-xai-ai-image-tool-deepfakes-non-consensual/
• https://abcnews.go.com/Technology/wireStory/musks-grok-chatbot-restricts-image-generation-after-global-129050464
• https://www.axios.com/2026/01/09/musk-grok-explicit-images-restrictions
• https://www.euronews.com/next/2026/01/09/ai-chatbot-grok-restricts-image-generation-after-global-backlash-to-sexualised-deepfakes
• https://time.com/7344858/grok-deepfake-crisis-explained/
• https://copyleaks.com/blog/grok-and-nonconsensual-image-manipulation
• https://www.axios.com/2026/01/06/grok-ai-elon-musk-deepfake-bikini
• https://x.ai/news/grok-image-generation-release
• https://docs.x.ai/docs/guides/image-generations
• https://dev.catalog.calpia.ca.gov/custom/assets/detail/index.html?app=create-images-with-grok-ai-in-seconds-695e03a49d645