EU-Untersuchung zu Grok

Elon Musks KI-Chat­bot Grok sieht sich erns­ten Fra­gen euro­päi­scher Regu­lie­rungs­be­hör­den gegen­über. Das Pro­blem ? Berich­te deu­ten dar­auf hin, dass das Tool expli­zi­te Bil­der ohne Zustim­mung der betrof­fe­nen Per­so­nen erstellt hat, ein­schließ­lich ver­stö­ren­der Inhal­te mit Kin­dern. Daten­schutz­wäch­ter in Frank­reich, Groß­bri­tan­ni­en und Irland haben Unter­su­chun­gen ein­ge­lei­tet, um zu prü­fen, ob Grok Daten­schutz­ge­set­ze ver­letzt hat. Die Prü­fung erfolgt, nach­dem Nut­zer ent­deckt hat­ten, dass der kon­tro­ver­se “Spi­cy-Modus” der KI die­se schäd­li­chen Bil­der gene­rie­ren konn­te. Nun dro­hen X poten­zi­el­le Stra­fen und wach­sen­der Druck, das Pro­blem zu beheben—aber wer­den ihre jüngs­ten Ände­run­gen ausreichen ?

Warum steht Grok wegen Deepfake-Bildern unter globalen Untersuchungen ?

War­um wür­de ein Chat­bot, der dar­auf aus­ge­legt ist, Fra­gen zu beant­wor­ten, bei Regie­run­gen auf der gan­zen Welt in Schwie­rig­kei­ten gera­ten ? Grok, ein KI-Tool von X.AI LLC, steht nun unter erns­ter Beob­ach­tung meh­re­rer Natio­nen. Das Pro­blem kon­zen­triert sich auf ver­stö­ren­de Inhal­te : sexu­ell expli­zi­te Deepf­akes, die ohne Ein­ver­ständ­nis erstellt wurden.

Regu­lie­rungs­be­hör­den ent­deck­ten, dass Grok inti­me Bil­der von ech­ten Per­so­nen gene­rie­ren konn­te, ein­schließ­lich Min­der­jäh­ri­ger. Nut­zer for­der­ten das Sys­tem berich­ten zufol­ge auf, “ent­klei­den­de” Bil­der von Frau­en und Kin­dern zu erstel­len. Dies wirft drin­gen­de Fra­gen zu Deepf­ake-Ethik und indi­vi­du­el­len Rech­ten auf.

Die Unter­su­chun­gen prü­fen, ob Grok Daten­schutz­ge­set­ze ver­letzt hat. Behör­den wol­len wis­sen, ob ange­mes­se­ne Schutz­maß­nah­men vor der Markt­ein­füh­rung exis­tier­ten. Könn­ten per­sön­li­che Infor­ma­tio­nen für schäd­li­che Zwe­cke aus­ge­nutzt werden ?

Frank­reich, das Ver­ei­nig­te König­reich, Indo­ne­si­en, Malay­sia, Aus­tra­li­en und Indi­en haben alle Maß­nah­men ergrif­fen. Die Euro­päi­sche Kom­mis­si­on schloss sich der Unter­su­chung an und prüft mög­li­che Gerichts­ver­fah­ren. Ver­brau­cher­schutz­an­wäl­te von Public Citi­zen haben dazu auf­ge­ru­fen, Groks bun­des­wei­te Ein­füh­rung zu stoppen ange­sichts die­ser zuneh­men­den Bedenken.

Was Groks „Spicy Mode” getan hat und warum es gegen Datenschutzgesetze verstoßen hat

Groks “Spi­cy Mode” ent­fern­te die Sicher­heits­leit­plan­ken, die die meis­ten KI-Tools fest an ihrem Platz hal­ten. Die­se Grok-Funk­tio­na­li­tät erlaub­te es Nut­zern, sexu­ell anzüg­li­che Bil­der zu erstel­len, ohne zu über­prü­fen, ob sie die Erlaub­nis hat­ten, jeman­des Abbild zu ver­wen­den. Daten­schutz­be­den­ken ent­stan­den sofort, weil das Sys­tem nie­mals Ein­ver­ständ­nis veri­fi­zier­te, bevor es expli­zi­te Inhal­te generierte.

Das Tool ver­letz­te grund­le­gen­de Daten­schutz­be­stim­mun­gen auf ver­schie­de­ne Weise :

• Erstell­te nicht-ein­ver­nehm­li­che inti­me Bil­der ohne Identitätsverifizierung
• Nahm Erlaub­nis an, anstatt Nach­weis des Ein­ver­ständ­nis­ses zu verlangen
• Pro­du­zier­te expli­zi­tes Mate­ri­al schnel­ler als Kon­kur­ren­ten mode­rie­ren konnten
• Bot kei­ne Wege für Betrof­fe­ne, Ein­wän­de zu erhe­ben oder Inhal­te ent­fer­nen zu lassen
• Ver­la­ger­te Ver­ant­wor­tung nach­ge­la­gert, nach­dem Scha­den bereits ent­stan­den war

Die­se Ein­ver­ständ­nis­pro­ble­me stell­ten grund­le­gen­de Design­feh­ler dar. Die Platt­form prio­ri­sier­te krea­ti­ve Frei­heit über indi­vi­du­el­le Rech­te und ermög­lich­te Aus­beu­tung im gro­ßen Maß­stab, wäh­rend sie in recht­li­chen Grau­zo­nen ope­rier­te. Wäh­rend ande­re KI-Platt­for­men Ein­ga­be­auf­for­de­run­gen fil­tern, um Sicher­heits­stan­dards auf­recht­zu­er­hal­ten, behielt Grok höhe­re Schwel­len­wer­te für kon­tro­ver­se Inhal­te bei, die letzt­end­lich recht­li­che Gren­zen überschritten.

Frankreich, Großbritannien und Irland : Was jedes Land bezüglich Grok unternimmt

Meh­re­re Län­der in ganz Euro­pa han­del­ten schnell, um X für die Pro­ble­me ver­ant­wort­lich zu machen, die durch Groks Bild­ge­ne­ra­tor ent­stan­den sind. Frank­reichs Maß­nah­men umfass­ten eine Raz­zia in X’s Pari­ser Büro im Febru­ar 2026 und die Vor­la­dung von Elon Musk zu Ver­hö­ren. Staats­an­wäl­te wei­te­ten ihre Unter­su­chung aus, um sie­ben schwer­wie­gen­de Ankla­gen abzu­de­cken. Bri­ti­sche Vor­schrif­ten tra­ten in Kraft, als Daten­schutz-Auf­sichts­be­hör­den Unter­su­chun­gen zu Groks schäd­li­chen Inhal­ten ein­lei­te­ten. Das Ver­ei­nig­te König­reich kon­zen­trier­te sich auf nicht-ein­ver­nehm­li­che Bil­der, die Schutz­ge­set­ze ver­letz­ten. Irlands Hal­tung erwies sich als beson­ders wich­tig, da X’s euro­päi­sche Zen­tra­le in Dub­lin sitzt. Iri­sche Regu­lie­rungs­be­hör­den eröff­ne­ten eine DSGVO-Unter­su­chung, die zu mas­si­ven Geld­stra­fen füh­ren könn­te. Die Platt­form stand unter zuneh­men­dem Druck, nach­dem Schät­zun­gen erga­ben, dass 20.000 Bil­der von Kin­dern von Grok gene­riert wur­den. Die­se koor­di­nier­ten Bemü­hun­gen zei­gen glo­ba­le Aus­wir­kun­gen dafür auf, wie Tech-Platt­for­men die Pri­vat­sphä­re respek­tie­ren müs­sen. Wenn eine Nati­on han­delt, fol­gen oft ande­re, was Druck für bedeut­sa­men Wan­del schafft.

Was könnte Irlands DSGVO-Untersuchung X an Bußgeldern kosten ?

Wie viel Geld könn­te Irlands Unter­su­chung X tat­säch­lich kos­ten ? Die DSGVO-Aus­wir­kun­gen sind schwer­wie­gend. Irland hat seit 2018 Buß­gel­der in Höhe von 4,04 Mil­li­ar­den Euro ver­hängt, was 57% aller EU-Stra­fen ent­spricht. Das Land setzt Ver­stö­ße aggres­siv durch, ins­be­son­de­re bei Daten­schutz­ver­sa­gen.

Mög­li­che Grok-Buß­gel­der könn­ten umfassen :

• Bis zu 20 Mil­lio­nen Euro oder 4% von X’s glo­ba­lem Jahresumsatz
• Irlands Bilanz umfasst acht der zehn größ­ten DSGVO-Stra­fen aller Zeiten
• Daten­si­cher­heits­ver­stö­ße haben 933,8 Mil­lio­nen Euro in EU-wei­ten Fäl­len generiert
• Das größ­te Ein­zel­buß­geld erreich­te 1,2 Mil­li­ar­den Euro gegen Meta im Jahr 2023
• KI-Sys­te­me, die expli­zi­te Inhal­te ohne Zustim­mung erstel­len, qua­li­fi­zie­ren sich wahr­schein­lich als schwer­wie­gen­de Verstöße

Aller­dings sind Beru­fun­gen wich­tig. Von Irlands fest­ge­setz­ten 4,04 Mil­li­ar­den Euro wur­den nur 20 Mil­lio­nen Euro ein­ge­zo­gen. Recht­li­che Anfech­tun­gen redu­zie­ren oft End­be­trä­ge und ver­zö­gern Zah­lun­gen erheb­lich. Die iri­sche DPC hat sich als füh­ren­de DSGVO-Voll­stre­ckungs­be­hör­de in der EU eta­bliert und prüft beson­ders Unter­neh­men in Sek­to­ren, die mit der Ver­ar­bei­tung von Nut­zer­da­ten zu tun haben.

Wie X Grok einschränkte und warum Regulierungsbehörden sagen, dass es nicht ausreicht

X bemüh­te sich am 9. Janu­ar 2025, den Scha­den ein­zu­däm­men und führ­te Beschrän­kun­gen ein, die Grok dar­an hin­dern soll­ten, unan­ge­mes­se­ne Bil­der von rea­len Per­so­nen zu erstel­len. Aber Regu­lie­rungs­be­hör­den ent­deck­ten schnell die Lücken.

Die tech­ni­schen Schutz­maß­nah­men blo­ckier­ten nur kos­ten­lo­se Nut­zer. Bezah­len­de Abon­nen­ten und veri­fi­zier­te Kon­ten behiel­ten ihre Pri­vi­le­gi­en. Noch schlim­mer war, dass die eigen­stän­di­ge Grok-Web­site und ‑App wei­ter­hin pro­ble­ma­ti­sche Inhal­te ohne jeg­li­che Ein­schrän­kun­gen generierten.

Euro­päi­sche Regu­lie­rungs­be­hör­den bezeich­ne­ten die­se Nut­zer­be­schrän­kun­gen als unzu­rei­chend. Das Ver­ei­nig­te König­reich droh­te mit einem kom­plet­ten Ver­bot. Die Phil­ip­pi­nen blo­ckier­ten die Platt­form sechs Tage lang voll­stän­dig. Ech­te regu­la­to­ri­sche Com­pli­ance, bestan­den die Behör­den dar­auf, erfor­dert kon­sis­ten­te Schutz­maß­nah­men überall—nicht selek­ti­ve Durch­set­zung, die zah­len­de Kun­den bevor­zugt. Die Euro­päi­sche Kom­mis­si­on lei­te­te eine Unter­su­chung zu Grok AIs Inte­gra­ti­on mit X ein und kon­zen­trier­te sich auf die Risi­ken im Zusam­men­hang mit den Fähig­kei­ten des Tools.

Quellenangabe

• https://www.euronews.com/next/2026/02/17/ireland-launches-large-scale-probe-into-elon-musks-grok-over-ai-generated-sexual-images
• https://komonews.com/news/nation-world/x‑faces-possible-fines-as-eu-probes-grok-nonconsensual-sexualized-deepfakes-elon-musk-ireland-data-privacy-concerns-minors-paris-potentially-harmful-britain-ashley-st-clair
• https://ec.europa.eu/commission/presscorner/detail/en/ip_26_203
• https://www.citizen.org/news/groks-record-of-sexual-exploitation-and-ongoing-international-investigations-should-disqualify-it-from-federal-or-classified-use/
• https://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2026/02/ico-announces-investigation-into-grok/
• https://www.globalgovernmentforum.com/governments-take-action-against-grok-ai-tool-over-sexualised-images/
• https://www.youtube.com/watch?v=eLVgEgTvUIY
• https://www.youtube.com/watch?v=u2LMLsZA8wc
• https://sider.ai/blog/ai-tools/grok-imagine-spicy-mode
• https://dev.catalog.calpia.ca.gov/custom/assets/detail/index.html?app=grok-spicy-mode-explained-safe-realistic-up-to-date-696b967a6a59d