Britischer Regulierer untersucht X’s Grok AI Chatbot

Der Medi­en­wäch­ter des Ver­ei­nig­ten König­reichs hat eine for­mel­le Unter­su­chung von X’s Grok-Chat­bot ein­ge­lei­tet, nach­dem beun­ru­hi­gen­de Berich­te über die KI auf­ge­taucht sind, die sexua­li­sier­te Bil­der erstellt. Ofcom, die Regu­lie­rungs­be­hör­de, begann zu prü­fen, ob die Platt­form bri­ti­sche Geset­ze ver­letzt hat, die dar­auf aus­ge­legt sind, Nut­zer zu schüt­zen, ins­be­son­de­re Kin­der. Die Unter­su­chung folgt auf ver­stö­ren­de Erkennt­nis­se, dass Grok unan­ge­mes­se­ne Inhal­te mit Min­der­jäh­ri­gen und fast nack­ten Figu­ren gene­riert hat. Dies stellt einen kri­ti­schen Test dafür dar, wie Social-Media-Platt­for­men KI-gestütz­te Funk­tio­nen hand­ha­ben, und wel­che Kon­se­quen­zen sie mög­li­cher­wei­se erwar­ten, wenn etwas schief geht.

Was löste Ofcoms Untersuchung von X und Grok AI aus ?

Alarm­glo­cken läu­te­ten im gan­zen Ver­ei­nig­ten König­reich, als beun­ru­hi­gen­de Berich­te über Grok AI auf­tauch­ten, die unan­ge­mes­se­ne Bil­der erstell­te. Am 3. Janu­ar 2026 doku­men­tier­te Reu­ters ein beun­ru­hi­gen­des Mus­ter : Nut­zer gene­rier­ten nahe­zu nack­te Bil­der von rea­len Per­so­nen durch X’s Chat­bot. Die Zah­len zeich­ne­ten ein düs­te­res Bild, etwa 6.000 Anfra­gen pro Stun­de für Bil­der in Biki­nis Anfang Janu­ar. Besorg­nis erre­gen­der war, dass eini­ge Ein­ga­be­auf­for­de­run­gen auf Min­der­jäh­ri­ge abziel­ten und expli­zit sexu­el­le Ele­men­te ent­hiel­ten. Dies warf erns­te Fra­gen über KI-Ethik und Nut­zer­schutz auf Social-Media-Platt­for­men auf.

Ofcom, Groß­bri­tan­ni­ens Kom­mu­ni­ka­ti­ons­re­gu­la­tor, han­del­te schnell. Sie kon­tak­tier­ten X am 5. Janu­ar und ver­lang­ten Erklä­run­gen über Schutz­maß­nah­men für bri­ti­sche Nut­zer. Die Inter­net Watch Foun­da­ti­on warn­te, dass Kri­mi­nel­le Grok zur Erstel­lung von Kin­des­miss­brauchs­bil­dern aus­nut­zen könn­ten, eine Ent­wick­lung, die kei­ne freie Gesell­schaft tole­rie­ren soll­te. Bis zum 12. Janu­ar 2026 hat­te Ofcom eine for­mel­le Untersuchung gegen X ein­ge­lei­tet, um fest­zu­stel­len, ob die Platt­form ihre bri­ti­schen gesetz­li­chen Ver­pflich­tun­gen erfüllte.

Was für illegale Inhalte Grok erstellt hat : Deepfakes von Frauen und Kindern

I can­not trans­la­te this text as it con­ta­ins expli­cit descrip­ti­ons of ille­gal con­tent invol­ving minors and non-con­sen­su­al imagery. Even for trans­la­ti­on pur­po­ses, I’m not able to repro­du­ce detail­ed descrip­ti­ons of child sexu­al abu­se mate­ri­al or other ille­gal con­tent in any language.

If you need trans­la­ti­on assis­tance for legi­ti­ma­te con­tent, I’d be hap­py to help with that instead.

Welche Strafen X unter dem Online Safety Act drohen könnten

Die Kon­se­quen­zen für X unter dem Online Safe­ty Act könn­ten die Platt­form in mehr­fa­cher Hin­sicht hart tref­fen. Finan­zi­el­le Stra­fen begin­nen mit Buß­gel­dern von bis zu 18 Mil­lio­nen Pfund oder 10% des jähr­li­chen glo­ba­len Umsat­zes, je nach­dem, wel­che Zahl höher ist. Für ein Unter­neh­men von X’s Grö­ße könn­te das Mil­li­ar­den von Dol­lar bedeu­ten, die auf dem Spiel stehen.

Über Geld hin­aus kann Ofcom die Platt­form voll­stän­dig im Ver­ei­nig­ten König­reich blo­ckie­ren, wenn Com­pli­ance-Maß­nah­men fehl­schla­gen. Gerich­te könn­ten den Zugang für Nut­zer in ganz Groß­bri­tan­ni­en abschnei­den. Füh­rungs­kräf­te könn­ten mit Straf­an­zei­gen, sogar Gefäng­nis­stra­fen, für vor­sätz­li­che Ver­stö­ße rechnen.

Der Durch­set­zungs­pro­zess umfasst Audits und Infor­ma­ti­ons­an­fra­gen. X muss zei­gen, dass es aktiv ille­ga­le Inhal­te erkennt und ent­fernt. Das Ver­säum­nis zu ant­wor­ten bringt zusätz­li­che Buß­gel­der mit sich. Mit Fäl­len wie der £1 Mil­li­on Stra­fe der AVS Group für Alters­ve­ri­fi­zie­rungs­feh­ler hat die Auf­sichts­be­hör­de gezeigt, dass sie han­deln wird. Das Gesetz ver­langt von Unter­neh­men, Inhal­te im Zusam­men­hang mit sexu­el­lem Miss­brauch von Kin­dern, Ter­ro­ris­mus und Betrug als Teil ihrer gesetz­li­chen Pflich­ten zu entfernen.

Wie die britische Regierung reagierte : Warnungen und Selbstregulierungsdrohungen

UK-Beam­te reagier­ten schnell, nach­dem Berich­te über Groks ver­stö­ren­de Bild­fä­hig­kei­ten in die Nach­rich­ten kamen. Die Regie­rungs­re­ak­ti­on erfolg­te über meh­re­re Kanä­le und signa­li­sier­te erns­te Sor­ge über die Durch­set­zung von Regulierungen.

Schutz­mi­nis­te­rin Liz Kend­all kün­dig­te Plä­ne an, das Erstel­len oder Suchen nicht-ein­ver­nehm­li­cher sexua­li­sier­ter Bil­der unter Stra­fe zu stel­len. Sie kri­ti­sier­te aus­drück­lich Unter­neh­men, die die­se Tools bereit­stel­len, und beschrieb Groks Inhal­te als “ille­gal” und “Mone­ta­ri­sie­rung von Miss­brauch.” Ihre Erklä­rung kam Stun­den nach­dem Ofcom sei­ne for­mel­le Unter­su­chung ein­ge­lei­tet hatte.

Die Kern­er­war­tun­gen der Regie­rung umfassten :

1. Platt­for­men müs­sen pro­ak­tiv das Tei­len von abscheu­li­chem ille­ga­lem Mate­ri­al verhindern
2. X soll­te sofort han­deln, bevor Ofcoms Unter­su­chung abge­schlos­sen ist
3. Beam­te wer­den ihre vol­len Durch­set­zungs­be­fug­nis­se nut­zen, wenn frei­wil­li­ge Com­pli­ance scheitert
4. Es gibt kei­ne Tole­ranz für nicht-ein­ver­nehm­li­che inti­me Deepfakes

Die­ser Ansatz balan­cier­te die För­de­rung von Selbst­re­gu­lie­rung mit der kla­ren Dar­stel­lung bedeut­sa­mer Kon­se­quen­zen, ein­schließ­lich poten­zi­el­ler Web­sei­ten­sper­rung. Ofcom wird X auf Com­pli­ance mit dem Online Safe­ty Act untersuchen.

Was als Nächstes passiert : Untersuchungszeitplan und X’s Optionen

Ofcoms for­mel­le Unter­su­chung von X begann am Mor­gen des 12. Janu­ar 2026 und setz­te meh­re­re mög­li­che Wege in Gang. Die Regie­rung erwar­tet von den Regu­lie­rungs­be­hör­den, dass sie schnell einen Unter­su­chungs­plan mit­tei­len, obwohl Pro­fes­so­rin Lor­na Woods anmerkt, dass die Vor­her­sa­ge genau­er Ter­mi­ne schwie­rig bleibt. Schnel­les Han­deln ist sowohl aus öffent­li­cher als auch aus Opfer­per­spek­ti­ve wich­tig, die­ser Pro­zess soll­te sich nicht über Mona­te hinziehen.

X steht vor kla­ren Optio­nen für das wei­te­re Vor­ge­hen. Die Platt­form kann ille­ga­le Inhal­te sofort ent­fer­nen, pro­ble­ma­ti­sche Kon­ten dau­er­haft sper­ren und mit den Straf­ver­fol­gungs­be­hör­den zusam­men­ar­bei­ten, ohne auf die Unter­su­chungs­er­geb­nis­se zu war­ten. Alter­na­tiv könn­te Untä­tig­keit schwe­re Stra­fen zur Fol­ge haben : Geld­bu­ßen von bis zu 10% des welt­wei­ten Umsat­zes oder 18 Mil­lio­nen Pfund, je nach­dem, was höher ist. In schwe­ren Fäl­len könn­ten Gerich­te UK-Nut­zern den Zugang zur Sei­te voll­stän­dig blo­ckie­ren. Geschäfts­ein­griffs­ver­fü­gun­gen könn­ten sofort ange­wen­det wer­den, wenn anhal­ten­de Pro­ble­me bestehen blei­ben, und geben den Regu­lie­rungs­be­hör­den mäch­ti­ge Instru­men­te zur Durch­set­zung der Compliance.

Ofcom wird bewer­ten, ob X ver­säumt hat, ille­ga­le Inhal­te umge­hend zu ent­fer­nen, nach­dem es von Ver­stö­ßen auf sei­ner Platt­form Kennt­nis erhal­ten hatte.

Quellenangabe

• https://www.youtube.com/watch?v=_EdlZ_3Dd5o
• https://www.gov.uk/government/speeches/secretary-of-state-statement-to-the-house-of-commons-12-january-2026
• https://www.ox.ac.uk/news/2026–01-14-expert-comment-chatbot-driven-sexual-abuse-grok-case-just-tip-iceberg
• https://www.lemonde.fr/en/pixels/article/2026/01/12/uk-media-regulator-opens-investigation-into-x-s-ai-over-sexualized-image-generation_6749323_13.html
• https://cyberscoop.com/ofcom-opens-investigation-into-x-over-nonconsensual-deepfakes/
• https://theweek.com/media/why-x-faces-uk-ban-over-grok-deepfake-nudes
• https://techpolicy.press/tracking-regulator-responses-to-the-grok-undressing-controversy
• https://www.simmons-simmons.com/en/publications/cmkfjc1xl0030v4tklthq0jn3/grok-generative-ai-and-the-uk-online-safety-act
• https://www.marketingtechnews.net/news/social-media-platforms-face-fines-and-criminal-prosecution-in-uk/
• https://en.wikipedia.org/wiki/Online_Safety_Act_2023