---
title: "EU Gesetz verbietet missbräuchliche KI Apps"
description: "Das Verbot von „Nudification\"-Apps und KI-generierter Kindesmissbrauchsdarstellungen: Der überarbeitete KI-Act der EU schafft einen Präzedenzfall, der die globale KI-Regulierung für immer neu gestalten könnte."
url: https://chatgpt-prompts.de/eu-gesetz-verbietet-missbraeuchliche-ki-apps
type: "post"
language: "de"
site: "KI News, ChatGPT Prompts und AI Tools"
published: 2026-05-09T11:45:00+02:00
modified: 2026-05-08T12:46:36+02:00
author: "AIExplorer"
categories: "KI News"
tags: "apps, gesetz, KI-Ethik, Kinderschutz, missbräuchliche, müssen, Nudification-Verbot, systeme, verbietet, verboten"
image: https://chatgpt-prompts.de/wp-content/uploads/2026/05/eu_bans_nudification_apps_8wsal.jpg
---

# EU Gesetz verbietet missbräuchliche KI Apps

Die Europäische Union hat gerade einen mutigen Schritt in der Welt der künstlichen Intelligenz unternommen. Sie hat offiziell sogenannte "Nudification”-Apps verboten , Tools, die Kleidung von echten Personen auf Fotos ohne deren Erlaubnis entfernen. Diese Apps haben echten Schaden angerichtet, besonders für Frauen und Mädchen. Die EU geht auch gegen KI-generiertes Material zur Ausbeutung von Kindern vor. Was bedeutet das für die Nutzung von KI überall sonst? Die Antwort könnte überraschen.

## EU-KI-Gesetz verbietet Nacktbild-Apps

![Die EU verbietet nicht einvernehmliche Nacktbilderstellung](https://chatgpt-prompts.de/wp-content/uploads/2026/05/eu_bans_non_consensual_nudification_m7scs.jpg)

Die EU hat eine klare Linie gegen eine der schädlichsten Anwendungen der KI gezogen. Im Rahmen neuer Regeln, die als Teil des AI-Omnibus-Pakets vereinbart wurden, werden Nudifizierungs-Apps , Tools, die Kleidung aus Bildern realer Personen ohne deren Zustimmung entfernen , im gesamten Staatenblock ausdrücklich verboten. Dieser Schritt erfolgt nach einer Welle hochkarätiger Skandale, darunter der Grok-Nudifizierungsskandal von 2025, der das Thema ganz oben auf die Agenda der Gesetzgeber gebracht hat. Zum ersten Mal benennt und zielt EU-Gesetzgebung direkt auf diese Systeme ab und schließt damit eine Lücke, die unzählige Opfer , überwiegend Frauen und Mädchen , mit wenig rechtlichen Möglichkeiten zurückließ. Die Vereinbarung erstreckt sich auch auf [KI-generiertes kindliches Missbrauchsmaterial](https://aa.com.tr/en/europe/eu-nations-agree-to-ban-ai-applications-used-to-create-non-consensual-sexualized-deepfakes/3929612) und bekräftigt damit das Engagement der Gesetzgebung zum Schutz der Schwächsten vor Ausbeutung.

## Europäisches KI-Gesetz

Die Europäische Union hat den AI Act verabschiedet, ein weitreichendes Regelwerk, das Systeme der [künstlichen Intelligenz](https://chatgpt-prompts.de/china-erzwingt-aus-fuer-meta-start-up-kauf "China erzwingt Aus für Meta Start-up Kauf") nach Risikoniveau kategorisiert und strenge Verpflichtungen für Entwickler und Betreiber auferlegt, die innerhalb ihres Zuständigkeitsbereichs tätig sind.

## Ein abgestufter Ansatz beim Risiko

Das Gesetz unterteilt KI in vier Stufen: inakzeptables, hohes, begrenztes und minimales Risiko. Systeme, die als inakzeptabel eingestuft werden , solche, die Sicherheit, Grundrechte oder Lebensgrundlagen bedrohen , werden vollständig verboten. Hochrisikoeanwendungen im Gesundheitswesen, im Beschäftigungsbereich und bei der Strafverfolgung müssen strenge Compliance-Standards erfüllen. Chatbots und Deepfake-Tools unterliegen Transparenzpflichten, während Spamfilter und ähnliche Systeme mit geringen Auswirkungen weitgehend unreguliert bleiben.

## Was verboten ist

Mehrere Praktiken sind ausdrücklich verboten. Dazu gehören KI-gesteuerte Manipulation, die das Verhalten verzerrt, die Ausnutzung von Schwachstellen im Zusammenhang mit Alter, Behinderung oder wirtschaftlichem Status sowie staatlich betriebene Social-Scoring-Systeme. Die Massen-Gesichtserkennung durch Internet-Scraping oder CCTV-Aufnahmen ist verboten, ebenso wie die biometrische Echtzeit-Identifizierung im öffentlichen Raum , mit engen Ausnahmen für die Strafverfolgung.

## Pflichten für Hochrisikosysteme

Entwickler von Hochrisikosystemen müssen Risikomanagementprotokolle einrichten, menschliche Aufsicht gewährleisten sowie die Datennutzung und Entscheidungskriterien dokumentieren. Systeme müssen vor der Inbetriebnahme in einer EU-Datenbank registriert werden. Anwendungen im Bereich der Strafverfolgung erfordern zusätzlich eine richterliche Genehmigung und eine Bewertung der Grundrechte.

## Reichweite und Sanktionen

Das Gesetz gilt für jeden [Anbieter](https://chatgpt-prompts.de/eu-plant-revision-des-ki-gesetzes "EU plant Revision des KI Gesetzes"), der Systeme auf dem EU-Markt anbietet, einschließlich Unternehmen außerhalb der EU, die einen autorisierten EU-Vertreter benennen müssen. Die Strafen richten sich nach dem Schweregrad: Verstöße gegen verbotene Praktiken können mit Bußgeldern von bis zu 35 [Millionen](https://chatgpt-prompts.de/ki-ersetzt-einstiegsjobs-weltweit-zunehmend "KI ersetzt Einstiegsjobs weltweit zunehmend") Euro oder 7 % des weltweiten Umsatzes geahndet werden. Bei Nichteinhaltung von Hochrisikovorgaben drohen Bußgelder von bis zu 15 Millionen Euro oder 3 %, während Transparenzverstöße Sanktionen von bis zu 7,5 Millionen Euro oder 1,5 % nach sich ziehen.

Die Durchsetzung beginnt 2024, mit einer schrittweisen vollständigen Anwendbarkeit bis 2026, 2027. Die Mitgliedstaaten sind zudem verpflichtet, bis zum 2. August 2026 mindestens eine [KI-Regulierungs-Sandbox](https://artificialintelligenceact.eu) einzurichten, um Innovation in einem kontrollierten Compliance-Umfeld zu fördern.

## Quellenangabe

- [https://aa.com.tr/en/europe/eu-nations-agree-to-ban-ai-applications-used-to-create-non-consensual-sexualized-deepfakes/3929612](https://aa.com.tr/en/europe/eu-nations-agree-to-ban-ai-applications-used-to-create-non-consensual-sexualized-deepfakes/3929612)
- [https://www.europarl.europa.eu/news/en/press-room/20260427IPR42011/ai-act-deal-on-simplification-measures-ban-on-nudifier-apps](https://www.europarl.europa.eu/news/en/press-room/20260427IPR42011/ai-act-deal-on-simplification-measures-ban-on-nudifier-apps)
- [https://thenextweb.com/news/eu-ai-act-omnibus-deal-nudification-ban](https://thenextweb.com/news/eu-ai-act-omnibus-deal-nudification-ban)
- [https://brusselssignal.eu/2026/05/eu-bans-ai-nudifier-apps-and-delays-wider-ai-act-rules/](https://brusselssignal.eu/2026/05/eu-bans-ai-nudifier-apps-and-delays-wider-ai-act-rules/)
- [https://www.the-independent.com/news/world/europe/ai-nudification-eu-ban-sexual-abuse-b2972298.html](https://www.the-independent.com/news/world/europe/ai-nudification-eu-ban-sexual-abuse-b2972298.html)
- [https://www.belganewsagency.eu/eu-agrees-simpler-ai-rules-and-ban-on-deepfake-nude-apps](https://www.belganewsagency.eu/eu-agrees-simpler-ai-rules-and-ban-on-deepfake-nude-apps)
- [https://www.youtube.com/watch?v=qruMuJ5x_OY](https://www.youtube.com/watch?v=qruMuJ5x_OY)
- [https://artificialintelligenceact.eu/article/5/](https://artificialintelligenceact.eu/article/5/)
- [https://ec.europa.eu/commission/presscorner/detail/de/ip_26_1024](https://ec.europa.eu/commission/presscorner/detail/de/ip_26_1024)
- [https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)