KI-Nacktbilder werden bei Reddit verkauft

Im Reddit-Forum werden Nacktbilder verkauft – jedoch keine realen Aufnahmen entblößter Individuen. Es handelt sich um Illustrationen, welche durch künstliche Intelligenz erschaffen wurden. Dies führt gegenwärtig zu Debatten.

Unter dem Titel „F19 Feeling pretty today“ (deutsch: „Fühle mich heute hübsch“) entdeckt man auf Reddit das vermeintliche Porträt einer Dame. „Claudia“ scheint eine junge Brünette mit großen grau-grünen Augen, mittellangen dunklen Haaren und äußerst makelloser Haut zu sein, die für das Selbstporträt in einem Raum posiert, der ein Wohnzimmer sein könnte. Allerdings: Claudia existiert nicht wirklich. Die Darstellung wurde von einer künstlichen Intelligenz (KI) erzeugt und anschließend, wie viele andere, über die Plattform Reddit veräußert. Das betreffende Konto wurde inzwischen gemeldet – die Aufnahmen sind jedoch weiterhin verfügbar. Und es gibt reichlich Diskussionsbedarf.

KI-Nacktbilder bei Reddit

Ausgangspunkt der Geschichte ist ein Projekt zweier Informatikstudenten. Sie hatten gemeinsam ein KI-Programm mit Hilfe von „Stable Diffusion“ entwickelt. Ziel war es, mit Hilfe von KI und auf Basis von Texteingaben möglichst realitätsnahe Darstellungen zu generieren – offenbar mit Erfolg.

Denn wie die beiden dem Magazin Rolling Stone berichteten, haben sie mit Nacktfotos von „Claudia“ tatsächlich mehr als 100 US-Dollar verdient. Der Reddit-Account sei „als Scherz“ gedacht gewesen. „Wir haben ehrlich gesagt nicht erwartet, dass es so viel Anklang finden würde“, so die beiden. Neben dem „Anklang“ gibt es aber auch Kritik an der Aktion.

Debatte über KI-Nacktbilder

Ein Teil der neu aufgeflammten Diskussion um KI-generierte Darstellungen ist, dass KI zum Trainieren Bilder von realen Personen benötigt – Personen, die dieser Verwendung wahrscheinlich nicht explizit zugestimmt haben. Darüber hinaus können Bilder realer Personen mit KI noch realistischer verändert werden als mit Programmen wie Photoshop. Von Megastar Keanu Reeves gibt es beispielsweise einen fiktiven Instagram-Account, auf dem der Schauspieler allerlei lustige Dinge zu tun scheint. Auch dieser Inhalt ist nicht authentisch.

Ein weiteres aktuelles Beispiel bieten die sogenannten virtuellen Influencer. Der fiktiven „Imma“ folgen auf Instagram 400.000 Konten. Zwar geht aus der Profilbeschreibung und insbesondere aus den Videos hervor, dass es sich um eine KI-generierte Person handelt. Auf den Bildern ist dies jedoch weniger offensichtlich. Zudem sind auf diesen Bildern häufig reale Personen zu sehen, die mit der KI-generierten Person zu interagieren scheinen.

„Imma“ wirbt, teilt mit ihren Followern scheinbar ihre Gedanken- und Gefühlswelt. Unter einem Beitrag heißt es etwa: „Ist es nicht schwierig für jemanden, das wahre Ich zu erkennen? Gelangen meine aufrichtigen Gefühle zu jemandem? Ich möchte, dass du mein wahres Ich verstehst …“ Die Firma hinter dem Account kreiert eine vollständige Geschichte um die virtuelle junge Frau mit dem rosafarbenen Bob. Sie besucht Veranstaltungen, streitet sich mit ihrem Bruder, hat einen Job.

Ein Problem bei dieser Art der Darstellung und Emotionalisierung ist laut Medienexperte Oliver Zöllner vom Stuttgarter Institut für Digitale Ethik oft die mangelnde Transparenz. Nicht immer sei ersichtlich, wie die Programme dahinter funktionieren. Auch sei nicht für jeden sofort erkennbar, dass es sich nicht um reale Personen handele, sagte Zöllner der Nachrichtenagentur dpa. Nicht zu vernachlässigen ist nach Ansicht des Experten auch das recht undurchsichtige „Geschäftsmodell der Datengewinnung und -auswertung“. Im Fall der KI-Nacktbilder auf Reddit sei den Käufern offenbar nicht bewusst gewesen, dass es sich nicht um echte Menschen handelte.

KI könnte die Porno-Branche verändern

Eine weitere Problematik im Zusammenhang mit KI-Nacktbildern wird häufig mit der Pornobranche in Verbindung gebracht, wo sogenannte Deepfakes häufiger auftreten. Dabei wird das Gesicht einer Person ohne deren Zustimmung mit Hilfe von KI in pornografische Inhalte eingefügt. Aber auch komplett KI-generierte Nacktbilder von Menschen könnten etwas verändern. Das glauben auch die beiden Studenten, die die fiktive „Claudia“ geschaffen haben. „Die Person, die die Bilder kauft, ist mit dem Ergebnis zufrieden, weil sie nach Pornos gesucht hat (…). Wir haben nie gesagt, dass es Bilder von einer echten Person sind, und die Käufer haben nie wirklich danach gefragt. Sie haben es einfach angenommen.

Das hat sich inzwischen geändert. Seit die Beiträge von „Claudia“ gemeldet wurden, werden ihre Posts mit einem entsprechenden Hinweis versehen. Ein Moderator des Forums weist zudem ausdrücklich darauf hin, dass solche KI-generierten Inhalte nicht gegen die Regeln der Plattform verstoßen würden. Und nicht jeder stört sich an den KI-Nacktbildern.

Tatsächlich gibt es mittlerweile sogar Communitys speziell für pornografische Inhalte von KIs. Dies bietet unter anderem den Vorteil, dass die persönlichen Vorlieben der Nutzer anders bedient werden können. Das zeigt sich am Beispiel von „Claudia“. Die Texteingabe lautete hier: „Ohne Make-up mit schwarzen Haaren, schulterlangen Haaren, einfachem Hintergrund, glattem Haar, Ponyfrisur“. Mehr war nicht erforderlich für die Erstellung eines entsprechenden Bildes.