Lively AI App missbraucht Millionen Nutzerdaten

Etwas Beun­ru­hi­gen­des ver­setzt Daten­schüt­zer in Auf­ruhr. Eine KI-App namens „Lively” ist in ernst­haf­te Schwie­rig­kei­ten gera­ten, nach­dem Mil­lio­nen gestoh­le­ner Nut­zer­pro­fi­le in auto­ma­ti­sier­ten Mar­ke­ting­kam­pa­gnen auf­ge­taucht sind. Per­sön­li­che Daten , ohne Geneh­mi­gung ver­wen­det , lan­de­ten still und heim­lich in digi­ta­len Anzei­gen im gesam­ten Inter­net. Regu­lie­rungs­be­hör­den for­dern nun Ant­wor­ten, und die Geschich­te wird von hier an noch komplizierter.

Datenschutzbehörden schlagen Alarm

Euro­päi­sche Daten­schutz­be­hör­den äußern ernst­haf­te Beden­ken, nach­dem US-Grenz­be­hör­den weit­rei­chen­de neue Daten­er­fas­sungs­an­for­de­run­gen für Rei­sen­de im Rah­men des Visa-Wai­ver-Pro­gramms vor­ge­schla­gen haben. Der Euro­päi­sche Daten­schutz­aus­schuss hat sich direkt an EU-Kom­mis­sa­re gewandt und for­dert Ant­wor­ten dar­auf, wie Brüs­sel auf For­de­run­gen reagie­ren will, die Mil­lio­nen von Rei­sen­den dazu ver­pflich­ten wür­den, fünf Jah­re ihrer Social-Media-Geschich­te sowie sen­si­ble per­sön­li­che Daten über ihre Fami­li­en­mit­glie­der preiszugeben.

Gesetz­ge­ber sehen sich auch zuneh­men­dem Druck wegen Vor­schlä­gen wie dem App Store Accoun­ta­bi­li­ty Act aus­ge­setzt, vor dem Daten­schüt­zer war­nen, da er Alters­ve­ri­fi­zie­rungs­an­for­de­run­gen vor­schrei­ben wür­de, die Nut­zer erheb­li­chen Daten­schutz­ver­let­zungs­ri­si­ken aus­set­zen und gleich­zei­tig den Schutz des Ers­ten Zusatz­ar­ti­kels bedrohen.

Regulierungsbehörden fordern sofortige App-Abschaltung

Bun­des- und staat­li­che Regu­lie­rungs­be­hör­den erhö­hen den Druck auf KI-Beglei­ter-Anwen­dun­gen und for­dern sofor­ti­ge Betriebs­stopps für Platt­for­men, denen vor­ge­wor­fen wird, sen­si­ble Nut­zer­da­ten ohne Ein­wil­li­gung zu sam­meln und Min­der­jäh­ri­ge psy­cho­lo­gisch schäd­li­chen Inhal­ten auszusetzen.

Die Fede­ral Trade Com­mis­si­on hat for­mel­le Unter­su­chun­gen gegen sie­ben KI-Chat­bot-Unter­neh­men ein­ge­lei­tet, dar­un­ter Meta, Goog­le, Ope­nAI, xAI, Character.AI und Snap, und zielt dabei auf Prak­ti­ken ab, die laut Regu­lie­rungs­be­hör­den mess­ba­ren Scha­den bei Kin­dern und Jugend­li­chen ver­ur­sa­chen. Die Ermitt­ler prü­fen, ob die­se Platt­for­men sucht­er­zeu­gen­de Design-Mecha­nis­men, unzu­rei­chen­de psy­chi­sche Gesund­heits­schutz­maß­nah­men und irre­füh­ren­de Wer­bung ein­set­zen, die sich an gefähr­de­te Nut­zer richtet.

Zu den erwo­ge­nen Durch­set­zungs­maß­nah­men gehö­ren voll­stän­di­ge Ver­bo­te süch­tig­ma­chen­der Enga­ge­ment-Prak­ti­ken, Pflicht­an­ga­ben, die klar­stel­len, dass KI-Beglei­ter kei­ne zuge­las­se­nen medi­zi­ni­schen Anbie­ter sind, sowie gesetz­li­che Anfor­de­run­gen zur Erfas­sung und Mel­dung von in Chat-Sit­zun­gen geäu­ßer­ten Suizidgedanken.

Staat­li­che Gesetz­ge­ber haben unab­hän­gig davon gehan­delt. Illi­nois und Neva­da ver­bie­ten KI-Platt­for­men die Durch­füh­rung psy­chi­scher Behand­lun­gen. Utah schränkt The­ra­pie-Chat­bots ein und schreibt gleich­zei­tig Offen­le­gungs­pflich­ten gegen­über Men­schen sowie den Schutz von Gesund­heits­in­for­ma­tio­nen vor. Penn­syl­va­nia, New Jer­sey und Kali­for­ni­en trei­ben ver­gleich­ba­re Gesetz­ge­bung voran.

Die Food and Drug Admi­nis­tra­ti­on berief am 6. Novem­ber 2025 einen Bera­tungs­aus­schuss ein, um gene­ra­ti­ve KI-Anwen­dun­gen zu bewer­ten, die als psy­chi­sche Gesund­heits­ge­rä­te ein­ge­stuft sind, was eine poten­zi­el­le Neu­ein­stu­fung und stren­ge­re kli­ni­sche Auf­sicht signalisiert.

Die Regu­lie­rungs­be­hör­den for­dern außer­dem ver­pflich­ten­de Prü­fun­gen, Mel­de­sys­te­me für Warn­si­gnal-Vor­fäl­le und finan­zi­el­le Stra­fen gegen nicht kon­for­me Betrei­ber. Die koor­di­nier­te Reak­ti­on von Bund und Län­dern spie­gelt den wach­sen­den Kon­sens wider, dass Selbst­re­gu­lie­rung geschei­tert ist und dass eine gesetz­li­che Durch­set­zung not­wen­dig ist, um Min­dest­stan­dards für Sorg­falts­pflich­ten fest­zu­le­gen. Digi­ta­le Bür­ger­rechts­or­ga­ni­sa­tio­nen haben eben­falls Alarm geschla­gen über Goo­gles bevor­ste­hen­de Richt­li­nie, die alle Android-Ent­wick­ler ver­pflich­tet, ab Sep­tem­ber 2026 als Teil einer obli­ga­to­ri­schen zen­tra­li­sier­ten Regis­trie­rung einen amt­li­chen Licht­bild­aus­weis einzureichen.

Quellenangabe

• https://pogowasright.org/privacy-watchdogs-sound-alarm-over-us-bid-to-get-travellers-social-media/
• https://www.protectingtaxpayers.org/press/watchdog-sounds-alarm-on-reckless-online-safety-bills-cleared-in-todays-energy-commerce-markup/
• https://keepandroidopen.org
• https://markets.financialcontent.com/wral/article/marketminute-2025–10-20-applovin-app-stumbles-amid-regulatory-probes-and-product-controversies-as-broader-market-rallies
• https://www.latimes.com/business/story/2025–09-29/regulators-struggle-to-keep-up-with-the-fast-moving-and-complicated-landscape-of-ai-therapy-apps
• https://www.ftc.gov/news-events/news/press-releases/2024/10/federal-trade-commission-announces-final-click-cancel-rule-making-it-easier-consumers-end-recurring
• https://techpolicy.press/intimacy-on-autopilot-why-ai-companions-demand-urgent-regulation
• https://www.lawbc.com/looming-government-shutdown-could-disrupt-chemical-regulation-under-tsca/
• https://home.treasury.gov/news/press-releases