US Senator untersucht Betrug durch KI Stimmen

Ein US-Sena­tor wirft einen genau­en Blick auf ein wach­sen­des Pro­blem , KI-Tools, die die Stim­me einer Per­son mit erschre­cken­der Genau­ig­keit kopie­ren kön­nen. Das FBI gibt an, dass die­se Tools Betrü­gern hel­fen, jähr­lich fast 893 Mil­lio­nen Dol­lar zu steh­len. Das ist eine erschüt­tern­de Zahl, und ech­te Men­schen zah­len den Preis dafür. Wer trägt die Ver­ant­wor­tung, und was pas­siert als Nächs­tes ? Die Ant­wor­ten könn­ten jeden über­ra­schen, der glaubt, die­ses Pro­blem lie­ge noch in wei­ter Ferne.

Senator untersucht KI-Stimmenbetrug

KI-Sprach­klon-Tech­no­lo­gie hat sich so weit ent­wi­ckelt, dass weni­ge Sekun­den gestoh­le­ner Audio­da­ten eine über­zeu­gen­de Replik der Stim­me fast jeder Per­son erzeu­gen kön­nen , und Kri­mi­nel­le nut­zen die­se Tech­no­lo­gie bereits, um die höchs­ten Regie­rungs­ebe­nen anzu­grei­fen. Ein US-Sena­tor unter­sucht nun, wie die­se Tools, von denen vie­le kos­ten­los und weit ver­brei­tet online ver­füg­bar sind, in aus­ge­klü­gel­ten Iden­ti­täts­täu­schungs­kam­pa­gnen gegen Bun­des­be­am­te, Außen­mi­nis­ter und Kon­gress­mit­glie­der ein­ge­setzt wer­den. Con­su­mer Reports sag­te am 21. Mai 2025 vor dem Jus­tiz­aus­schuss des Senats aus und ent­hüll­te, dass vie­le Sprach­klon-Diens­te grund­le­gen­de Maß­nah­men zur Miss­brauchs­prä­ven­ti­on ver­mis­sen lassen.

Senats-Untersuchung zu KI-Stimmklonen

Ein Anhö­rung des Jus­tiz­un­ter­aus­schus­ses des Senats zum The­ma künst­li­che Intel­li­genz nahm eine beun­ru­hi­gen­de Wen­dung, als Sena­tor Richard Blu­men­thal die Sit­zung eröff­ne­te, indem er einen KI-gene­rier­ten Audio­clip abspiel­te, der sei­ne eige­ne Stim­me makel­los imi­tier­te , ohne zunächst preis­zu­ge­ben, dass es sich um einen Deepf­ake handelte.

Die Auf­nah­me, die mit einem von ChatGPT ver­fass­ten Skript und einer Stimm­klon-Soft­ware erstellt wur­de, die auf Blu­men­thals Reden im Ple­num trai­niert wor­den war, warn­te vor Tech­no­lo­gie, die der Regu­lie­rung vor­aus­eilt, und der wach­sen­den Bedro­hung durch Fehl­in­for­ma­tio­nen. Erst nach der Wie­der­ga­be stell­te Blu­men­thal klar : „Die­se Stim­me war nicht mei­ne. Die Wor­te waren nicht meine.”

Der Stunt, den Blu­men­thal spä­ter als „einen der beängs­ti­gends­ten Momen­te in der Geschich­te der Senats­an­hö­run­gen” bezeich­ne­te, gab den Ton für die Anhö­rung des Unter­aus­schus­ses an, die den Titel *The Good, the Bad, and the Ugly : KI-gene­rier­te Deepf­akes im Jahr 2025* trug, und ver­deut­lich­te die Dring­lich­keit, die die par­la­men­ta­ri­sche Über­prü­fung von Stimm­klon-Diens­ten antreibt.

Minimale Schutzmaßnahmen, maximales Risiko

Con­su­mer Reports bezeug­te, dass sechs gro­ße Online-Platt­for­men für Stimm­klo­ning grund­le­gen­de Schutz­maß­nah­men ver­mis­sen las­sen, dar­un­ter Ein­wil­li­gungs­ve­ri­fi­zie­rungs­skrip­te und Anfor­de­run­gen zur Kun­den­iden­ti­fi­ka­ti­on. Die­se Diens­te, von denen vie­le kos­ten­lo­sen oder kos­ten­güns­ti­gen Zugang bie­ten, haben Betrugs­sche­ma­ta ermög­licht, die auf älte­re Ame­ri­ka­ner abzie­len , wobei Betrü­ger die Stim­men von Fami­li­en­mit­glie­dern klo­nen, um Erspar­nis­se zu stehlen.

Über finan­zi­el­len Betrug hin­aus wur­de die Tech­no­lo­gie ein­ge­setzt, um Fehl­in­for­ma­tio­nen zu ver­brei­ten, den Unter­richt zu stö­ren und per­sön­li­che Daten in gro­ßem Maß­stab auszunutzen.

Regulierungsvorschläge

Con­su­mer Reports for­der­te den Kon­gress auf, eine unab­hän­gi­ge Auf­sichts­be­hör­de mit KI-Exper­ti­se ein­zu­rich­ten, kla­re Ver­ant­wort­lich­keits­re­geln für Tool­ent­wick­ler und Platt­for­men ein­zu­füh­ren und die Daten­schutz­ge­set­ze zusam­men mit dem Schutz von Whist­le­b­lo­wern zu stär­ken. Bür­ger­auf­klä­rung und bes­se­re Erken­nungs­werk­zeu­ge wur­den eben­falls empfohlen.

Blu­men­thal dräng­te auf Ände­run­gen von Sec­tion 230, um Haf­tung zuzu­wei­sen, wenn KI nach­weis­ba­ren Scha­den ver­ur­sacht, sowie auf obli­ga­to­ri­sche Was­ser­zei­chen­pflicht und Offen­le­gungs­an­for­de­run­gen, wann immer KI-gene­rier­te Inhal­te öffent­lich ein­ge­setzt wer­den. Die Anhö­rung unter­strich auch das über­ge­ord­ne­te Ziel, KI zu ent­mys­ti­fi­zie­ren und Tech­no­lo­gien zur Rechen­schaft zu zie­hen, um die ver­gan­ge­nen Regu­lie­rungs­feh­ler im Umgang mit sozia­len Medi­en nicht zu wiederholen.

Er warn­te die Indus­trie vor einem Wett­lauf nach unten und for­der­te Unter­neh­men auf, sich selbst zu regu­lie­ren, bevor der Kon­gress gezwun­gen ist, ein­sei­tig zu han­deln. „Wir sind hier, um die Regeln der KI zu schrei­ben”, sag­te Blu­men­thal und bezeich­ne­te die Anhö­run­gen als einen grund­le­gen­den Moment für die Technologieregulierung.

Quellenangabe

• https://advocacy.consumerreports.org/research/consumer-reports-testifies-before-senate-judiciary-on-ai-powered-deepfakes/
• https://www.mishcon.com/news/ai-impersonation-of-us-senator-sparks-national-security-concerns
• https://www.youtube.com/watch?v=KWehD5E1Jds
• https://www.ic3.gov/PSA/2025/PSA250515
• https://www.blumenthal.senate.gov/newsroom/press/release/blumenthal-and-ai-software-delivers-opening-remarks-at-senate-hearing-on-oversight-of-artificial-intelligence
• https://www.politico.com/news/2023/05/17/blumenthal-ai-deepfake-recording-senate-hearing-00097349
• https://www.foxbusiness.com/politics/senator-kicks-off-ai-hearing-deepfaked-opening-statement
• https://techpolicy.press/transcript-senate-judiciary-subcommittee-hosts-hearing-on-oversight-of-ai-insiders-perspectives
• https://www.youtube.com/watch?v=bM-hPV3bnjI