Google stoppt KI-Stimmenbetrug direkt auf Android-Handys

Tele­fon­be­trug ist hin­ter­häl­tig gewor­den. KI kann eine Stim­me inzwi­schen so gut kopie­ren, dass selbst eine vor­sich­ti­ge Per­son getäuscht wer­den könn­te. Goog­le scheint das zu wis­sen. Der Tech­no­lo­gie­rie­se hat lei­se ein intel­li­gen­tes Abwehr­sys­tem direkt in Android-Han­dys ein­ge­baut , eines, das wäh­rend Live-Anru­fen auf Betrug hört, ohne auch nur ein Wort in die Cloud zu sen­den. Was pas­siert, wenn es etwas Ver­däch­ti­ges entdeckt ?

Schutz vor KI-Betrug durchbrechen

Betrü­ger wer­den immer schwe­rer zu fas­sen, aber Andro­ids neu­es­te Abwehr war­tet nicht dar­auf, dass eine Num­mer auf einer Sperr­lis­te erscheint. Goog­le hat ein KI-Sys­tem auf dem Gerät ent­wi­ckelt, das auf die Gesprächs­mus­ter ach­tet, die Betrü­ger wäh­rend Live-Anru­fen ver­wen­den, und eine War­nung aus­gibt, bevor der Scha­den ent­steht. Dies baut auf Goo­gles umfas­sen­de­ren KI-gestütz­ten Bemü­hun­gen zur Betrugs­prä­ven­ti­on auf, bei denen die gerä­te­in­ter­ne Betrugserkennung bereits in Goog­le Mes­sa­ges und Pho­ne by Goog­le ein­ge­führt wur­de, um Android-Nut­zer vor fort­ge­schrit­te­nen Betrugs­tak­ti­ken zu schützen.

KI-Betrugsschutz auf dem Gerät

Goo­gles Scam Detec­tion-Funk­ti­on ver­ar­bei­tet Audio von Anru­fen voll­stän­dig auf dem Gerät, umgeht dabei eige­ne Ser­ver und ana­ly­siert Gesprä­che in Echt­zeit. Das Sys­tem zielt auf Ver­hal­tens­mus­ter ab, die bei Betrugs­ver­su­chen häu­fig vor­kom­men, anstatt sich aus­schließ­lich auf die Anru­f­er­ken­nung zu verlassen.

Wenn ein Anruf als ver­däch­tig mar­kiert wird, erhal­ten Nut­zer gleich­zei­ti­ge Benachrichtigungs‑, Ton- und Vibra­ti­ons­war­nun­gen, wäh­rend der Anruf noch aktiv ist. Die Benut­zer­ober­flä­che bie­tet dann direk­te Optio­nen , Anruf been­den oder Kein Betrug , und ermög­licht so eine sofor­ti­ge Reak­ti­on, bevor ein Betrü­ger einen Über­zeu­gungs­ver­such abschlie­ßen kann.

Goog­le ver­si­chert, dass kei­ne Audio- oder Tran­skrip­ti­ons­da­ten auf­ge­zeich­net, gespei­chert oder an exter­ne Ser­ver über­tra­gen wer­den. Die On-Device-Archi­tek­tur wird als Daten­schutz­maß­nah­me posi­tio­niert, ins­be­son­de­re bei finan­zi­el­len oder sen­si­blen Gesprä­chen. Nut­zer behal­ten die Kon­trol­le über die Ein­stel­lun­gen und haben die Mög­lich­keit, die Funk­ti­on für ein­zel­ne Anru­fe zu akti­vie­ren oder zu deaktivieren.

Die Tech­no­lo­gie debü­tier­te auf Pixel-Hard­ware wäh­rend einer US-Beta, die auf eng­lisch­spra­chi­ge Nut­zer beschränkt war und über die Pho­ne by Goog­le-App zugäng­lich ist. Die Erwei­te­rung wur­de seit­dem auf wei­te­re Regio­nen aus­ge­wei­tet, dar­un­ter Indi­en, wobei das Pixel 9 und neue­re Model­le zu den unter­stütz­ten Gerä­ten gehören.

Der Schutz geht über Sprach­an­ru­fe hin­aus. Goog­le Mes­sa­ges ver­wen­det das­sel­be On-Device-Modell, um finan­zi­el­le Iden­ti­täts­dieb­stäh­le, Kryp­to­wäh­rungs­an­fra­gen, Geschenk­kar­ten-Anfra­gen und tech­ni­schen Sup­port-Betrug zu kenn­zeich­nen. Chro­me und brei­te­re Android-Sys­tem­ebe­nen bie­ten wei­te­ren Schutz, wäh­rend Bild­schirm­frei­ga­be-War­nun­gen akti­viert wer­den, wenn Zah­lungs­an­wen­dun­gen wäh­rend eines Anrufs geöff­net wer­den , wodurch ein häu­fi­ger Angriffs­vek­tor geschlos­sen wird, den Betrü­ger bei Live-Social-Engi­nee­ring aus­nut­zen. Um die­se Abwehr­maß­nah­men auf Platt­form­ebe­ne zu stär­ken, haben Goo­gles KI-Sys­te­me über 12 Mil­lio­nen gefälsch­te Unter­neh­mens­pro­fi­le auf Goog­le Maps blo­ckiert, was das Aus­maß demons­triert, in dem sei­ne Betrugs­er­ken­nungs­in­fra­struk­tur dienst­über­grei­fend operiert.

Quellenangabe

• https://blog.google/innovation-and-ai/technology/safety-security/how-were-using-ai-to-combat-the-latest-scams/
• https://safety.google/intl/en_us/safety/scams-fraud/
• https://timesofindia.indiatimes.com/technology/tech-news/google-launches-on-device-ai-scam-detection-to-shield-indian-users-from-digital-fraud/articleshow/125462755.cms
• https://techcrunch.com/2025/11/20/google-steps-up-ai-scam-protection-in-india-but-gaps-remain/
• https://www.lifewire.com/chrome-ai-scam-protection-11731694
• https://www.forbes.com/sites/daveywinder/2025/03/06/googles-android-ai-call-and-message-protection-should-you-disable-it/
• https://www.wired.com/story/google-io-on-device-ai-scam-texts/
• https://www.linkedin.com/news/story/google-deploys-ai-shield-on-scams-7299642/
• https://www.bleepingcomputer.com/news/artificial-intelligence/google-chrome-now-lets-you-turn-off-on-device-ai-model-powering-scam-detection/
• https://www.linkedin.com/posts/ankur-saini-7a5a50ba_ai-google-digitalsafety-activity-7397306326084849664-Dzik