Anthropics KI zitierte eine gefälschte Quelle vor Gericht

Anthropic zitiert falsche Quelle

Eine aktu­el­le Gerichts­ak­te hat einen beun­ru­hi­gen­den Trend bei KI-unter­stütz­ter Rechts­ar­beit in den Vor­der­grund gerückt : die Gene­rie­rung fal­scher Quel­len. Anthro­pics KI, Clau­de, wur­de beschul­digt, in einem 75-Mil­lio­nen-Dol­lar-Rechts­streit mit gro­ßen Musik­ver­la­gen eine völ­lig erfun­de­ne Quel­le zitiert zu haben, was ernst­haf­te Fra­gen zur Zuver­läs­sig­keit KI-gene­rier­ter Infor­ma­tio­nen im recht­li­chen Kon­text auf­wirft. Der Vor­fall unter­streicht die Not­wen­dig­keit stren­ge­rer Über­prü­fungs­pro­zes­se, da die Ver­wen­dung von Zitie­rungs­feh­lern in einem Gerichts­saal schwer­wie­gen­de Fol­gen haben kann.

Gefälschte Gerichtsquelle

Ein kürz­li­cher Vor­fall, bei dem Anthro­pics KI eine gefälsch­te Quel­le zitier­te, hat Beden­ken über die Zuver­läs­sig­keit künst­li­cher Intel­li­genz in Gerichts­ver­fah­ren aus­ge­löst. Das KI-gene­rier­te Zitat, das plau­si­bel erschien, stell­te sich spä­ter als voll­stän­dig erfun­den her­aus. Die­ser Vor­fall ver­deut­licht die Risi­ken beim Ein­satz von KI im Gerichts­saal, wo die Ein­füh­rung fal­scher Bewei­se schwer­wie­gen­de Fol­gen haben kann.

Die Ver­wen­dung gefälsch­ter Gerichts­quel­len, ein­schließ­lich erfun­de­ner Zeu­gen­aus­sa­gen und gefälsch­ter Unter­schrif­ten, kann zu fal­schen Ent­schei­dun­gen und einer Ero­si­on des Ver­trau­ens in das Jus­tiz­sys­tem füh­ren. Rich­ter kön­nen Bewei­se oder Zeu­gen dis­qua­li­fi­zie­ren, sobald Ver­dacht oder Über­prü­fungs­feh­ler auf­tre­ten, was zu Ver­zö­ge­run­gen und Ent­glei­sun­gen der Recht­spre­chung führt. Die Inte­gri­tät von Gerichts­aus­sa­gen und Sach­ver­stän­di­gen­gut­ach­ten wird durch das Vor­han­den­sein KI-gene­rier­ter fal­scher Quel­len eben­falls untergraben.

Um die Ver­wen­dung gefälsch­ter Gerichts­quel­len zu bekämp­fen, ist es wich­tig, Zeu­gen­iden­ti­tä­ten und ‑aus­sa­gen durch unab­hän­gi­ge Mit­tel zu über­prü­fen. Foren­si­sche Ana­ly­se­werk­zeu­ge kön­nen die Authen­ti­zi­tät digi­ta­ler Bewei­se, ein­schließ­lich Meta­da­ten und digi­ta­ler Signa­tu­ren, unter­su­chen. Die Über­prü­fung zitier­ter Quel­len mit veri­fi­zier­ten Rechts­da­ten­ban­ken kann auch hel­fen, deren Exis­tenz und Genau­ig­keit zu bestä­ti­gen. Die Imple­men­tie­rung von KI-Tools zur Kenn­zeich­nung hal­lu­zi­nier­ter oder erfun­de­ner Inhal­te vor der Prä­sen­ta­ti­on vor Gericht ist von ent­schei­den­der Bedeutung.

Ange­sichts der hohen Hal­lu­zi­na­ti­ons­ra­ten in KI-Sys­te­men ist es wich­tig, die mit gefälsch­ten Gerichts­quel­len ver­bun­de­nen Risi­ken anzu­ge­hen, um die Inte­gri­tät des Rechts­sys­tems zu wah­ren. Die Fol­gen der Ver­wen­dung gefälsch­ter Quel­len in Gerichts­fäl­len kön­nen schwer­wie­gend sein, ein­schließ­lich Beweis­aus­schluss, Kla­ge­ab­wei­sung und recht­li­cher Sank­tio­nen. Das Vor­han­den­sein gefälsch­ter Quel­len kann auch Beru­fun­gen und Über­prü­fun­gen nach dem Pro­zess auf­grund der Abhän­gig­keit von feh­ler­haf­ten Aus­sa­gen erschwe­ren. Da der Ein­satz von KI in Gerichts­ver­fah­ren immer häu­fi­ger wird, ist es wich­tig, die Genau­ig­keit und Zuver­läs­sig­keit KI-gene­rier­ter Inhal­te sicherzustellen.

Quellenangabe

• https://www.theregister.com/2025/05/15/anthopics_law_firm_blames_claude_hallucinations/
• https://reason.com/volokh/2025/05/15/seemingly-nonexistent-citation-in-anthropic-experts-declaration/
• https://www.pymnts.com/cpi-posts/anthropic-ordered-to-respond-after-ai-allegedly-fabricates-citation-in-legal-filing/
• https://opentools.ai/news/ai-blunder-anthropics-claude-hallucinates-legal-citation-causing-a-stir
• https://www.ainvest.com/news/anthropic-faces-scrutiny-fabricated-ai-citation-75m-lawsuit-2505/
• https://hai.stanford.edu/news/ai-trial-legal-models-hallucinate-1-out-6-or-more-benchmarking-queries
• https://www.openfox.com/the-impact-of-false-digital-evidence-on-the-justice-system/
• https://vmghealth.com/insights/published-article/the-credibility-crisis-ai-generated-citations-in-expert-testimony/
• https://www.morganlewis.com/pubs/2025/03/strategies-for-combatting-the-proliferation-of-fake-evidence
• https://blog.pagefreezer.com/fake-electronic-evidence-used-court