Falsche KI-Gesichtserkennung führt zu unfairer Verhaftung

Ein Mann aus Florida verklagt seine örtliche Polizeibehörde, nachdem ein Computerprogramm ihn fälschlicherweise als Kriminellen identifiziert hat. Das Programm, eine sogenannte Gesichtserkennungssoftware, stimmte sein Gesicht mit einem Verdächtigen in einem schweren Verbrechen überein. Das Problem ? Er befand sich Hunderte von Kilometern entfernt, als es passierte. Dieser Fall wirft einige wichtige Fragen auf, ob die Polizei Computern mehr vertrauen sollte als Menschen , und was passiert, wenn sie es tut.

Inhaltsverzeichnis

Falsch identifizierter Mann klagt Polizei an

Ein Mann aus Florida verklagt mehrere Strafverfolgungsbehörden, nachdem ein KI-Gesichtserkennungssystem ihn fälschlicherweise als Verdächtigen in einer Ermittlung wegen der Anwerbung von Kindern identifiziert hat, was zu seiner unrechtmäßigen Verhaftung führte. Robert Dillon gibt an, dass er sich zum Zeitpunkt des angeblichen Vorfalls mehr als 300 Meilen entfernt befand, dennoch nutzten die Behörden die KI-Übereinstimmung, um Anklage gegen ihn zu erheben. Unterstützt von der ACLU argumentiert die Klage, dass die Beamten sich auf fehlerhafte Technologie verlassen haben, anstatt eine ordnungsgemäße Untersuchung durchzuführen, und dass Beweise, die Dillon hätten entlasten können, zurückgehalten wurden. Im Vereinigten Königreich wird eine ähnliche rechtliche Klage gegen die Metropolitan Police von Shaun Thompson eingereicht, der im Februar 2024 in der Nähe der U‑Bahn-Station London Bridge fälschlicherweise durch Live-Gesichtserkennungstechnologie identifiziert wurde.

Klage wegen unrechtmäßiger KI-Verhaftung eingereicht

Richard Dillon, ein Einwohner Floridas, hat eine Klage gegen die Polizeibehörde von Jacksonville Beach und mehrere damit verbundene Strafverfolgungsbehörden eingereicht, nachdem er im Jahr 2023 verhaftet wurde , eine Verhaftung, die seiner Aussage nach auf einem fehlerhaften Gesichtserkennung-Abgleich durch künstliche Intelligenz basierte.

Dillon besteht darauf, dass er sich zum Zeitpunkt des Vorfalls , einer Ermittlung wegen Kinderlockung , mehr als 480 Kilometer entfernt befand, doch die Polizei schritt zur Verhaftung, nachdem eine KI-Software sein Foto mit dem Bild des Verdächtigen in Verbindung gebracht hatte.

Identifizierungsverfahren in der Kritik

Die von der ACLU unterstützte Klage behauptet, dass die Ermittler den KI-Abgleich als primäres Beweismittel behandelten, anstatt ihn als Ausgangspunkt für weitere unabhängige Ermittlungen zu nutzen. Laut der Klageschrift legten die Polizisten von Jacksonville Beach dem Opfer niemals Fotografien vor. Die Identifizierung soll stattdessen von einem McDonald’s‑Mitarbeiter stammen, der keine direkte Kenntnis über den Kontakt des Verdächtigen mit dem Minderjährigen hatte.

Die Klage nennt auch das Sheriff-Büro von Jacksonville und den Sheriff von Pinellas County, Bob Gualtieri, dessen Behörde das Gesichtserkennungssystem „Faces” betreibt, das anderen Strafverfolgungsbehörden vermietet wird. Die zentrale Rechtsfrage lautet, ob die Polizei und die Systembetreiber vor der Verhaftung und Strafverfolgung ausreichende Sicherheitsvorkehrungen getroffen haben.

Ein Muster ähnlicher Fälle

Die Klage von Dillon reiht sich in ein dokumentiertes Muster von Zivilklagen ein, die den Einsatz von Gesichtserkennung durch die Polizei anfechten. Die ACLU hat seit 2019 mindestens 15 Fälle ungerechtfertigter Verhaftungen aufgezeichnet, die auf Fehlerkennung durch diese Technologie zurückzuführen sind. Derzeit gibt es keine bundesweiten Vorschriften, die einheitliche Standards für den Einsatz dieser Systeme durch die Polizei festlegen. Der im Fall Dillon verwendete KI-Algorithmus wies eine 93-prozentige Übereinstimmungswahrscheinlichkeit zwischen seinem Foto und dem Verdächtigen auf dem Überwachungsmaterial aus.

Ein Vergleich aus Detroit im Jahr 2024 setzte einen Referenzpunkt für Reformen, indem er Verhaftungen, die allein auf Gesichtserkennungsergebnissen basieren, verbot und vor einer solchen Verhaftung unabhängige und zuverlässige Beweise forderte. Der Fall Dillon zeigt, wie Zivilklagen zum primären Mechanismus der Rechenschaftspflicht geworden sind, wo gesetzliche Regelungen noch nicht gefolgt sind.

Falsche KI-Gesichtserkennung führt zu unfairer Verhaftung

Falsch identifizierter Mann klagt Polizei an

Klage wegen unrechtmäßiger KI-Verhaftung eingereicht

Identifizierungsverfahren in der Kritik

Ein Muster ähnlicher Fälle

Quellenangabe

Empfehlungen

Medizinischer Durchbruch : KI-Tool reduziert MRT-Wartezeiten bei Kaiser Permanente durch schnellere Scans um 60 %

Anthropic beschuldigt Alibaba : Claude-Modellfähigkeiten wurden durch Millionen von Anfragen illegal extrahiert

OpenAI & Broadcom enthüllen „Jalapeño”: Ersten eigenen KI-Chip zur Reduzierung der Nvidia-Abhängigkeit

Schreibe einen Kommentar Antwort abbrechen