Colorado beschließt strenges Gesetz für Firmen KI

Colo­ra­do hat gera­de Geschich­te geschrie­ben. Der Gou­ver­neur des Bun­des­staa­tes hat ein neu­es Gesetz unter­zeich­net, das regelt, wie Unter­neh­men KI für wich­ti­ge Ent­schei­dun­gen ein­set­zen dür­fen , etwa wer ein­ge­stellt wird, wer einen Kre­dit bekommt oder wer für eine Ver­si­che­rung in Fra­ge kommt. Man kann es als Regel­werk für Robo­ter betrach­ten. Das Gesetz setzt der KI-Macht kla­re Gren­zen und gibt nor­ma­len Bür­ge­rin­nen und Bür­gern neue Rech­te. Was bedeu­tet das kon­kret für Verbraucher ?

Colorado KI-Gesetz Übersicht

Colo­ra­do hat Geschich­te geschrie­ben. Am 17. Mai 2024 unter­zeich­ne­te Gou­ver­neur Jared Polis das Gesetz SB 24–205, womit Colo­ra­do der ers­te Bun­des­staat des Lan­des wur­de, der eine umfas­sen­de KI-Gesetz­ge­bung ver­ab­schie­det hat. Das Gesetz rich­tet sich direkt gegen eine wach­sen­de Sor­ge im Bereich der künst­li­chen Intel­li­genz : Sys­te­me, die im Ver­bor­ge­nen lebens­ver­än­dern­de Ent­schei­dun­gen über Arbeits­plät­ze, Kre­di­te, Wohn­raum und Gesund­heits­ver­sor­gung beein­flus­sen , oft ohne jede Rechen­schafts­pflicht und ohne Erklä­rung. Im Kern geht es beim Colo­ra­do AI Act um eine Sache : sicher­zu­stel­len, dass auto­ma­ti­sier­te Ent­schei­dungs­fin­dungs­tools die betrof­fe­nen Per­so­nen nicht dis­kri­mi­nie­ren. Sowohl Ent­wick­ler als auch Anwen­der sind ver­pflich­tet, ange­mes­se­ne Sorg­falt wal­ten zu las­sen, um bekann­te oder vor­her­seh­ba­re Risi­ken algo­rith­mi­scher Diskriminierung zu verhindern.

Vollständige Gesetzgebungsanalyse

Colo­ra­dos ers­tes lan­des­wei­tes Gesetz zur künst­li­chen Intel­li­genz hat eine tur­bu­len­te zwei­jäh­ri­ge Rei­se von der Ver­ab­schie­dung bis zur Über­ar­bei­tung abge­schlos­sen und ver­än­dert, wie Unter­neh­men auto­ma­ti­sier­te Ent­schei­dungs­sys­te­me im gesam­ten Bun­des­staat einsetzen.

Ursprün­ge und Verzögerungen

SB 24–205 wur­de 2024 als das umfas­sends­te KI-Gesetz auf Bun­des­staats­ebe­ne im Land ver­ab­schie­det und soll­te ursprüng­lich am 1. Febru­ar 2026 in Kraft tre­ten. Die Durch­set­zung wur­de auf den 30. Juni 2026 ver­scho­ben, nach­dem die Über­ar­bei­tungs­be­mü­hun­gen wäh­rend der Gesetz­ge­bungs­sit­zung 2025 geschei­tert waren. Eine Arbeits­grup­pe im März 2026 schlug vor, den ursprüng­li­chen Rah­men zuguns­ten eines Trans­pa­renz-und-Hin­weis-Modells auf­zu­ge­ben. Am 27. April 2026 setz­te ein staat­li­cher Rich­ter die Durch­set­zung bis zur end­gül­ti­gen Ver­ab­schie­dung der Durch­füh­rungs­vor­schrif­ten aus. SB 189, ein Kom­pro­miss­ge­setz, das 2026 ver­ab­schie­det wur­de, soll vor­be­halt­lich der Unter­schrift des Gou­ver­neurs 2027 in Kraft treten.

Erfass­te Systeme

Das Gesetz gilt für KI, die bei fol­gen­rei­chen Ent­schei­dun­gen in den Berei­chen Beschäf­ti­gung, Bil­dung, Kre­dit­ver­ga­be, Gesund­heits­ver­sor­gung, Woh­nen, Ver­si­che­rung, staat­li­che Dienst­leis­tun­gen und recht­li­che Ange­le­gen­hei­ten ein­ge­setzt wird. Sys­te­me, die wesent­lich zu die­sen Ent­schei­dun­gen bei­tra­gen, wer­den als hoch­ris­kant ein­ge­stuft. Zweck­ge­bun­de­ne Werk­zeu­ge und Sys­te­me, die das mensch­li­che Urteil ergän­zen statt erset­zen, kön­nen außer­halb die­ser Kate­go­rie fal­len. Spä­te­re Vor­schlä­ge erwei­ter­ten den Anwen­dungs­be­reich auf jeden Berech­nungs­pro­zess, der per­so­nen­be­zo­ge­ne Daten ver­wen­det, um ein fol­gen­rei­ches Ergeb­nis wesent­lich zu beeinflussen.

Com­pli­ance-Anfor­de­run­gen

Die ursprüng­li­chen Ver­pflich­tun­gen ver­lang­ten von Ent­wick­lern und Betrei­bern, Fol­gen­ab­schät­zun­gen zur Bekämp­fung algo­rith­mi­scher Dis­kri­mi­nie­rung durch­zu­füh­ren, jähr­li­che Über­prü­fun­gen durch­zu­füh­ren und Risi­ko­ma­nage­ment­pro­to­kol­le ein­zu­rich­ten. Offen­le­gungs­pflich­ten ver­lang­ten eine Benach­rich­ti­gung, wenn KI eine fol­gen­rei­che Ent­schei­dung beein­flusst. Betrof­fe­ne Per­so­nen erhiel­ten Rech­te auf Erklä­rung, Daten­kor­rek­tur, Ein­spruch und mensch­li­che Über­prü­fung nach­tei­li­ger Ent­schei­dun­gen. Der Rah­men ver­knüpf­te sich auch mit bestehen­den Opt-out-Rech­ten des Colo­ra­do Pri­va­cy Act, die per­so­nen­be­zo­ge­ne Daten abde­cken, die von auto­ma­ti­sier­ten Sys­te­men ver­ar­bei­tet werden.

Haf­tungs­struk­tur

Das Gesetz zieht die Haf­tung ent­lang der Lini­en des beab­sich­tig­ten Ein­sat­zes. Ent­wick­ler sind haft­bar, wenn ein Sys­tem trotz ord­nungs­ge­mä­ßer Nut­zung durch den Betrei­ber dis­kri­mi­nie­ren­de Ergeb­nis­se ver­ur­sacht. Betrei­ber tra­gen die Haupt­haf­tung, wenn der Miss­brauch außer­halb der vor­ge­se­he­nen Para­me­ter zu Schä­den führt. Zu den geschütz­ten Merk­ma­len, die eine Haf­tung aus­lö­sen, gehö­ren jene, die unter bestehen­den Bür­ger­rechts­rah­men erfasst sind. Der Gene­ral­staats­an­walt von Colo­ra­do hat gemäß dem ursprüng­li­chen Gesetz die allei­ni­ge Durchsetzungsbefugnis.

Poli­ti­sche Ausrichtung

Die Über­ar­bei­tung von 2026 signa­li­siert eine brei­te­re Ver­la­ge­rung von risi­ko­ba­sier­ten Man­da­ten hin zu Trans­pa­renz­pflich­ten, was den Druck der Indus­trie und die Unsi­cher­heit bei der Durch­set­zung wider­spie­gelt. Colo­ra­dos Gesetz hat natio­na­le Auf­merk­sam­keit als Test­ge­län­de für den staat­li­chen KI-Ver­brau­cher­schutz erregt, wäh­rend bun­des­staat­li­che Rah­men­be­din­gun­gen noch in der Ent­wick­lung sind. Ob das Kom­pro­miss­ge­setz einen sinn­vol­len Ver­brau­cher­schutz bewahrt oder den ursprüng­li­chen Bür­ger­rechts­fo­kus ver­wäs­sert, bleibt der zen­tra­le Streit­punkt vor dem Inkraft­tre­ten 2027.

Quellenangabe

• https://www.skadden.com/insights/publications/2024/06/colorados-landmark-ai-act
• https://www.hunton.com/privacy-and-information-security-law/colorado-enacts-landmark-ai-act
• https://www.whitecase.com/insight-alert/newly-passed-colorado-ai-act-will-impose-obligations-developers-and-deployers-high
• https://www.naag.org/attorney-general-journal/a‑deep-dive-into-colorados-artificial-intelligence-act/
• https://www.cliffordchance.com/insights/resources/blogs/talking-tech/en/articles/2024/07/colorado-new-comprehensive-ai-legislation.html
• https://www.schellman.com/blog/ai-services/what-you-need-to-know-about-the-colorado-ai-act
• https://www.evidence-based.org/ai-policy-in-colorado
• https://leg.colorado.gov/bills/sb24-205
• https://www.linklaters.com/en-us/knowledge/publications/alerts-newsletters-and-guides/2024/may/23/colorado-enacts-landmark-ai-legislation-setting-a-marker-for-other-states-to-follow
• https://leg.colorado.gov/sites/default/files/images/bsa_redlines_-_co_ai_act_12-18–2024_1.pdf