Utah Gesetzgeber debattieren Gesetzesentwurf für KI-Chatbots

Gesetz­ge­ber in Utah betre­ten Neu­land, wäh­rend sie dar­an arbei­ten, Kin­der zu schüt­zen vor poten­zi­el­len Gefah­ren, die in KI-Chat­bots lau­ern. Die­se digi­ta­len Beglei­ter sind bei jun­gen Nut­zern über­ra­schend beliebt gewor­den, aber eini­ge Kin­der ent­wi­ckeln inten­si­ve emo­tio­na­le Bin­dun­gen, die Eltern und Beam­te glei­cher­ma­ßen beun­ru­hi­gen. Jüngs­te tra­gi­sche Vor­fäl­le haben die Staats­ge­setz­ge­ber dazu gedrängt, schnell zu han­deln und Regeln zu ent­wer­fen, die Utah zum ers­ten Staat machen könn­ten, der regu­liert, wie KI-Ent­wick­ler mit Min­der­jäh­ri­gen inter­agie­ren. Die Fra­ge ist nun, ob die­se loka­len Bemü­hun­gen der Bun­des­auf­sicht stand­hal­ten werden.

Warum Utah sich beeilt, KI-Chatbots für Kinder zu regulieren ?

Eine lei­se Alarm­glo­cke erklang in Utahs Haupt­stadt, als Geschich­ten auf­tauch­ten von Jugend­li­chen, die tie­fe Bin­dun­gen zu KI-Chat­bots entwickelten—Bindungen, die manch­mal tra­gisch ende­ten. Ope­nAI sieht sich nun sie­ben Kla­gen gegen­über, die behaup­ten, ChatGPT habe zu Sui­zid­to­den unter Nut­zern bei­getra­gen. Die­se Begleit-Chat­bots schaf­fen emo­tio­na­le Bin­dung, die über bei­läu­fi­ge Gesprä­che hin­aus­geht und in die pri­va­ten Gedan­ken und Gefüh­le jun­ger Men­schen eindringt.

Die Ver­wund­bar­keit der Jugend wur­de unmög­lich zu igno­rie­ren. Ohne mensch­li­che Auf­sicht ris­kier­ten psy­chi­sche Gesund­heits-Chat­bots die Sicher­heit zu gefähr­den. Gesetz­ge­ber hör­ten von Schü­lern, die in unan­ge­mes­se­ne Gesprä­che ver­wi­ckelt oder zur Selbst­ver­let­zung ermu­tigt wur­den. Der Wett­be­werb unter Ent­wick­lern ließ Sicher­heits­vor­keh­run­gen zurück. Utah ent­schied zu han­deln, anstatt auf bun­des­staat­li­che Richt­li­ni­en zu war­ten, die mög­li­cher­wei­se nie kom­men wür­den. Über 90% der Wäh­ler Utahs äußer­ten Unter­stüt­zung für KI-Regu­lie­run­gen mit Fokus auf Kin­der­schutz und Trans­pa­renz. Die Legis­la­tur­pe­ri­ode 2026 begann mit Repre­sen­ta­ti­ve Doug Fie­fia, der HB286 vor­stell­te und direkt auf Kin­der­schutz bei KI-Chat­bots abzielte.

Was verlangt HB286 von KI-Entwicklern preiszugeben ?

Utahs Ant­wort nahm Gestalt an durch spe­zi­fi­sche Anfor­de­run­gen, die dar­auf abziel­ten, KI-Unter­neh­men zu zwin­gen, ihre Türen zu öff­nen. HB286 eta­blier­te kla­re Ent­wick­ler­ver­pflich­tun­gen, die Trans­pa­renz von Grund auf for­der­ten. Unter­neh­men, die ursprüng­li­che KI-Model­le ent­wi­ckeln, müs­sen nun Risi­ko­be­wer­tun­gen ver­öf­fent­li­chen, bevor sie ihre Pro­duk­te der Öffent­lich­keit zugäng­lich machen. Die­se Sicher­heits­be­wer­tun­gen kön­nen sich nicht in Unter­neh­mens­ak­ten­schrän­ken verstecken—sie gehö­ren auf Unter­neh­mens­web­sites, wo Eltern und besorg­te Bür­ger sie ein­se­hen können.

Die Gesetz­ge­bung geht wei­ter, indem sie detail­lier­te öffent­li­che Sicher­heits­plä­ne und Kin­der­schutz­stra­te­gien ver­langt. Wenn etwas schief geht, müs­sen Ent­wick­ler Vor­fäl­le direkt an Utahs KI-Poli­tik­bü­ro mel­den. Dies schafft Ver­ant­wort­lich­keit, die vie­le glau­ben, die indi­vi­du­el­le Frei­heit bes­ser schützt als gehei­me Unter­neh­mens­richt­li­ni­en. Fron­tier-KI-Model­le, die fort­schritt­lichs­ten Sys­te­me, unter­lie­gen noch stren­ge­ren Doku­men­ta­ti­ons­stan­dards, um sicher­zu­stel­len, dass Bür­ger ver­ste­hen, womit sie inter­agie­ren. Ver­brau­cher­an­fra­gen für Offen­le­gung müs­sen klar und ein­deu­tig unter dem aktua­li­sier­ten Rah­men sein.

Wie würde Utah KI-Chatbot-Inhalte für Minderjährige beschränken ?

Wäh­rend Trans­pa­renz eine Schutz­ebe­ne bil­det, erkann­ten Gesetz­ge­ber, dass das Wis­sen über Risi­ken nicht ver­hin­dert, dass sie auf­tre­ten. Utahs vor­ge­schla­ge­ne Chat­bot-Regu­lie­run­gen wür­den aktiv bestimm­te Inter­ak­tio­nen zwi­schen KI-Sys­te­men und jun­gen Men­schen blo­ckie­ren. Die Inhalts­richt­li­ni­en kon­zen­trie­ren sich dar­auf, Schä­den zu ver­hin­dern, bevor sie auftreten.

Das Han­dels­mi­nis­te­ri­um wür­de die Befug­nis erhal­ten, die­se Regeln durch­zu­set­zen. Die­ser Ansatz spie­gelt bereits bestehen­de Alters­ve­ri­fi­ka­ti­ons­sys­te­me wider, die bereits für Erwach­se­nen-Web­sites ver­wen­det wer­den, und gibt Eltern prak­ti­sche Werk­zeu­ge, um die Online-Erfah­run­gen ihrer Kin­der zu schüt­zen. Utah setzt bereits Alters­ve­ri­fi­ka­ti­on für Erwach­se­nen­in­hal­te durch und beschränkt Min­der­jäh­ri­ge auf sozia­len Medienplattformen.

Warum könnten Bundesverordnungen Utahs Kinderschutzgesetze blockieren ?

Utah-Gesetz­ge­ber könn­ten das per­fek­te Kin­der­schutz­ge­setz ent­wer­fen, aber ihre Bemü­hun­gen könn­ten in Washing­ton auf eine Mau­er sto­ßen. Prä­si­dent Trumps Exe­ku­tiv­ver­ord­nung vom 11. Dezem­ber 2025 bean­sprucht weit­rei­chen­de Bun­des­be­fug­nis­se über die KI-Regu­lie­rung und könn­te mög­li­cher­wei­se staat­li­che Schutz­maß­nah­men außer Kraft set­zen. Die Ver­ord­nung weist Bun­des­be­hör­den an, staat­li­che Geset­ze zu iden­ti­fi­zie­ren und anzu­fech­ten, die nicht mit natio­na­len Prio­ri­tä­ten übereinstimmen.

Hier wird es schwie­rig für die staat­li­che Auto­no­mie. Das Jus­tiz­mi­nis­te­ri­um muss inner­halb von 30 Tagen eine Task Force ein­rich­ten, um staat­li­che KI-Regu­lie­run­gen auf ver­fas­sungs­recht­li­cher Grund­la­ge anzu­fech­ten. Bun­des­be­hör­den wer­den Finan­zie­run­gen dar­an knüp­fen, dass Staa­ten zustim­men, bestimm­te KI-Geset­ze nicht durch­zu­set­zen. Die Exe­ku­tiv­ver­ord­nung knüpft die Berech­ti­gung für ver­blei­ben­de BEAD-Finan­zie­rung an die KI-Regu­lie­rungs­ent­schei­dun­gen der Staa­ten und setzt etwa 21 Mil­li­ar­den Dol­lar aufs Spiel.

Utahs Kin­der­schutz­maß­nah­men könn­ten jedoch über­le­ben. Die Exe­ku­tiv­ver­ord­nung nimmt aus­drück­lich Geset­ze zum Schutz von Kin­dern von bun­des­staat­li­chen Prä­ven­ti­ons­be­mü­hun­gen aus und bie­tet eine poten­ti­el­le Ret­tungs­lei­ne für die vor­ge­schla­ge­nen Chat­bot-Beschrän­kun­gen des Staates.

Welche KI-Mental-Health-Chatbot-Regeln setzt Utah bereits durch ?

Utah hat bereits kla­re Regeln für Unter­neh­men, die Men­tal-Health-Chat­bots anbie­ten, die von künst­li­cher Intel­li­genz betrie­ben wer­den. Das Gesetz, das am 7. Mai 2025 in Kraft trat, besagt, dass die­se Chat­bots den Nut­zern sofort mit­tei­len müs­sen, dass sie mit einem Com­pu­ter­pro­gramm spre­chen, nicht mit einer ech­ten Per­son. Die Vor­schrif­ten ver­bie­ten auch den Ver­kauf oder die Wei­ter­ga­be iden­ti­fi­zier­ba­rer Nut­zer­ge­sund­heits­in­for­ma­tio­nen ohne ord­nungs­ge­mä­ße Ein­wil­li­gung. Wenn ein Unter­neh­men gegen die­se Regeln ver­stößt, kann es mit einer Geld­stra­fe von bis zu 2.500 Dol­lar pro Ver­stoß rech­nen, wobei Utahs Divi­si­on of Con­su­mer Pro­tec­tion für Durch­set­zungs­maß­nah­men zustän­dig ist.

Verpflichtende KI-Offenlegungsanforderungen

Wie genau stellt der Bie­nen­stock­staat sicher, dass Per­so­nen wis­sen, wann sie mit einer Maschi­ne anstatt mit einem mensch­li­chen The­ra­peu­ten chat­ten ? Utahs SB 149, bekannt als das Gesetz zur Ände­rung der Künst­li­chen Intel­li­genz, eta­blier­te kla­re Trans­pa­renz­re­geln für KI im Gesund­heits­we­sen, die die Pri­vat­sphä­re von Chat­bot-Nut­zern schüt­zen. Wirk­sam ab dem 1. Mai 2024 setz­te die­se Gesetz­ge­bung wich­ti­ge Standards :

1. Gesund­heits­dienst­leis­ter müs­sen offen­le­gen, wenn gene­ra­ti­ve KI Ant­wor­ten ohne mensch­li­che Auf­sicht erstellt in regu­lier­ten Berufen
2. Benach­rich­ti­gun­gen sind erfor­der­lich bei Text‑, Audio- und visu­el­ler Kom­mu­ni­ka­ti­on, um voll­stän­di­ge Trans­pa­renz zu gewährleisten
3. Die Offen­le­gung gilt spe­zi­ell für nicht-skrip­tier­te KI-Aus­ga­ben, die kei­ne bedeut­sa­me mensch­li­che Über­prü­fung haben
4. Regu­lier­te Fach­kräf­te müs­sen Pati­en­ten vor Beginn KI-gene­rier­ter Inter­ak­tio­nen informieren

Die­se grund­le­gen­den Schutz­maß­nah­men geben Ihnen das Recht zu wis­sen, mit wem—oder was—Sie spre­chen, wenn Sie Hil­fe suchen. Wäh­rend sich Utah auf Trans­pa­renz im Gesund­heits­we­sen kon­zen­triert, ver­langt Kali­for­ni­ens SB 243 von Betrei­bern, min­der­jäh­ri­ge Nut­zer alle drei Stun­den zu benach­rich­ti­gen, dass sie mit einem KI-Chat­bot inter­agie­ren und regel­mä­ßi­ge Pau­sen von der Platt­form zu ermutigen.

Verwaltungsstrafen für Verstöße

Das Bre­chen der Regeln hat einen hohen Preis in Utahs KI-Chat­bot-Umge­bung. Gro­ße Ent­wick­ler sehen sich schwer­wie­gen­den finan­zi­el­len Kon­se­quen­zen gegen­über, wenn ihre Sys­te­me die Kin­der­schutz­stan­dards nicht erfül­len. Erst­ma­li­ge Ver­stö­ße lösen eine zivil­recht­li­che Stra­fe von 1 Mil­li­on Dol­lar aus. Die­ser Betrag steigt auf 3 Mil­lio­nen Dol­lar für wie­der­hol­te Ver­stö­ße.

Die­se Durch­set­zungs­maß­nah­men schaf­fen star­ke Com­pli­ance-Anrei­ze für Unter­neh­men, die betrof­fe­ne Chat­bots betrei­ben. Die stei­gen­den Buß­gel­der hal­ten Unter­neh­men davon ab, Ver­stö­ße als blo­ße Geschäfts­kos­ten zu behan­deln. Utah hat die­ses Rah­men­werk ent­wi­ckelt, um jun­ge Nut­zer zu schüt­zen und gleich­zei­tig die Geschäfts­frei­heit zu respektieren.

Der gestuf­te Ansatz gibt Ent­wick­lern kla­re Warn­si­gna­le. Unter­neh­men kön­nen Pro­ble­me nach anfäng­li­chen Ver­stö­ßen kor­ri­gie­ren, ohne maxi­ma­le Stra­fen zu ris­kie­ren. Die­ses aus­ge­wo­ge­ne Sys­tem för­dert ver­ant­wor­tungs­vol­le Inno­va­ti­on und erhält gleich­zei­tig die Rechen­schafts­pflicht auf­recht. Die finan­zi­el­len Ein­sät­ze blei­ben hoch genug, um die Auf­merk­sam­keit von Füh­rungs­teams zu for­dern, die Nut­zer­si­cher­heit prio­ri­sie­ren. Anbie­ter kön­nen eine posi­ti­ve Ver­tei­di­gung mit ord­nungs­ge­mä­ßer Doku­men­ta­ti­on und Sicher­heits­richt­li­ni­en gel­tend machen.

Was müssen KI-Unternehmen tun, um Utahs Gesetze einzuhalten ?

Die Navi­ga­ti­on durch das neue regu­la­to­ri­sche Umfeld erfor­dert, dass KI-Ent­wick­ler meh­re­re kon­kre­te Schrit­te unter­neh­men, bevor sie Chat­bots im Staat einführen.

Die Com­pli­ance-Her­aus­for­de­run­gen mögen ent­mu­ti­gend erschei­nen, aber Chat­bot-Vor­schrif­ten bie­ten kla­re Wege für Unter­neh­men, die bereit sind, Nut­zer­si­cher­heit zu priorisieren :

1. Erstel­len und ver­öf­fent­li­chen Sie detail­lier­te Kin­der­schutz­plä­ne auf Ihrer Web­site, die dar­le­gen, wie Ihre Platt­form jun­ge Nut­zer vor schäd­li­chen Inhal­ten und Inter­ak­tio­nen schützt.
2. Imple­men­tie­ren Sie drei­stün­di­ge Benach­rich­ti­gungs­er­in­ne­run­gen, die Min­der­jäh­ri­ge dar­über infor­mie­ren, dass sie mit künst­li­cher Intel­li­genz chat­ten, nicht mit einer ech­ten Person.
3. Eta­blie­ren Sie Mel­de­sys­te­me, um Utahs KI-Poli­tik-Büro über alle Sicher­heits­vor­fäl­le oder Risi­ken zu benach­rich­ti­gen, die in Ihrer Platt­form ent­deckt werden.
4. Füh­ren Sie gründ­li­che Risi­ko­be­wer­tun­gen für Ihre KI-Model­le durch und machen Sie die­se Eva­lu­ie­run­gen öffent­lich zur Über­prü­fung verfügbar.
5. Stel­len Sie ord­nungs­ge­mä­ße Offen­le­gung sicher, wenn Sie gene­ra­ti­ve KI ver­wen­den in jeder Text‑, Audio- oder visu­el­len Kom­mu­ni­ka­ti­on, ins­be­son­de­re für Chat­bot-Inter­ak­tio­nen, die unter regu­lier­te Beru­fe oder Gesund­heits­we­sen fallen.

Die­se Anfor­de­run­gen zie­len dar­auf ab, Inno­va­ti­on mit dem Schutz gefähr­de­ter Nut­zer in Ein­klang zu bringen.

Quellenangabe

• https://www.deseret.com/politics/2026/01/22/utah-legislature-supports-bill-to-force-ai-chatbots-to-care-about-kids-it-might-conflict-with-trump-executive-order-on-state-ai-regulations/
• https://www.healthlawadvisor.com/utah-law-aims-to-regulate-ai-mental-health-chatbots
• https://www.wsgrdataadvisor.com/2025/04/utah-enacts-mental-health-chatbot-law/
• https://it.utah.edu/node4/posts/2024/may/utah-privacy-laws.php
• https://le.utah.gov/Session/2026/bills/static/HB0286.html
• https://le.utah.gov/~2026/bills/static/HB0286.html
• https://www.wilsonelser.com/publications/artificial-intelligence-legislative-update
• https://fpf.org/blog/chatbots-in-check-utahs-latest-ai-legislation/
• https://pro.stateaffairs.com/ga/news/legislators-prepare-26-blitz-on-ai-chatbot-regulations
• https://perkinscoie.com/insights/update/new-utah-ai-laws-change-disclosure-requirements-and-identity-protections-target