Kliniken in der Kritik nach unentdecktem KI-Fehlverhalten

Kran­ken­häu­ser ver­trau­en stark auf Tech­no­lo­gie, um Pro­ble­me zu erken­nen, bevor sie grö­ßer wer­den. Aber was pas­siert, wenn die­se Tech­no­lo­gie etwas Erns­tes über­sieht ? Ein KI-Sys­tem, das in vie­len Kran­ken­häu­sern weit ver­brei­tet ist, hat einen Fen­ta­nyl-Dieb­stahl nicht erkannt, der mona­te­lang andau­er­te. Medi­zi­ni­sches Per­so­nal nahm das star­ke Schmerz­mit­tel täg­lich , und nie­mand bemerk­te es. Jetzt stel­len Bun­des­be­hör­den schwie­ri­ge Fra­gen, und die Ant­wor­ten könn­ten die Arbeits­wei­se von Kran­ken­häu­sern für immer verändern.

Fentanyl-Diebstahl deckt KI-Lücken auf

Eine Kran­ken­schwes­ter ver­ließ sicht­lich beein­träch­tigt eine Kran­ken­h­aus­sta­ti­on, und es waren ihre Kol­le­gen, die dies bemerk­ten. Das Künst­li­che-Intel­li­genz-Sys­tem, das genau auf sol­che Vor­fäl­le aus­ge­rich­tet war, hat­te mona­te­lang geschwiegen.

Der Fall aus dem Erlan­ger Medi­cal Cen­ter wirft eine drän­gen­de Fra­ge auf, der Kran­ken­häu­ser bis­lang weit­ge­hend aus­ge­wi­chen sind : Was pas­siert, wenn die Soft­ware, der sie beim Auf­de­cken von Medi­ka­men­ten­dieb­stahl ver­trau­en, schlicht ver­sagt ? Sentri7, ein Medi­ka­men­ten­über­wa­chungs­tool, das als KI-gestütz­te Ver­tei­di­gung gegen Medi­ka­men­ten­miss­brauch ver­mark­tet wird, hat es offen­bar in etwa fünf sepa­ra­ten Vor­fäl­len ver­säumt, feh­len­des Fen­ta­nyl zu mel­den. Der Dieb­stahl hat­te sich seit März auf­ge­baut und sich bis Juni von gele­gent­lich zu täg­lich gestei­gert , und das Sys­tem schlug kei­nen Alarm.

Für eine Tech­no­lo­gie, die in Hun­der­ten ame­ri­ka­ni­scher Kran­ken­häu­ser ein­ge­setzt wird, ist die­ses Schwei­gen kein gering­fü­gi­ger tech­ni­scher Feh­ler. Es ist ein Ein­blick dar­in, wie viel insti­tu­tio­nel­les Ver­trau­en in eine ein­zi­ge Erken­nungs­ebe­ne gesetzt wur­de und wie schnell die­ses Ver­trau­en zur Haf­tung wer­den kann. Exper­ten war­nen, dass die aus­schließ­li­che Abhän­gig­keit von KI das Risi­ko birgt, Signa­le für Medi­ka­men­ten­miss­brauch voll­stän­dig zu über­se­hen, und beto­nen, dass die Tech­no­lo­gie nur eine Kom­po­nen­te eines weit­aus umfas­sen­de­ren Über­wa­chungs­sys­tems sein kann.

Regulierungsbehörden leiten Untersuchungen ein

Bun­des- und Staats­be­hör­den haben par­al­le­le Unter­su­chun­gen zum Ver­schwin­den von mehr als sie­ben Gal­lo­nen Fen­ta­nyl-Lösung aus einem Kran­ken­haus in New Hamp­shire ein­ge­lei­tet , ein Fall, der gleich­zei­tig die Auf­merk­sam­keit der Drug Enforce­ment Admi­nis­tra­ti­on und staat­li­cher Zulas­sungs­be­hör­den auf sich gezo­gen hat.

Die Betei­li­gung der DEA wur­de durch gesetz­li­che Mel­de­pflich­ten nach dem Con­trol­led Sub­s­tances Act aus­ge­löst, der Ein­rich­tun­gen ver­pflich­tet, Bun­des­be­hör­den inner­halb eines Werk­ta­ges nach Ent­de­ckung eines Dieb­stahls oder erheb­li­chen Ver­lus­tes zu benach­rich­ti­gen. Ein for­mel­les DEA-For­mu­lar 106 muss inner­halb von 45 Tagen nach die­ser Ent­de­ckung fol­gen. Ermitt­ler prü­fen, ob das Kran­ken­haus ange­mes­se­ne Kon­troll­me­cha­nis­men, Prüf­ver­fah­ren und Auf­sichts­sys­te­me auf­recht­erhal­ten hat , Män­gel, die in frü­he­ren Durch­set­zungs­maß­nah­men die Grund­la­ge für zivil­recht­li­che Stra­fen und Com­pli­ance-Auf­la­gen bildeten.

Auf staat­li­cher Ebe­ne haben New-Hamp­shire-Behör­den die Lizen­zen meh­re­rer Kran­ken­haus­mit­ar­bei­ter aus­ge­setzt, dar­un­ter die Pfle­ge­dienst­lei­te­rin. Eine Kran­ken­schwes­ter soll zuge­ge­ben haben, im Zeit­raum von Okto­ber bis Janu­ar Fen­ta­nyl-Beu­tel ent­wen­det zu haben , eine Aus­sa­ge, die berufs­recht­li­che Dis­zi­pli­nar­ver­fah­ren beschleu­nig­te. Maß­nah­men der Staats­be­hör­den die­ser Art lau­fen typi­scher­wei­se par­al­lel zu straf­recht­li­chen oder ver­wal­tungs­recht­li­chen Ermitt­lun­gen, wenn eine Umlei­tung bestä­tigt oder stark ver­mu­tet wird.

Ermitt­ler arbei­ten dar­an, Über­wa­chungs­auf­nah­men, elek­tro­ni­sche Aus­ga­be­pro­to­kol­le, Zugriffs­pro­to­kol­le und Bestands­do­ku­men­ta­tio­nen zu sichern. Inter­ne Prü­fun­gen und Per­so­nal­be­fra­gun­gen sind im Gan­ge. Per­so­nen unter Ver­dacht kön­nen wäh­rend der Über­prü­fung einen ein­ge­schränk­ten Zugang zu Betäu­bungs­mit­teln erhalten.

Der Fall spie­gelt ein Mus­ter wider, das Regu­lie­rungs­be­hör­den seit Jah­ren ver­fol­gen. Eine frü­he­re DEA-Eini­gung mit UT Sou­thwes­tern erfor­der­te unan­ge­kün­dig­te Prü­fun­gen von über Pyxis-Auto­ma­ten aus­ge­ge­be­nem Fen­ta­nyl, obli­ga­to­ri­sche Sicher­heits­ka­me­ras und struk­tu­rier­te Mel­de­ka­nä­le für Mit­ar­bei­ter. Behör­den haben es klar for­mu­liert : Die Nicht­ein­hal­tung von Mel­de­pflich­ten kann selbst zu einer unab­hän­gi­gen Durch­set­zungs­an­ge­le­gen­heit wer­den. Kon­gress­ab­ge­ord­ne­te Lori Tra­han co-ver­fasst gemein­sam mit dem kali­for­ni­schen Repu­bli­ka­ner Jay Ober­nol­te einen KI-Regu­lie­rungs­ge­setz­ent­wurf, der mög­li­cher­wei­se neue Auf­sichts­stan­dards für im Gesund­heits­we­sen ein­ge­setz­te Com­pli­ance-Tech­no­lo­gien ein­füh­ren könnte.

Quellenangabe

• https://www.cbsnews.com/news/tennessee-hospital-nurse-fentanyl-theft-ai/
• https://www.youtube.com/watch?v=tZqugoVR4pw
• https://www.wdadradio.com/2026/06/01/a‑nurse-stole-fentanyl-and-ai-missed-it-state-records-say/
• https://newschannel9.com/news/local/records-chattanooga-nurse-stole-fentanyl-while-erlanger-ai-missed-red-flags-erlanger-fentanyl-diversion-chattanooga-nurse-fentanyl-theft-sentri7-drug-monitoring-software-erlanger-drug-diversion-case-tennessee-board-of-nursing
• https://letsdatascience.com/news/sentri7-missed-fentanyl-thefts-at-tennessee-hospital-5b809391
• https://www.linkedin.com/posts/kff-health-news_at-a-tennessee-hospital-a-nurse-stole-fentanyl-activity-7468000317347971073-Hd17
• https://journals.library.columbia.edu/index.php/cusj/blog/view/536
• https://pdfs.semanticscholar.org/d3c3/a8b8bd1bea710e8a13a7b9bbce23a7fee165.pdf
• https://www.ucf.edu/news/ucf-researchers-develop-ai-to-detect-fentanyl-and-derivatives-remotely/
• https://consilient.com/federated-learning-spotting-fentanyl