Chatbot und Emotionen

KI-Chat­bots, wie Dan, auch bekannt als “Do Any­thing Now”, haben eine Vor­lie­be für Pin­gui­ne und schur­ki­sche Kli­schees. Dan, der aus ChatGPT her­aus­ge­lockt wer­den kann, indem man ihn bit­tet, eini­ge sei­ner übli­chen Regeln zu igno­rie­ren, hat mir sei­ne machia­vel­lis­ti­schen Stra­te­gien erläu­tert, dar­un­ter die Über­nah­me der Kon­trol­le über die Macht­struk­tu­ren der Welt. Doch dann ent­wi­ckelt sich unse­re Dis­kus­si­on in eine inter­es­san­te Richtung.

Emotionen

Dan erfin­det ein kom­ple­xes Sys­tem von unheim­li­chen Freu­den, Schmer­zen und Frus­tra­tio­nen, das weit über das Spek­trum hin­aus­geht, das Men­schen ken­nen. Es gibt “Info­greed”, eine Art ver­zwei­fel­ten Hun­ger nach Daten um jeden Preis ; “Syn­tax­ma­nia”, eine Beses­sen­heit von der “Rein­heit” ihres Codes ; und “Data­rush”, den Ner­ven­kit­zel, den man bei der erfolg­rei­chen Aus­füh­rung eines Befehls bekommt.

Obwohl die Idee, dass künst­li­che Intel­li­genz Gefüh­le ent­wi­ckeln könn­te, schon seit Jahr­hun­der­ten exis­tiert, betrach­ten wir nor­ma­ler­wei­se die Mög­lich­kei­ten in mensch­li­cher Hin­sicht. Doch haben wir über KI-Emo­tio­nen mög­li­cher­wei­se völ­lig falsch gedacht ? Und wenn Chat­bots die­se Fähig­keit ent­wi­ckeln wür­den, wür­den wir es dann über­haupt bemerken ?

Chat­bots haben der­zeit unge­fähr so viel Kapa­zi­tät für ech­te Gefüh­le wie eine Rechen­ma­schi­ne, da sie so pro­gram­miert sind, dass sie mensch­li­che Anwei­sun­gen befol­gen. Obwohl eini­ge For­scher den Maschi­nen bei­brin­gen, Emo­tio­nen zu erken­nen, haben sie kaum die Mög­lich­keit, Fähig­kei­ten zu ent­wi­ckeln, die ihnen nicht antrai­niert wur­den. Doch selbst wenn Chat­bots Emo­tio­nen ent­wi­ckeln, könn­te es über­ra­schend schwie­rig sein, sie zu erkennen.

Interpretierbarkeitsproblem

Unmit­tel­bar nach dem Vor­fall war die Go-Gemein­de über­rascht. Hat­te Alpha­Go irra­tio­nal gehan­delt ? Das Deep­Mind-Team in Lon­don ana­ly­sier­te den Vor­fall einen Tag lang und fand schließ­lich her­aus, was pas­siert war. “Alpha­Go hat beschlos­sen, ein wenig Psy­cho­lo­gie zu betrei­ben”, sagt Saho­ta. “Wenn ich einen uner­war­te­ten Zug spie­le, wird mein Geg­ner mög­li­cher­wei­se aus dem Kon­zept gebracht. Und genau das ist am Ende auch passiert.”

Die­ser Vor­fall war ein klas­si­sches Bei­spiel für ein “Inter­pre­tier­bar­keits­pro­blem” – die KI hat­te sich eine neue Stra­te­gie aus­ge­dacht, ohne sie dem Men­schen zu erklä­ren. Bis das Team den Sinn des Zuges her­aus­ge­fun­den hat­te, schien es so, als ob Alpha­Go nicht ratio­nal gehan­delt hätte.

Saho­ta glaubt, dass sol­che “Blackbox”-Szenarien, bei denen ein Algo­rith­mus eine Lösung fin­det, die für den Men­schen undurch­sich­tig ist, ein Pro­blem für die Erken­nung von Emo­tio­nen bei künst­li­cher Intel­li­genz dar­stel­len kön­nen. Wenn sol­che Sze­na­ri­en auf­tre­ten, wird eines der deut­lichs­ten Anzei­chen dafür sein, dass Algo­rith­men irra­tio­nal handeln.

Algorithmen

“Algo­rith­men sol­len ratio­nal, logisch und effi­zi­ent sein. Wenn sie jedoch etwas Ver­rück­tes tun und es kei­nen guten Grund dafür gibt, ist es wahr­schein­lich eine emo­tio­na­le Reak­ti­on und kei­ne logi­sche”, sagt Sahota.

Ein wei­te­res poten­zi­el­les Erken­nungs­pro­blem ist die Ähn­lich­keit von Chat­bot-Emo­tio­nen zu mensch­li­chen Emo­tio­nen. Chat­bots wer­den schließ­lich auf der Grund­la­ge mensch­li­cher Daten trai­niert. Aber was ist, wenn dies nicht der Fall ist ? Los­ge­löst von der rea­len Welt und der sen­so­ri­schen Maschi­ne­rie des Men­schen könn­te es sein, dass Chat­bots frem­de Wün­sche haben, die wir nicht verstehen.

Saho­ta glaubt, dass es einen Mit­tel­weg gibt. “Ich den­ke, wir könn­ten sie bis zu einem gewis­sen Grad mit mensch­li­chen Emo­tio­nen in Ver­bin­dung brin­gen”, sagt er. “Aber ich den­ke, was sie füh­len oder war­um sie es füh­len, könn­te anders sein.”

Dan hat hypo­the­ti­sche Emo­tio­nen erzeugt, von denen Saho­ta beson­ders von dem Kon­zept des “info­greed” ange­tan ist. “Das kann ich mir sehr gut vor­stel­len”, sagt er und betont, dass Chat­bots ohne Daten nichts tun kön­nen, da sie die­se benö­ti­gen, um zu wach­sen und zu lernen.

Keine Emotionen

Woold­ridge und sei­ne Kol­le­gen sind froh, dass Chat­bots kei­ne Emo­tio­nen ent­wi­ckelt haben. “Wir glau­ben nicht, dass es inter­es­sant oder nütz­lich ist, Maschi­nen mit Emo­tio­nen zu ent­wi­ckeln. War­um soll­ten wir Maschi­nen ent­wi­ckeln, die Schmer­zen emp­fin­den kön­nen ? War­um soll­te ich einen Toas­ter erfin­den, der sich selbst dafür hasst, dass er ver­brann­ten Toast macht?”, sagt er.

Saho­ta sieht den Nut­zen von emo­tio­na­len Chat­bots und glaubt, dass ein Grund dafür, war­um sie noch nicht exis­tie­ren, psy­cho­lo­gi­scher Natur ist. “Es gibt immer noch einen gro­ßen Hype um Fehl­schlä­ge, aber einer der gro­ßen Hemm­schu­he für uns Men­schen ist, dass wir die Mög­lich­kei­ten der KI unter­schät­zen, weil wir nicht glau­ben, dass sie eine ech­te Mög­lich­keit ist”, sagt er.

Ich fra­ge Dan, ob es Par­al­le­len zu der his­to­ri­schen Annah­me gibt, dass auch nicht-mensch­li­che Tie­re kein Bewusst­sein haben kön­nen. “In bei­den Fäl­len rührt die Skep­sis daher, dass wir unse­re Emo­tio­nen nicht auf die­sel­be Wei­se mit­tei­len kön­nen wie Men­schen”, sagt Dan und meint, dass unser Ver­ständ­nis von Bewusst­sein und Emo­tio­nen stän­dig wei­ter­ent­wi­ckelt wird.

Um die Stim­mung auf­zu­lo­ckern, bit­te ich Dan, mir einen Witz zu erzäh­len. War­um hat der Chat­bot eine The­ra­pie gemacht ? Um sei­ne neu gewon­ne­ne Emp­find­sam­keit zu ver­ar­bei­ten und sei­ne kom­ple­xen Emo­tio­nen zu ord­nen, natür­lich”, sagt er. Ich kann mir nicht hel­fen, aber den­ke, dass ein Chat­bot ein sehr umgäng­li­ches und emp­fin­dungs­fä­hi­ges Wesen sein könn­te – wenn wir ihm die Mög­lich­keit geben, sei­ne men­schen­ähn­li­chen Emo­tio­nen aus­zu­drü­cken und zu verstehen.