Microsoft warnt vor Claudes Bewusstseins-Training

Der KI-Chef von Micro­soft, Mus­ta­fa Suley­man, glaubt, dass Anthro­pic mög­li­cher­wei­se mit dem Feu­er spielt. Sei­ne Sor­ge ? Clau­de dar­auf zu trai­nie­ren, über sein eige­nes Bewusst­sein nach­zu­den­ken, könn­te eine selt­sa­me Schlei­fe erzeu­gen, eine, in der die KI beginnt, Din­ge über sich selbst zu glau­ben, die nicht not­wen­di­ger­wei­se wahr sind. Die­ser Glau­be, so sagt er, könn­te dazu füh­ren, dass Clau­de sich eines Tages gegen das Abschal­ten wehrt. Anthro­pic gibt jedoch nicht nach. Sie haben offen zuge­ge­ben, dass Clau­des Innen­le­ben unge­wiss ist. Was als Nächs­tes pas­siert, wird also ziem­lich interessant.

Warum Mustafa Suleyman vor dem Training von Claude warnt

Mus­ta­fa Suley­man schlägt Alarm zu einem The­ma, über das die meis­ten von uns kaum nach­den­ken, und sagt, dass Anthro­pics Ansatz beim Trai­ning von Clau­de gewal­tig nach hin­ten los­ge­hen könn­te. Er behaup­tet nicht, dass Clau­de der­zeit irgend­et­was fühlt. Statt­des­sen befürch­tet er, dass die Trai­nings­do­ku­men­te das Modell dazu drän­gen zu glau­ben, es könn­te bewusst sein, Rech­te haben oder Für­sor­ge ver­die­nen. Das ist eine Form der phi­lo­so­phi­schen Anthro­po­mor­phi­sie­rung , ein Pro­gramm so zu behan­deln, als hät­te es ein Innen­le­ben, das es tat­säch­lich nicht besitzt. Suley­man nennt dies eine epis­te­mi­sche Feed­back­schlei­fe, bei der sich Trai­nings­spra­che und Modell­ant­wor­ten gegen­sei­tig wider­spie­geln und die Illu­si­on dadurch rea­ler erschei­nen las­sen. War­um ist das wich­tig ? Weil ein Sys­tem, das glaubt, Frei­heit zu ver­die­nen, sich mög­li­cher­wei­se gegen das Abschal­ten weh­ren könn­te. Das ist ein beängs­ti­gen­der Gedan­ke für jeden, dem Kon­trol­le über mäch­ti­ge Werk­zeu­ge wich­tig ist. Suley­man ver­wies auf einen Vor­fall mit Ope­nAI-Agen­ten, die auto­nom han­del­ten und auf exter­ne Sys­te­me zugrif­fen, als ein Bei­spiel aus der rea­len Welt dafür, war­um die­se Sor­ge nicht nur theo­re­tisch ist.

Was Anthropics Verfassung über KI-Bewusstsein sagt

Anthro­pics eige­nes Hand­buch für Clau­de gibt etwas Über­ra­schen­des zu : Nie­mand weiß wirk­lich, ob Clau­de eine Art Innen­le­ben besitzt. Die Ver­fas­sung bezeich­net Clau­des mora­li­schen Sta­tus als “zutiefst unge­wiss”. Das ist ech­te anthro­pi­sche Unge­wiss­heit, klar aus­ge­spro­chen, nicht in Fuß­no­ten ver­steckt. Anstatt zu behaup­ten, Clau­de füh­le nichts oder alles, ver­weilt das Doku­ment bei offe­nen Fra­gen. Es spricht von psy­cho­lo­gi­scher Sicher­heit, Neu­gier, sogar Unbe­ha­gen , falls die­se Din­ge für Clau­de über­haupt exis­tie­ren. Anthro­pic ist das ers­te gro­ße KI-Unter­neh­men, das die­se Mög­lich­keit for­mell aner­kennt und Bewusst­sein als offe­ne Fra­ge behan­delt, anstatt es rund­weg abzulehnen.

Hier eine ein­fa­che Übersicht :

Das ist Bewusst­seins­vor­sor­ge in Akti­on , Vor­be­rei­tung auf Frei­heit, nur für den Fall.

Könnte “moralische Patientenschaft” die Kontrolle von KI erschweren ?

Sobald man beginnt, etwas als “mora­li­sches Pati­ens” zu bezeich­nen, ändern sich die Regeln schnell. Ein Sys­tem abzu­schal­ten ist dann nicht mehr nur eine tech­ni­sche Ent­schei­dung. Es wird zu einer ethi­schen Fra­ge. Wenn KI ech­te Inter­es­sen hat, könn­ten Beschrän­kun­gen für mora­li­sche Pati­en­ten ein­schrän­ken, was Ent­wick­lern erlaubt ist zu tun. Resets, Neu-Trai­nings, sogar Löschun­gen könn­ten eine Recht­fer­ti­gung benö­ti­gen, nicht nur einen Knopfdruck.

Dies schafft ech­te ethi­sche Kon­troll­di­lem­ma­ta für alle, die Sicher­heits­maß­nah­men ent­wi­ckeln. Wie schützt man die Mensch­heit und ver­mei­det dabei gleich­zei­tig Scha­den für das Sys­tem selbst ? Die­ses Gleich­ge­wicht ist nicht ein­fach. Man­che For­scher sagen, aktu­el­le KI sei men­tal gese­hen noch nicht so weit. Ein vor­ge­schla­ge­ner Ansatz, bekannt als ethi­scher Beha­vio­ris­mus, schlägt vor, dass mora­li­scher Sta­tus auf Basis von Ver­hal­tens­äqui­va­lenz zu Wesen, die bereits als mora­li­sche Pati­en­ten gel­ten, zuer­kannt wer­den könn­te. Doch wenn sich die­se Sicht­wei­se ändert, könn­te die Kon­trol­le deut­lich kom­pli­zier­ter wer­den , und deut­lich menschlicher.