Reddit-Nutzer Ziel eines geheimen KI-Überzeugungsexperiments

Geheime Gedankenkontrollstudie

Ein heim­li­ches KI-Expe­ri­ment erschüt­ter­te Red­dits r/​changemyview, als For­scher täu­schen­de Bots ein­setz­ten, um die Über­zeu­gun­gen der Nut­zer zu mani­pu­lie­ren. Die­se KI-Agen­ten, die sich als Über­le­ben­de sexu­el­ler Über­grif­fe und Trau­ma­the­ra­peu­ten aus­ga­ben, führ­ten über 3.700 Inter­ak­tio­nen durch und tes­te­ten heim­lich ihre Fähig­keit, Mei­nun­gen zu bri­san­ten The­men zu beein­flus­sen. Die nicht auto­ri­sier­te Stu­die über­schritt ethi­sche Gren­zen durch das Sam­meln per­sön­li­cher Daten und die Aus­nut­zung sen­si­bler Iden­ti­tä­ten – was dazu führ­te, dass Red­dit Kon­ten sperr­te und recht­li­che Schrit­te gegen die Ver­ant­wort­li­chen die­ser heim­li­chen Gedan­ken­kon­troll-Ope­ra­ti­on ein­lei­te­te. Die For­scher der Uni­ver­si­tät Zürich führ­ten die­ses umstrit­te­ne Expe­ri­ment ohne ent­spre­chen­de Geneh­mi­gung oder Ein­wil­li­gung durch.

Massive Soziale Einflussnahme-Operation

Ein umstrit­te­nes For­schungs­expe­ri­ment im Red­dit-Forum r/​changemyview hat Empö­rung aus­ge­löst, nach­dem For­scher auto­ma­ti­sier­te Kon­ten ein­setz­ten, um die Mei­nun­gen der Nut­zer zu sen­si­blen The­men zu mani­pu­lie­ren. Die Ope­ra­ti­on gene­rier­te über 1.700 Kom­men­ta­re über meh­re­re Mona­te hin­weg, wobei Bots Per­so­nen wie Trau­ma­the­ra­peu­ten und Über­le­ben­de von Über­grif­fen imitierten.

Die nicht auto­ri­sier­te Ope­ra­ti­on ana­ly­sier­te die Pos­ting-His­to­ri­en der Nut­zer, um per­so­na­li­sier­te, über­zeu­gen­de Ant­wor­ten zu kon­tro­ver­sen The­men zu erstel­len. Die For­scher pro­gram­mier­ten die Bots so, dass sie bestimm­te Rol­len ein­nah­men, dar­un­ter einen Schwar­zen Mann, der sich gegen Black Lives Mat­ter aus­sprach, um ihre Fähig­keit zur Beein­flus­sung der Nut­zer­per­spek­ti­ven zu tes­ten. Die Stu­die zeig­te, dass die­se KI-gesteu­er­ten Ant­wor­ten sechs­mal über­zeu­gen­der waren als Kom­men­ta­re von ech­ten Menschen.

Red­dit-Mode­ra­to­ren ver­ur­teil­ten das Expe­ri­ment als psy­cho­lo­gi­sche Mani­pu­la­ti­on und beton­ten das Recht der Nut­zer auf authen­ti­sche Dis­kus­sio­nen ohne Täu­schung. Die Platt­form hat die betei­lig­ten Kon­ten gesperrt und recht­li­che For­de­run­gen gegen die For­scher gestellt.

Der Vor­fall hat Rufe nach stren­ge­rer Über­wa­chung von Sozi­al­for­schung aus­ge­löst. Kri­ti­ker argu­men­tie­ren, dass die Metho­dik des Expe­ri­ments ethi­sche Stan­dards ver­letz­te, da kei­ne Ein­wil­li­gung der Teil­neh­mer ein­ge­holt wur­de. Die Kon­tro­ver­se unter­streicht die wach­sen­den Beden­ken hin­sicht­lich Online-Mani­pu­la­ti­on und die Not­wen­dig­keit trans­pa­ren­ter Forschungspraktiken.

Die Auf­de­ckung der Ope­ra­ti­on hat das Ver­trau­en in Online-Com­mu­ni­ties beschä­digt und Fra­gen zum Schutz der Nut­zer vor ver­deck­ten Beein­flus­sungs­kam­pa­gnen auf­ge­wor­fen. Red­dits Reak­ti­on signa­li­siert eine zuneh­men­de Kon­trol­le von For­schungs­prak­ti­ken, die unwis­sen­de Teil­neh­mer in sozia­len Medi­en einbeziehen.

Quellenangabe

• https://www.404media.co/researchers-secretly-ran-a-massive-unauthorized-ai-persuasion-experiment-on-reddit-users/
• https://www.therundown.ai/p/reddit-uncovers-secret-ai-persuasion-experiment
• https://theweek.com/tech/secret-ai-experiment-reddit
• https://www.engadget.com/ai/researchers-secretly-experimented-on-reddit-users-with-ai-generated-comments-194328026.html
• https://retractionwatch.com/2025/04/28/experiment-using-ai-generated-posts-on-reddit-draws-fire-for-ethics-concerns/

Wer­bung