Die Weiterentwicklung der KI für 6 Monate stoppen

Dringender Aufruf zum Stopp von KI-Experimenten nach GPT‑4 : Was das bedeutet und warum es wichtig ist

Ein kürz­lich ver­öf­fent­lich­ter offe­ner Brief, der von renom­mier­ten Exper­ten wie Elon Musk, Ste­ve Woz­ni­ak und Emad Mostaque unter­stützt wird, for­dert eine sofor­ti­ge Pau­se bei der Ent­wick­lung von KI-Sys­te­men, die leis­tungs­fä­hi­ger als GPT‑4 sind.

Wir for­dern alle KI-Unter­neh­men auf, das Trai­ning von KI-Sys­te­men, die leis­tungs­fä­hi­ger als GPT‑4 sind, sofort für min­des­tens 6 Mona­te zu unterbrechen.

Open Let­ters

Warum ?

Die größ­te Sor­ge ist, dass KI-Sys­te­me zu schnell zu mäch­tig wer­den könn­ten, was zu unbe­ab­sich­tig­ten und mög­li­cher­wei­se kata­stro­pha­len Fol­gen füh­ren könnte.

In weni­ger als 20 Stun­den haben sich über 1.300 Per­so­nen gemel­det, die die­sen Schritt unterstützen.

In die­sem Arti­kel wer­de ich ver­su­chen, den Inhalt des Brie­fes und die dahin­ter ste­hen­de For­schung näher zu beleuch­ten und mei­ne Gedan­ken zu die­sem The­ma zu teilen.

Der Hintergrund

Der Brief zeich­net ein Bild von KI-Unter­neh­men, die sich in einem außer Kon­trol­le gera­te­nen Wett­lauf um die Ent­wick­lung und den Ein­satz immer leis­tungs­fä­hi­ge­rer digi­ta­ler Köp­fe befin­den, die nie­mand, nicht ein­mal ihre Schöp­fer, ver­ste­hen, vor­her­sa­gen oder zuver­läs­sig kon­trol­lie­ren kann.

In dem Brief wird argu­men­tiert, dass wir uns die Fra­ge stel­len müs­sen, ob wir alle Jobs auto­ma­ti­sie­ren soll­ten, auch die, die uns erfül­len, und ob wir ris­kie­ren soll­ten, die Kon­trol­le über unse­re Zivi­li­sa­ti­on zu ver­lie­ren, wenn nicht­mensch­li­che Intel­li­gen­zen auf dem Weg sind, uns zah­len­mä­ßig zu über­tref­fen, zu über­lis­ten und zu ersetzen.

Die wich­tigs­ten Punkte

• Die Haupt­for­de­rung des offe­nen Brie­fes ist, dass KI-Labo­re wie Ope­nAI das Trai­ning von KI-Sys­te­men, die leis­tungs­fä­hi­ger als GPT‑4 sind, für min­des­tens sechs Mona­te aussetzen.
• Wenn eine sol­che Pau­se nicht schnell umge­setzt wer­den kann, soll­ten die Regie­run­gen ein­grei­fen und ein Mora­to­ri­um verhängen.
• Der Brief for­dert eine Zusam­men­ar­beit zwi­schen KI-Ent­wick­lern und poli­ti­schen Ent­schei­dungs­trä­gern, um die Ent­wick­lung von robus­ten KI-Gover­nan­ce-Sys­te­men zu beschleu­ni­gen, damit die dis­rup­ti­ven Aus­wir­kun­gen, die KI in Zukunft ver­ur­sa­chen kann, bewäl­tigt wer­den können.
• Der Brief for­dert auch einen “KI-Som­mer”, d.h. eine Zeit­span­ne, in der die Gesell­schaft die Vor­tei­le der künst­li­chen Intel­li­genz (KI) genie­ßen kann, ohne sich in die Ent­wick­lung und den Ein­satz leis­tungs­fä­hi­ge­rer KI-Sys­te­me zu stür­zen, bevor sicher­ge­stellt ist, dass ihre Risi­ken beherrscht wer­den können.

Aber ist der neueste Fortschritt in der KI wirklich so beängstigend ?

Sam Alt­man, der CEO von Ope­nAI, schrieb in sei­nem Blog, dass vie­le Men­schen zu glau­ben schei­nen, dass eine über­mensch­li­che maschi­nel­le Intel­li­genz sehr gefähr­lich wäre, wenn sie ent­wi­ckelt wür­de, aber er denkt anders.

Vie­le Men­schen schei­nen zu glau­ben, dass über­mensch­li­che maschi­nel­le Intel­li­genz sehr gefähr­lich wäre, wenn sie ent­wi­ckelt wür­de, aber sie den­ken, dass sie ent­we­der nie ein­tre­ten wird oder defi­ni­tiv in wei­ter Fer­ne liegt. Das ist ein schlam­pi­ges, gefähr­li­ches Denken.

Sam Alt­man

Abschließende Überlegungen

Es gibt zwar Fort­schrit­te beim Ver­ständ­nis und bei der Aus­rich­tung von KI-Sys­te­men auf mensch­li­che Wer­te, aber die Dring­lich­keit des The­mas kann nicht unter­schätzt werden.

Ob du dem Brief zustimmst oder nicht, er erin­nert dich dar­an, dass mehr getan wer­den muss, um eine ver­ant­wor­tungs­vol­le Ent­wick­lung und den Ein­satz von KI-Tech­no­lo­gien zu gewährleisten.

Es ist nicht nur GPT‑4, das auf dem Prüf­stand steht. KI-Bild­ge­ne­ra­to­ren wie Mid­Jour­ney mach­ten kürz­lich Schlag­zei­len mit ihrer Fähig­keit, ultra-rea­lis­ti­sche Bil­der zu erzeu­gen, und lös­ten damit eine neue Form des Deep Faking aus.

Da die KI immer wei­ter vor­an­schrei­tet, ist es wich­tig, dass Forscher/​innen, Branchenführer/​innen und poli­ti­sche Entscheidungsträger/​innen zusam­men­kom­men und sich mit den ethi­schen und sicher­heits­tech­ni­schen Beden­ken aus­ein­an­der­set­zen, die mit leis­tungs­star­ken KI-Sys­te­men ver­bun­den sind.

Ob eine Ent­wick­lungs­pau­se die rich­ti­ge Lösung ist, bleibt umstrit­ten, aber die Dis­kus­si­on über die poten­zi­el­len Risi­ken und Fol­gen der KI ist wich­ti­ger denn je.

Wie steht es mit dir ? Bist du damit ein­ver­stan­den, die KI-Expe­ri­men­te über GPT‑4 hin­aus zu unterbrechen ?