UN-Chef warnt, KI könnte zu einem “modernen Frankensteins Monster” werden

Der obers­te Diplo­mat der Welt hat gera­de eine ein­dring­li­che War­nung bezüg­lich künst­li­cher Intel­li­genz aus­ge­spro­chen. Antó­nio Guter­res, Lei­ter der Ver­ein­ten Natio­nen, sieht beun­ru­hi­gen­de Zei­chen vor­aus. Er glaubt, dass KI in etwas Gefähr­li­ches aus­ar­ten könnte—eine moder­ne Ver­si­on von Fran­ken­steins Schöp­fung. Ohne ange­mes­se­ne Regeln und Schutz­maß­nah­men könn­ten die­se mäch­ti­gen Sys­te­me genau den Men­schen scha­den, denen sie eigent­lich hel­fen sol­len. Die Sor­ge ist nicht nur theo­re­tisch. Ech­te Kon­se­quen­zen tre­ten bereits auf, und die Zeit läuft ab.

Die Erosion der fundamentalen Menschenrechte im KI-Zeitalter

Künst­li­che Intel­li­genz berührt inzwi­schen nahe­zu jeden Bereich des moder­nen Lebens, von den Tele­fo­nen in unse­ren Taschen bis zu den Kame­ras auf den Stra­ßen der Städ­te. Doch die­se Tech­no­lo­gie bringt ernst­haf­te Her­aus­for­de­run­gen für unse­re Grund­frei­hei­ten mit sich. Mas­sen­über­wa­chungs­sys­te­me ver­fol­gen Gesich­ter und sam­meln per­sön­li­che Infor­ma­tio­nen ohne ange­mes­se­ne recht­li­che Gren­zen. Die Daten­schutz­aus­wir­kun­gen sind erschütternd—was wir sagen, wohin wir gehen und wen wir tref­fen kann alles stän­dig über­wacht werden.

Die­se Werk­zeu­ge funk­tio­nie­ren oft im Gehei­men und machen es schwer zu wis­sen, wer zuschaut oder war­um. Algo­rith­mi­sche Rechen­schafts­pflicht bleibt schwach und lässt Ein­zel­per­so­nen ohne Ant­wor­ten, wenn Ent­schei­dun­gen ihr Leben beein­flus­sen. Vor­ur­tei­le in die­sen Sys­te­men scha­den Min­der­hei­ten und ver­letz­li­chen Gemein­schaf­ten am meis­ten. Von unfai­rer Straf­ver­fol­gung bis zu blo­ckier­ten Job­mög­lich­kei­ten kön­nen auto­ma­ti­sier­te Ent­schei­dun­gen Ungleich­heit ver­stär­ken. Bestehen­de recht­li­che Rahmenwerke haben Schwie­rig­kei­ten, mit sich schnell ent­wi­ckeln­den KI-Tech­no­lo­gien Schritt zu hal­ten. Inter­na­tio­na­le Gre­mi­en war­nen, dass ohne star­ke Schutz­maß­nah­men KI selbst zu einer Waf­fe gegen die Frei­heit wer­den könnte.

Technologieriesen sammeln beispiellose globale Macht an

Eine Hand­voll Tech­no­lo­gie­un­ter­neh­men kon­trol­liert nun mehr Reich­tum als gan­ze Natio­nen, wobei Apple und Micro­soft jeweils mit fast 3 Bil­lio­nen Dol­lar bewer­tet wer­den, Stand April 2025. Die­se Tech-Gigan­ten haben außer­ge­wöhn­li­chen Ein­fluss auf die Ent­wick­lung künst­li­cher Intel­li­genz und bestim­men, wohin mehr als 100 Mil­li­ar­den Dol­lar an Inves­ti­tio­nen flie­ßen und wel­che Tech­no­lo­gien unse­re Zukunft prä­gen. Doch trotz ihrer enor­men Macht über glo­ba­le Sys­te­me ste­hen die­se Unter­neh­men unter begrenz­ter Auf­sicht, was erns­te Fra­gen dar­über auf­wirft, wer wirk­lich das digi­ta­le Zeit­al­ter regiert. Nvi­di­as Chips sind zur bevor­zug­ten Hard­ware für das Trai­ning der gro­ßen Sprach­mo­del­le gewor­den, die Sys­te­me wie ChatGPT antrei­ben, und fes­ti­gen damit die Posi­ti­on des Unter­neh­mens im Zen­trum der KI-Revolution.

Reichtum, der nationale Volkswirtschaften übertrifft

Das Ver­mö­gen der heu­ti­gen Tech­no­lo­gie­füh­rer ist so stark gewach­sen, dass es nun mit der Wirt­schafts­leis­tung gan­zer Natio­nen kon­kur­riert. UN-Men­schen­rechts­chef Vol­ker Türk hat kürz­lich auf die­ses ver­blüf­fen­de Ver­mö­gens­un­gleich­ge­wicht hin­ge­wie­sen. Wenn pri­va­te Unter­neh­men über Res­sour­cen ver­fü­gen, die das über­stei­gen, was vie­le Län­der jähr­lich pro­du­zie­ren, wird eine tra­di­tio­nel­le wirt­schaft­li­che Auf­sicht nahe­zu unmög­lich. Dies schafft eine her­aus­for­dern­de Situa­ti­on, in der mas­si­ve Kon­zer­ne jen­seits der Reich­wei­te stan­dard­mä­ßi­ger Regu­lie­run­gen ope­rie­ren können.

Zusam­men­ge­nom­men hal­ten Tech­no­lo­gie-Mil­li­ar­dä­re etwa 5,2 Bil­lio­nen $. Das ist mehr als die meis­ten Volks­wirt­schaf­ten. Die­se Kon­zen­tra­ti­on ver­leiht ihnen bei­spiel­lo­sen Ein­fluss auf Märk­te und poli­ti­sche Sys­te­me welt­weit und wirft erns­te Fra­gen zur Rechen­schafts­pflicht auf.

Konzentrierte Kontrolle über KI

Wäh­rend Mil­li­ar­den von Men­schen welt­weit täg­lich KI-Tools nut­zen, kon­trol­liert nur eine klei­ne Grup­pe mäch­ti­ger Tech-Gigan­ten die­se tat­säch­lich. Die­se weni­gen Kon­zer­ne besit­zen die Platt­for­men, For­schung und Daten, die die meis­ten KI-Sys­te­me welt­weit antrei­ben. Sie ent­schei­den, wie sich die­se Tech­no­lo­gien ent­wi­ckeln und wel­che Gren­zen bestehen.

Die­se Kon­zen­tra­ti­on erschwert es, star­ke KI-Rechen­schafts­rah­men zu schaf­fen. Wenn so viel Macht bei nur einer Hand­voll Unter­neh­men liegt, kön­nen sie Richt­li­ni­en zu ihren Guns­ten gestal­ten. Die UN warnt, dass die­ses Ungleich­ge­wicht unse­re Frei­hei­ten bedroht.

Ohne koor­di­nier­te Maß­nah­men bleibt ethi­sche KI-Imple­men­tie­rung schwer durch­setz­bar. Die­se Unter­neh­men bewe­gen sich schnel­ler, als Vor­schrif­ten mit­hal­ten kön­nen. Das hin­ter­lässt Lücken, in denen Mani­pu­la­ti­on und Rechts­ver­let­zun­gen auf­tre­ten kön­nen, was alle betrifft, die Unab­hän­gig­keit und fai­re Behand­lung schät­zen. Pri­va­te KI-Inves­ti­tio­nen stie­gen 2024 auf 109,1 Mil­li­ar­den Dol­lar, was die Res­sour­cen und den Ein­fluss inner­halb die­ser domi­nie­ren­den Kon­zer­ne wei­ter konsolidierte.

Unkontrollierter Unternehmerischer Regulierungseinfluss

Jen­seits die­ser zen­tra­li­sier­ten Eigen­tums­struk­tu­ren liegt eine noch beun­ru­hi­gen­de­re Rea­li­tät : die­se Tech­no­lo­gie­kon­zer­ne ver­fü­gen nun über finan­zi­el­le Res­sour­cen, die vie­le Volks­wirt­schaf­ten in den Schat­ten stel­len. Ihre Aus­ga­ben­kraft ent­spricht dem, was gan­ze Län­der mobi­li­sie­ren kön­nen, und schafft ein erns­tes Ungleich­ge­wicht. Regie­run­gen haben Schwie­rig­kei­ten, Schritt zu halten.

Ohne ange­mes­se­ne Unter­neh­mens­ver­ant­wort­lich­keit wird die­ser Reich­tum zu einem Werk­zeug zur Gestal­tung von Märk­ten und Poli­tik in einer Wei­se, die Geschäfts­in­ter­es­sen und nicht die Frei­hei­ten des Ein­zel­nen bedient. Die Kluft zwi­schen dem, was Tech­no­lo­gie­gi­gan­ten tun kön­nen, und dem, was Geset­ze erlau­ben, schafft gefähr­li­che Öff­nun­gen für Missbrauch.

Regu­lie­rungs­be­hör­den welt­weit bemü­hen sich, Gover­nan­ce-Rah­men zu ent­wi­ckeln, die die­se Macht tat­säch­lich ein­däm­men kön­nen. Neue Geset­ze ver­lan­gen nun eine tie­fer­ge­hen­de Prü­fung von Fusio­nen und Daten­prak­ti­ken. Regu­lie­rungs­be­hör­den bewer­ten zuneh­mend daten­ge­trie­be­ne Markt­macht als zen­tra­les Anlie­gen bei der Eva­lu­ie­rung von Unter­neh­mens­kon­so­li­die­rung. Den­noch hin­ken die­se Bemü­hun­gen immer noch weit hin­ter der Geschwin­dig­keit hin­ter­her, mit der die Tech­no­lo­gie vor­an­schrei­tet, wodurch Bür­ger ver­wund­bar bleiben.

Autonome KI-Systeme, die außerhalb menschlicher Kontrolle operieren

Maschi­nen tref­fen heu­te Ent­schei­dun­gen, ohne erst um Erlaub­nis zu fra­gen. Heu­ti­ge KI-Sys­te­me bear­bei­ten Akti­en­ge­schäf­te, Kun­den­dienst­an­ru­fe und Geschäfts­ent­schei­dun­gen eigen­stän­dig. Mehr als 60% der Akti­en­ge­schäf­te lau­fen über Bots ab, die sich schnel­ler bewe­gen, als Ein­zel­per­so­nen ver­fol­gen kön­nen. Unter­neh­men erle­ben einen Pro­duk­ti­vi­täts­sprung von 40%, wenn sie KI unab­hän­gig arbei­ten lassen.

Aber es gibt ein Pro­blem mit der auto­no­men Ent­schei­dungs­fin­dung. Ein­zel­per­so­nen haben Schwie­rig­kei­ten vor­her­zu­sa­gen, was KI als nächs­tes tun wird—viel mehr als bei der Vor­her­sa­ge mensch­li­cher Ent­schei­dun­gen. Selbst nach direk­ter Zusam­men­ar­beit mit die­sen Sys­te­men erken­nen die meis­ten Per­so­nen nicht, wie unvor­her­sag­bar sie sind. Die KI-Vor­her­sag­bar­keit sinkt, wenn Sys­te­me kom­ple­xer und schnel­ler wer­den. Grö­ße­re Sys­tem­kom­ple­xi­tät redu­ziert die Vor­her­sag­bar­keit, was sich direkt auf die Ver­trau­ens­wür­dig­keit auto­no­mer Sys­te­me auswirkt.

Dies schafft eine beun­ru­hi­gen­de Kluft. Wir über­ge­ben die Kon­trol­le an Sys­te­me, die wir nicht voll­stän­dig ver­ste­hen oder vor­her­sa­gen kön­nen. Frei­heit erfor­dert zu wis­sen, was passiert—nicht das blin­de Ver­trau­en in Black Boxes.

Das gefährliche Vakuum in der KI-Governance und ‑Aufsicht

Der­zeit steht die Welt vor einer beun­ru­hi­gen­den Kluft : Die KI-Tech­no­lo­gie eilt vor­aus, wäh­rend Regeln und Auf­sicht Schwie­rig­kei­ten haben, Schritt zu hal­ten. Regie­run­gen haben sich nicht auf glo­ba­le Stan­dards geei­nigt und über­las­sen es den Unter­neh­men, sich selbst zu kon­trol­lie­ren – und die meis­ten tun nicht genug. Ver­al­te­te Gover­nan­ce-Pro­zes­se sind nicht imim­stan­de, mit den Anfor­de­run­gen sich schnell ent­wi­ckeln­der KI-Tech­no­lo­gien umzu­ge­hen, was kri­ti­sche Lücken in der Auf­sicht hin­ter­lässt. Ohne star­ke Regu­lie­run­gen und inter­na­tio­na­le Zusam­men­ar­beit kön­nen sich gefähr­li­che KI-Sys­te­me unge­hin­dert aus­brei­ten und alle Men­schen gefährden.

Regulatorische Lücken ermöglichen Risiken

Ein ekla­tan­ter Wider­spruch besteht zwi­schen der Geschwin­dig­keit, mit der sich künst­li­che Intel­li­genz aus­brei­tet, und der Lang­sam­keit, mit der Regeln zu ihrer Steue­rung auf­ho­len. Allein die Ver­ei­nig­ten Staa­ten haben über 480 KI-Geset­ze auf Bun­des­staa­ten­ebe­ne her­vor­ge­bracht, was ein Flick­werk schafft, das Orga­ni­sa­tio­nen ver­wirrt, die das Rich­ti­ge tun wol­len. Ohne regu­la­to­ri­sche Trans­pa­renz haben Unter­neh­men Schwie­rig­kei­ten zu wis­sen, was erwar­tet wird. Com­pli­ance-Her­aus­for­de­run­gen ver­viel­fa­chen sich, wenn sich Regeln von Bun­des­staat zu Bun­des­staat unterscheiden.

Klei­ne Unter­neh­men lei­den am meisten—91% feh­len Werk­zeu­ge zur Über­wa­chung ihrer KI-Sys­te­me. Nur 14% ver­ste­hen die wich­tigs­ten Stan­dards. Wäh­rend­des­sen kommt Euro­pas KI-Gesetz im Sep­tem­ber 2025, das Stra­fen von bis zu 35 Mil­lio­nen Euro für Unvor­be­rei­te­te androht. Da 75% der Men­schen welt­weit unter Daten­schutz­ge­set­zen ste­hen, die KI betref­fen, wird die­ses regu­la­to­ri­sche Vaku­um gefähr­lich. Inno­va­ti­on gedeiht durch Frei­heit, aber ohne kla­re Leit­plan­ken wach­sen Risi­ken unkon­trol­liert. Nur 30% der Orga­ni­sa­tio­nen sind mit dem NIST KI-Risi­ko­ma­nage­ment-Frame­work ver­traut, was die Mehr­heit unvor­be­rei­tet für sich ent­wi­ckeln­de regu­la­to­ri­sche Anfor­de­run­gen lässt.

Unternehmerische Selbstregulierung reicht nicht aus

Regie­run­gen sind nicht die ein­zi­gen, die Schwie­rig­kei­ten haben, mit KIs rascher Aus­brei­tung Schritt zu hal­ten. Vie­le Unter­neh­men haben ver­sucht, sich selbst zu regu­lie­ren, aber die Ergeb­nis­se blei­ben hin­ter den Erwar­tun­gen zurück. Unter­neh­me­ri­sche Ver­ant­wort­lich­keit bleibt unklar, wenn sich Rol­len über­schnei­den und nie­mand ein­deu­tig die KI-Risi­ken über­nimmt. Ethi­sche Trans­pa­renz ? Sie ist bes­ten­falls lücken­haft. Unter­neh­men tei­len wenig dar­über mit, wie ihre Sys­te­me funk­tio­nie­ren oder was schief läuft.

Ohne exter­ne Kon­trol­len feh­len Unter­neh­men star­ke Anrei­ze, Pro­ble­me zuzu­ge­ben. Geschwin­dig­keit und Pro­fit gewin­nen oft über Vor­sicht. Frei­wil­li­ge Richt­li­ni­en klin­gen gut, sind aber nicht recht­lich bin­dend. Das bedeu­tet, dass die Umset­zung unein­heit­lich bleibt.

Men­schen­recht­li­che Beden­ken und gesell­schaft­li­che Schä­den fal­len häu­fig durch die Maschen. Tech­ni­sche Schutz­maß­nah­men hel­fen, den­noch kön­nen sie soli­de Auf­sicht nicht erset­zen. Orga­ni­sa­tio­nen benö­ti­gen kla­re Doku­men­ta­ti­on und wie­der­hol­ba­re Prak­ti­ken, um Part­nern zu ver­si­chern, dass sie KI ver­ant­wor­tungs­voll ver­wal­ten. Wenn Inno­va­ti­on unge­prüft vor­an­schrei­tet, ver­viel­fa­chen sich die Gefahren—genau das, wovor der UN-Chef gewarnt hat.

Internationale Koordination bleibt weiterhin abwesend

Wäh­rend Unter­neh­men sich schwer damit tun, sich selbst zu kon­trol­lie­ren, steht die Welt vor einem noch grö­ße­ren Pro­blem : nie­mand steu­ert das Schiff. Erstaun­li­che 118 Län­der blei­ben von wich­ti­gen KI-Gover­nan­ce-Initia­ti­ven aus­ge­schlos­sen. Nur sie­ben wohl­ha­ben­de Natio­nen betei­li­gen sich an allen bestehen­den Abkom­men. Dies schafft gefähr­li­che Gover­nan­ce-Lücken, die Mil­li­ar­den Men­schen ver­wund­bar machen.

Die UN-Gene­ral­ver­samm­lung schlug im August 2025 Alarm. Ver­schie­de­ne Län­der ent­wi­ckeln ihre eige­nen Regeln, aber die­se funk­tio­nie­ren nicht zusam­men. Bra­si­li­en, Kana­da und Süd­ko­rea lie­ßen sich jeweils von Euro­pas KI-Gesetz inspi­rie­ren, den­noch kol­li­die­ren ihre Rah­men­wer­ke. Die­ses Flick­werk schafft Ver­wir­rung für alle.

Ohne ein­heit­li­che glo­ba­le Stan­dards ent­wi­ckelt sich KI schnel­ler als Schutz­maß­nah­men. Der Pari­ser KI-Akti­ons­gip­fel for­der­te kürz­lich har­mo­ni­sier­te inter­na­tio­na­le Stan­dards, um die­se wach­sen­den Beden­ken anzugehen.

Wenn Spitzentechnologien aufeinanderprallen : Eine sich vervielfachende Bedrohung

Da künst­li­che Intel­li­genz immer mäch­ti­ger wird, fin­den Kri­mi­nel­le neue Wege, sie zu instru­men­ta­li­sie­ren. Wenn KI-Schwach­stel­len-Aus­nut­zung mit ande­ren fort­schritt­li­chen Tech­no­lo­gien ver­schmilzt, ver­viel­fa­chen sich die Gefah­ren schnell. Den­ken Sie dar­an : Hacker nut­zen jetzt KI, um Sys­te­me 180% schnel­ler zu scan­nen als zuvor. Sie ent­de­cken Schwach­stel­len, von deren Exis­tenz Sie nicht ein­mal wussten.

Die­se Cyber-KI-Stra­te­gien sind nicht nur intelligenter—sie ver­än­dern sich stän­dig. KI-gestütz­te Mal­wa­re schreibt ihren eige­nen Code um, um an Abwehr­sys­te­men vor­bei­zu­g­lei­ten. Deepf­ake-Vide­os täu­schen Per­so­nen dazu, Mil­lio­nen zu über­wei­sen. Phis­hing-E-Mails klin­gen so echt, dass 60% der Per­so­nen dar­auf hereinfallen.

Das eigent­li­che Pro­blem ? Die­se Bedro­hun­gen ent­wi­ckeln sich schnel­ler, als Sicher­heits­teams reagie­ren kön­nen. Sie­ben­und­acht­zig Pro­zent der Orga­ni­sa­tio­nen sind bereits KI-gesteu­er­ten Angrif­fen aus­ge­setzt. Scho­ckie­ren­der­wei­se haben 99% der Orga­ni­sa­tio­nen sen­si­ble Daten unnö­tig KI-Tools aus­ge­setzt, was Schwach­stel­len schafft, die Hacker aktiv ins Visier neh­men. Ohne stär­ke­re Schutz­maß­nah­men wird jedes ver­netz­te Sys­tem anfäl­lig für Manipulation.

Die sich vertiefende Kluft : Die Rolle der KI bei der Verschärfung globaler Ungleichheit

Die tech­no­lo­gi­sche Ent­wick­lung ver­spricht unglaub­li­chen Fort­schritt, aber sie schafft zwei sehr unter­schied­li­che Wel­ten. Wohl­ha­ben­de Natio­nen rasen mit KI-Fähig­kei­ten vor­an, wäh­rend ärme­re Natio­nen wei­ter zurück­fal­len. Die­se Kluft betrifft jeder­manns Frei­heit, an der Wirt­schaft von mor­gen teilzuhaben.

KIs ungleich­mä­ßi­ge glo­ba­le Auswirkungen

KI-Ungleich­hei­ten bedeu­ten, dass Chan­cen nicht gleich sind. Wenn ein Drit­tel der Men­schen kei­nen Inter­net­zu­gang hat, kön­nen sie nicht kon­kur­rie­ren. Die Infra­struk­tur­lü­cke geht über die Kon­nek­ti­vi­tät hinaus—Entwicklungsländer ste­hen vor unzu­ver­läs­si­ger Strom­ver­sor­gung, die ihre Fähig­keit unter­gräbt, KI-Tech­no­lo­gien ein­zu­set­zen, auch wenn erwar­tet wird, dass gene­ra­ti­ve KI bis 2030 einen 160%igen Anstieg der glo­ba­len Strom­nach­fra­ge antreibt. Ech­te Frei­heit erfor­dert Zugang—nicht nur für eini­ge, son­dern für alle.

Ein Aufruf zu dringenden internationalen Maßnahmen und Regulierung

Wie pla­nen Welt­füh­rer, die­se mäch­ti­ge Tech­no­lo­gie zu zäh­men, bevor sie außer Kon­trol­le gerät ? Die UN macht mit fri­schen Ideen einen Schritt nach vorn. Im August 2025 einig­ten sich Natio­nen dar­auf, zwei neue Grup­pen zu schaf­fen, die sich auf KI-Ethik kon­zen­trie­ren. Eine bringt Exper­ten zusam­men, um Erkennt­nis­se zu tei­len. Die ande­re ermög­licht es Län­dern, offen über Lösun­gen zu sprechen.

Die­se Bemü­hun­gen stel­len ech­te glo­ba­le Zusam­men­ar­beit in Akti­on dar. Vier­zig Spe­zia­lis­ten wer­den Risi­ken unter­su­chen und jähr­li­che Berich­te ver­fas­sen. Ihre Arbeit hilft Füh­rungs­kräf­ten, klu­ge Ent­schei­dun­gen basie­rend auf Fak­ten zu tref­fen, nicht auf Furcht. Nur 7 ent­wi­ckel­te Natio­nen neh­men der­zeit an allen inter­na­tio­na­len KI-Initia­ti­ven teil.

Die UN möch­te auch einen Nor­men-Aus­tausch, wo sich Tech­no­lo­gie­un­ter­neh­men, gewöhn­li­che Bür­ger und Wis­sen­schaft­ler tref­fen kön­nen. Gemein­sam wer­den sie Regeln ent­wi­ckeln, die Pri­vat­sphä­re und Mei­nungs­frei­heit schüt­zen. Die­se Team­ar­beit gibt jedem eine Stim­me bei der Gestal­tung von KIs Zukunft—und hält Macht im Gleich­ge­wicht und Frei­hei­ten intakt.

Quellenangabe

• https://www.geo.tv/latest/635241-un-rights-chief-warns-ai-could-become-modern-day-frankensteins-monster
• https://madhyamamonline.com/technology/generative-ai-could-turn-into-modern-day-frankensteins-monster-un-1470636
• https://www.ndtv.com/world-news/generative-ai-can-become-modern-day-frankensteins-monster-warns-un-rights-chief-9691218
• https://www.kurdistan24.net/en/story/877254/un-rights-chief-warns-generative-ai-could-become-a-modern-day-frankensteins-monster
• https://www.gmanetwork.com/news/scitech/technology/967274/un-rights-chief-warns-over-generative-ai/story/
• https://www.ndtv.com/world-news/generative-ai-can-become-modern-day-frankensteins-monster-warns-un-rights-chief-9691218/amp/1
• https://www.weforum.org/stories/2025/01/davos-2025-special-address-by-antonio-guterres-secretary-general-united-nations/
• https://www.kurdistan24.net/en/story/877254
• https://www.kurdistan24.net/index.php/en/story/877254
• https://aiforgood.itu.int