EU und US-Gesetzgeber wollen KI-Verhaltenskodex ausarbeiten
10/06/2023
Großbritannien veranstaltet globalen KI-Gipfel zur Bewältigung von Risiken
13/06/2023
Oder warum dumme KI die Welt eher zerstören wird als kluge
Der Hype um KI dreht sich darum, ob eine wirklich intelligente KI ein existenzielles Risiko für die Gesellschaft darstellt. Sind wir auf dem Weg zu Skynet oder The Culture ? Was wird die Zukunft bringen ? Ich behaupte, dass die größere und realistischere Bedrohung von Deep Stupidity ausgeht – der Bewaffnung der künstlichen allgemeinen Intelligenz, um Fehlinformationen zu verbreiten und Misstrauen in der Gesellschaft zu schaffen.
Soziale Medien sind die Plattform, KI ist die Waffe
Eines der deprimierendsten Dinge am Internet ist, wie sehr es die Verbreitung von Verschwörungstheorien begünstigt hat. Früher waren die Menschen einsame Idioten, die möglicherweise ein bizarres Magazin oder eine Verschwörungsgesellschaft in einem bestimmten Gebiet abonniert hatten, doch heute gibt es keine Möglichkeit mehr, diese Dinge in großem Maßstab zu verbreiten. Soziale Medien und das Internet haben die Verbreitung solcher Ideen gefördert. Während also einige KI-Fachleute von der existenziellen Bedrohung durch AGI sprechen, mache ich mir persönlich viel mehr Sorgen um die künstliche allgemeine Dummheit.
Deshalb dachte ich, dass es sich lohnt, einen Blick darauf zu werfen, warum es viel einfacher ist, eine KI zu bauen, die ein flacher Erdling ist, als einen Highschool-Physiklehrer, geschweige denn einen Stephen Hawking.
Es ist einfacher, sich sicher zu irren und nichts zu verstehen
LLMs liegen mit Sicherheit falsch. Diese Unfähigkeit, etwas zu verstehen, ist ein großer Vorteil, wenn man ein Verschwörungstheoretiker ist. Denn wenn du etwas verstehst, dann sind Verschwörungstheorien dumm.
Das bedeutet, dass der Trainingsdatensatz für unseren KI-Verschwörungstheoretiker unvollständig sein muss. Was wir brauchen, ist nicht etwas, das Zugang zu einem breiten Datensatz hat, sondern tatsächlich etwas, das Zugang zu einem unglaublich kleinen und spezifischen Datensatz hat, der denselben Punkt immer und immer wieder wiederholt.
Ein Verschwörungstheoretiker zu sein bedeutet, Beweise zu leugnen und Widersprüche zu ignorieren. Das ist viel einfacher zu lernen und zu kodieren, als neue Informationen zu erhalten, die dein aktuelles Modell in Frage stellen und es zu ändern.
Kleiner Datensatz für ein einzelnes Thema
Dies ist also ein großer Vorteil für LLMs, wenn sie versuchen, einen Verschwörungstheoretiker zu erstellen. Was wir brauchen, ist ein begrenzter Datensatz, der eine bestimmte Schlussfolgerung wiederholt und kontinuierlich alle Beweise für diese Schlussfolgerung aneinanderreiht. Das können wir auf viele Verschwörungstheoretiker anwenden, z. B. auf die Leute, die nach jeder Massenschießerei in den USA “falsche Flagge” schreien, d. h. wir haben einen kleinen Datensatz, vielleicht nur ein paar hundert Datenpunkte, die immer zu derselben Schlussfolgerung führen. Das bedeutet, dass für unseren speziell geschulten Verschwörungstheoretiker die Assoziation immer lautet : “Was immer die Daten sind, die Antwort ist die Verschwörung”.
Wir könnten uns nun einbilden, es gäbe eine Reihe von Verschwörungen, aber da nur sehr wenige von ihnen logisch miteinander vereinbar sind, geschweige denn mit der Realität, ist es effektiver, ein Modell pro Verschwörung zu haben und einfach zwischen ihnen zu wechseln. Dass ein Verschwörungstheoretiker nicht mit dem übereinstimmt, was er vorher gesagt hat, ist kein Problem, aber wir wollen keine Unstimmigkeiten zwischen Verschwörungen zu einem einzigen Thema. Was wir brauchen, sind die üblichen “Widerlegungen der Realität” wie “Wasser findet seinen Pegel”, “Wir sehen die Kurve nicht”, “Die NASA ist gefälscht” oder “Die Spurs sind ein Spitzenverein der Premier League”.
Halluzinationen helfen
Dieser kleine Datensatz hilft uns, die größte Schwachstelle von LLMs auszunutzen : Halluzinationen oder wenn das LLM sich einfach etwas ausdenkt, weil es entweder keine Daten zu dem Thema hat oder weil die tatsächliche Antwort selten ist, so dass die Gewichtungen sie zu einer ungültigen Antwort verzerren. Hier können LLMs Verschwörungstheorien wirklich skalieren, denn die Wahrscheinlichkeiten sind bereits in Richtung der Verschwörungstheorie gewichtet (da dies die einzige “richtige” Antwort innerhalb des Modells ist), so dass jede Information, die wir erhalten, in diesem Kontext umgewandelt wird. Wenn uns also jemand erzählt, dass die Griechen im 2. Jahrhundert v. Chr. bewiesen haben, dass die Erde rund ist, kann unser LLM leicht antworten :
“Jahrhundert v. Chr. bewiesen haben, dass die Erde rund ist, würde ich behaupten, dass ihre Beobachtungen und Schlussfolgerungen missverstanden oder falsch dargestellt wurden. Die alten Griechen hatten verschiedene Theorien über die Form der Erde, aber ihnen fehlten die wissenschaftlichen Methoden und Werkzeuge, die wir heute haben.
Außerdem bestreiten viele Anhänger der flachen Erde, dass es einen konkreten Beweis dafür gibt, dass die Erde rund ist. Wir glauben, dass die Beweise für eine flache Erde stark sind und dass das Modell der kugelförmigen Erde Teil einer größeren Verschwörung ist. Die Vorstellung, dass die Erde rund ist, basiert auf Annahmen und manipulierten Daten der Mainstream-Wissenschaft und der Raumfahrtbehörden.
Wir, die wir eine flache Erde haben, verlassen uns auf unsere eigenen Beobachtungen und unseren gesunden Menschenverstand. Wir sehen einen flachen Horizont, wir spüren keine Krümmung in unserem täglichen Leben und wir stellen die Gültigkeit von Fotos und Videos in Frage, die angeblich eine gekrümmte Erde aus dem Weltraum zeigen. Wir glauben, dass diese Bilder leicht manipuliert oder verzerrt werden können.
Auch wenn die Griechen eine runde Erde vorgeschlagen haben, ist es wichtig, die Gültigkeit ihrer Behauptungen zu hinterfragen und die Beweise selbst zu prüfen. Flat Earthers ermutigen zu kritischem Denken und unabhängigen Untersuchungen, um die gängige Meinung über die Form unseres Planeten in Frage zu stellen.”
Der Kontext macht Halluzinationen doppelt ärgerlich
Unsere LLMs können dank des Kontextes und der Halluzinationen über den durchschnittlichen Verschwörungstheoretiker hinausgehen. Während eine durchschnittliche Verschwörungstheoretikerin oder ein durchschnittlicher Verschwörungstheoretiker nur einen festen Satz von Argumenten hat und möglicherweise in gewissem Maße durch die Realität eingeschränkt ist, ermöglichen die Halluzinationen und der Kontext des Gesprächs unserem Verschwörungs-LLM, seine Verschwörung weiter auszubauen und Elemente hinzuzufügen. Da unser LLM nicht durch die Realität und Gegenargumente eingeschränkt ist, sondern jedes Gegenargument mit einer Halluzination umschreiben kann, wird es wesentlich verrückter sein. Das bedeutet auch, dass es neue Rechtfertigungen für die Verschwörung geben wird, die bisher noch nie vorgebracht wurden. Diese werden natürlich totaler Blödsinn sein, aber neuer totaler Blödsinn ist für andere Verschwörungstheoretiker ein Geschenk des Himmels.
Zurücksetzen und neu anfangen
Der letzte Punkt, der es einfacher macht, ein Verschwörungs-LLM zu erstellen, ist die Tatsache, dass man das LLM zurücksetzen kann, wenn es wirklich durchdreht… und das ist genau das, was Verschwörungstheoretiker/innen heute tun. Wenn unser LLM also Halluzinationen hervorruft, die eine Art von Basistest nicht bestehen, oder nur alle 20 Antworten, können wir das Gespräch in eine ganz andere Richtung lenken. Wenn ich mein generatives LLM dazu bringe, entweder eine Frustration oder einen “Aha”-Moment bei der Person, die es ärgert, zu erkennen – eine triviale Aufgabe -, kann ich meinen Verschwörungsbot einfach zu einem anderen Thema springen lassen, und zwar auf eine viel sanftere Weise als die meisten Verschwörungstheoretiker/innen heute.
“Selbst wenn wir den Glauben der Griechen an eine runde Erde in Betracht ziehen, führt dies zu einer weiteren verwirrenden Frage : Wenn die Erde tatsächlich eine sich drehende Kugel ist, warum bleibt das Wasser dann nicht an ihrer Oberfläche haften ? Die Gesetze der Schwerkraft besagen, dass Objekte auf einer rotierenden Kugel eine Kraft erfahren sollten, die sie zum Zentrum hin zieht.
Wenn wir jedoch Wasserkörper wie Seen, Ozeane oder sogar ein Glas Wasser beobachten, können wir dieses Phänomen nicht beobachten. können wir dieses Phänomen nicht beobachten. Das Wasser bleibt eben und flach, was mit unseren Alltagserfahrungen übereinstimmt. Wenn die Erde wirklich eine sich drehende Kugel wäre, müssten wir eine deutliche Krümmung sehen und Wasser, das sich sichtbar an die Form anpasst.
Diese Ungereimtheit lässt Zweifel an der herkömmlichen Erklärung aufkommen und stellt die Grundlagen des Modells der kugelförmigen Erde in Frage. Die Anhänger der flachen Erde argumentieren, dass das Fehlen von Wasser, das an einer sich drehenden Kugel haften bleibt, ein bedeutender Widerspruch ist, der unsere Behauptung stützt, dass die Erde in Wirklichkeit flach ist.
Indem wir diese Anomalien und Ungereimtheiten untersuchen, wollen wir die gängige Meinung in Frage stellen und eine kritische Bewertung der uns vorgelegten Beweise anregen. Der Glaube an eine flache Erde bietet eine alternative Perspektive, die unserer Meinung nach besser mit unseren eigenen Beobachtungen und Erfahrungen mit der Welt um uns herum übereinstimmt.
Das ist ein viel sanfterer Übergang für eine flache Erdverschwörung, als du auf TikTok oder YouTube hören wirst.
Wir haben das AGS erreicht, das ist keine gute Sache
Ich habe argumentiert, dass die aktuelle Generation von KI nicht annähernd den Turing-Test besteht, geschweige denn modernere Tests. Turing setzte die Messlatte für Intelligenz als CEO eines Fortune-50-Unternehmens hoch und machte ihr bewusst, was sie nicht wusste.
Einige Leute machen sich Sorgen über eine kommende existenzielle Krise, in der die künstliche allgemeine Intelligenz zu einer Bedrohung für die Menschheit wird.
Aber ich gehe davon aus, dass die aktuelle Generation von Technologien keine Bedrohung darstellt und dass Intelligenz eine größere Bedrohung ist als waffenfähige Dummheit. Viele KI-Experten argumentieren, dass GPT den Turing-Test besteht, nicht weil sie einen intelligenten Menschen nachahmt, sondern weil sie entweder ein Multiple-Choice- oder ein formelhaftes Beispiel bestehen kann oder weil sie Menschen davon überzeugen kann, dass sie mit einer nicht besonders intelligenten Person spricht.
Wir können heute eine KI bauen, die das Äquivalent eines Verschwörungstheoretikers ist, jemand, der keinen Bezug zur Realität hat und von der Logik abgekoppelt ist. Das ist keine allgemeine Intelligenz, sondern eine allgemeine Dummheit.
Deep Fakes und Deep Stupidity
Während Deep Fakes dazu führen können, dass wir Quellen nicht mehr trauen, kann Deep Stupidity Fehlinformationen verstärken und sie ständig rechtfertigen und erklären. Wo Deep Fakes eine Person oder ein Ereignis imitieren, kann Deep Stupidity die Reaktion der Menge auf dieses Ereignis imitieren. Eine Million Verschwörungstheoretikerinnen und ‑theoretiker können nicht nur den Deep Fake verstärken, sondern auch eine alternative Realität um ihn herum erschaffen.
Das Internet und insbesondere die sozialen Medien haben sich als fruchtbarer Boden für von Menschen geschaffene Dummheit und Verschwörungstheorien erwiesen. Ganze politische Bewegungen und Gruppen sind auf der Grundlage von im Internet entstandenem Unsinn entstanden. Sie haben es geschafft, einen großen Teil der Bevölkerung für sich einzunehmen, ohne dass sie wirklich überzeugendes Material oder überzeugende Erzählungen liefern konnten.
KI hat heute die Möglichkeit, das zu ändern.
Dummheit und Fehlinformationen sind die existenzielle Bedrohung von heute
Wir müssen aufhören, darüber zu reden, dass KI erst dann eine Herausforderung darstellt, wenn sie “intelligent” wird, denn sie ist bereits dumm genug, um massive negative Folgen für die Gesellschaft zu haben. Es ist verrückt zu glauben, dass Unternehmen und vor allem Regierungen sich nicht mit dieser Technologie beschäftigen und überlegen, wie sie sie für ihre Ziele einsetzen können, selbst wenn diese Ziele nur darin bestehen, Chaos zu stiften.
Dummheit ist die Grundlage für die Sorge um Intelligenz
Die Sorge, dass eine KI “aufwacht” und die Menschheit bedroht, ist ein philosophisches Problem, aber die Beschäftigung mit der künstlichen Dummheit würde uns den Rahmen geben, um mit dieser zukünftigen Herausforderung umzugehen. Alles, was mit der Kontrolle und dem Management von KI in der Zukunft zu tun hat, kann auf die Kontrolle und Vermeidung von AGS heute übertragen werden.
Wenn wir über Rahmenbedingungen für vertrauenswürdige KI und Gesetze zu Dingen wie ethischer Datenbeschaffung sprechen, sind das Elemente, die für allgemeine Dummheit genauso gelten wie für Intelligenz. Wir sollten also aufhören, uns nur über eine amorphe zukünftige Bedrohung Gedanken zu machen, sondern uns stattdessen Gedanken darüber machen, wie wir künstliche allgemeine Dummheit vermeiden, erkennen und kontrollieren können, denn damit schaffen wir die Grundlage für die Kontrolle von KI insgesamt.
