Vielleicht ist KI moderne Alchemie

Vielleicht ist KI moderne Alchemie. Und das ist keine schlechte Sache

Seien wir bescheiden bei dem, was wir ignorieren – aber auch bei dem, was wir wissen könnten.

Alberto Romero

Einer der Kritikpunkte, der KI am meisten schaden könnte, ist, dass sie als unwissenschaftlich bezeichnet wird.

Das ist heikel, denn obwohl damit nicht unbedingt der Wert von ChatGPT oder Midjourney geleugnet wird, werden sie auf eine abwertende Art und Weise bezeichnet, als ob sie implizit am unteren Ende der Hierarchie der Dinge stehen, die für die Menschheit wichtig sind. Praktisch, ja, aber was sagen sie uns über die Welt oder uns selbst? Gar nichts.

Ich habe schon früher argumentiert, dass KI besser als aufstrebende Wissenschaft dargestellt wird, was nicht dasselbe ist wie unwissenschaftlich; es betont das Ziel und nicht den aktuellen Stand. Es ist auch nicht annähernd so schlimm. KI als eine harte Wissenschaft wie Physik oder Biologie zu bezeichnen, mag weit hergeholt sein – nicht einmal KI-Forscher würden so weit gehen – doch jede Disziplin, die wir heute fast religiös verehren, begann als Protowissenschaft mit Ambitionen auf dem Niveau der zweifelhaften Methoden, die uns damals zur Verfügung standen.

“Aufstrebende Wissenschaft” ist ein Kompliment. Zu sagen, dass KI nicht wirklich eine Wissenschaft ist, ist ein Angriff auf ihre Glaubwürdigkeit: Es impliziert, dass sie es nicht sein will. Wenn das der Fall wäre, wäre KI nichts anderes als Alchemie. Das wäre ein großes Problem.

Ist KI die Alchemie unserer Zeit?

Alchemie ist ein aufgeladenes Wort, ein Erbe, das diejenigen hinterlassen haben, die sich – nicht sehr ehrlich – bemühten, sie endgültig von der Chemie zu trennen. Wir gehen intuitiv davon aus, dass ein Vergleich mit der Alchemie gleichbedeutend damit ist, sie als unseriös abzustempeln – eine Disziplin, die zusammen mit der Astrologie, dem Humorismus und den Äthertheorien in die Schublade der Pseudowissenschaften gesteckt wird. Ich glaube aber nicht, dass der Vergleich zwischen KI und Alchemie so oberflächlich und verletzend ist. Wenn ich großzügig bin, kann ich ihn als Versuch verstehen, die zweifelhaften Methoden der Forscherinnen und Forscher anzuprangern, anstatt die realen Möglichkeiten, eine Wissenschaft zu werden, abzulehnen.

In diesem Sinne kann ich die Analogie akzeptieren: Es ist unbestreitbar, dass modernes Deep Learning ohne eine solide theoretische Grundlage entwickelt wurde, dass Meilensteine durch Versuch und Irrtum erreicht werden, dass die bevorzugte Methode, um voranzukommen, darin besteht, Daten und Berechnungen in die Algorithmen zu werfen, und dass sich die Arbeitsheuristiken jeden Monat ändern. Der Mangel an Strenge, das fast vollständige Fehlen von Peer-Reviews und das allzu häufige ungezielte Experimentieren, um zu sehen, was hängen bleibt (oft ohne die Absicht, eine vordefinierte Hypothese zu falsifizieren), unterscheiden sich deutlich von der Arbeitsweise der experimentellen Physik. Sie ähnelt objektiv der alten Alchemie.

Andererseits – und diese Hand wiegt sehr viel – funktioniert KI. Sie hat sich als äußerst nützlich erwiesen, auch wenn wir noch kein gutes Gespür dafür haben, wo dieser Nutzen am besten eingesetzt werden kann. Die nicht vorhandene Theorie hinter den Experimenten ist kein Zeichen dafür, dass die Errungenschaften der KI Schwindel sind (obwohl wir bei unseren Interpretationen immer vorsichtig sein sollten), sondern ganz im Gegenteil: Es ist beeindruckend und vielleicht überraschend, dass wir so weit gekommen sind, ohne zu wissen, warum oder wie.

In diesem Sinne ist KI nicht wie die Alchemie, die sowohl proto-wissenschaftlich als auch als praktische Disziplin ziemlich nutzlos war und es bis heute geblieben ist.

Alchemie oder Ingenieurwissenschaft?

Thomas Krendl Gilbert, ein Maschinenethiker, ist der Meinung, dass wir die Analogie nicht so schnell verwerfen sollten; die Parallelen zwischen KI und Alchemie enden nicht bei ihren zweifelhaften Methoden. In einem Interview mit Sharon Goldman von VentureBeat sagte er, dass die Menschen, die derzeit KI entwickeln, “denken, dass das, was sie tun, magisch ist” und dass es bei der Intelligenz darum geht, willkürlich gebaute neuronale Netzwerkmodelle in größeren Computern zu trainieren, die schließlich einer Superintelligenz jenseits der unseren weichen werden.

Gilbert kritisiert, dass sich die KI-Entwickler nicht um die Mechanismen kümmern, die den von ihnen geschaffenen Systemen zugrunde liegen, und lehnt ihren Ansatz als eine mystische Erforschung ohne Verständnis ab, die keine wirklich wertvollen Erkenntnisse bringen kann.

Doch nicht jeder stimmt dieser Interpretation zu. Yann LeCun von Meta widersprach kürzlich der Vorstellung, dass KI etwas mit Alchemie zu tun hat (offenbar nicht als Reaktion auf Goldmans Artikel):

“Es ist schon komisch, wie manche Leute, die glauben, dass Theorien magische Eigenschaften haben, gutgläubige Ingenieure und empirische Wissenschaftler als Alchemie abtun. Blindes Vertrauen in theoretische Ergebnisse, die sich als irrelevant herausstellten, ist ein Hauptgrund, warum neuronale Netze zwischen 1995 und 2010 verworfen wurden.”

Auch wenn es den Anschein hat, dass LeCun in dieser Diskussion auf der Gegenseite von Gilbert steht, liegt er eigentlich genau in der Mitte. Sein Standpunkt lässt sich wie folgt zusammenfassen: “Wir sollten weder die Theorie noch die ‘technische und empirische Wissenschaft’ verwerfen. Beide können nützlich sein, beide können aufschlussreich sein. Ich stimme ihm zu.

LeCun hat auf einen Vortrag verlinkt, den er vor vier Jahren unter dem Titel “The Epistemology of Deep Learning” gehalten hat. Darin argumentiert er sehr eloquent, dass moderne KI, einschließlich Deep Learning, eher einer Ingenieurwissenschaft (im Gegensatz zu einer Naturwissenschaft wie Physik oder Chemie) als der Alchemie ähnelt. Er bezog sich dabei direkt auf einen Vortrag von Ali Rahimi von Google auf der NIPS 2017 mit dem Titel “Machine learning has become alchemy” (Maschinelles Lernen ist zur Alchemie geworden) und sagte einleitend zu seinem Vortrag, dass Rahimi die beiden verwechselt.

Ingenieurwissenschaft, so erklärte er, ist nichts anderes als die Wissenschaft vom Erfinden neuer Artefakte mit Methoden, die “Intuition” oder “Bastelei” und sogar “Zufall” beinhalten, also so ziemlich alles, was dich weiterbringt. Er sagte, dass es sich, wie bei der KI, eher um einen “kreativen Akt” als um einen standardisierten analytischen Prozess handelt. Und das ist weder schlecht noch vergleichbar mit der Alchemie, die nie direkt etwas Wertvolles hervorgebracht hat.

Er wies darauf hin, dass die Theorie, deren Fehlen in der modernen KI im Mittelpunkt der Angriffe zu stehen scheint, in der Regel erst nach der Erfindung des Artefakts entsteht, auf der Suche nach Verständnis, angetrieben von Neugier. Wir finden zuerst das “Was” und suchen dann nach dem “Wie” und “Warum”. In anderen Fällen wird das Experimentieren und Tüfteln mit unserem Verständnis für die Kräfte und die Dynamik, die die Artefakte zum Funktionieren bringen, verknüpft, so dass ein Zwei-Wege-Kanal für Erkenntnisse und wertvolle Weisheit entsteht, der beide Quellen benötigt, um zu funktionieren.

LeCun hat hier einen sehr guten Punkt: Es ist etwas anderes, Dinge auszuprobieren und nichts zu erreichen (die Alchemisten haben es nie geschafft, Blei in Gold zu verwandeln, und den Stein der Weisen nie erfunden oder entdeckt), als verschiedene Dinge auszuprobieren und eine Reihe von Ergebnissen zu erhalten, die so überraschend sind, dass die Welt das Gefühl hat, vor einer Revolution zu stehen. Wir könnten tagelang über den wissenschaftlichen Wert der Ergebnisse und Erkenntnisse diskutieren, die wir durch die Entwicklung von KI-Modellen gewonnen haben, aber der technische Wert ist einfach unbestreitbar: Von der maschinellen Übersetzung über die Objekterkennung, die Transkription von Sprache, spielerische KI wie AlphaZero und akademisch nützliche Systeme wie AlphaFold bis hin zu modernen generativen Algorithmen, die sich zu ChatGPT und GPT-4 entwickelt haben.

Was Silizium-basierte Werkzeuge heute können, ist nicht mit den Versuchen der Alchemisten zu vergleichen, Metalle zu verwandeln. Sie kamen nicht weiter; die KI kommt überall hin.
Vielleicht war die Alchemie doch nicht so schlecht

Nachdem LeCun seine Kommentare getwittert hatte, veröffentlichte Goldman einen zweiten Artikel mit Gilberts Antwort, in dem er LeCun zustimmte, aber feststellte, dass er einen entscheidenden Faktor in der Analyse übersieht: Er gehört einer älteren Generation an, die sich für die Wissenschaft interessiert, während die heutige Generation das nicht tut.

“Ein Großteil der intellektuellen Energie und der finanziellen Mittel kommt heute von Leuten, die … aufrichtig glauben, dass sie eine neue Ära des Bewusstseins einläuten, die durch ‘superintelligente’ Maschinen ermöglicht wird. Diese jüngere Generation – von denen viele in LLM-orientierten Unternehmen wie OpenAI oder Anthropic und einer wachsenden Zahl anderer Start-ups arbeiten – ist weit weniger von Theorien motiviert und legt keinen Wert darauf, ihre Arbeit öffentlich als wissenschaftlich zu verteidigen…

Einfach ausgedrückt: Die Befürworter der Wissenschaft haben nicht mehr die Kontrolle darüber, wie LLMs entwickelt, eingesetzt oder darüber gesprochen wird. Die Alchemisten haben jetzt das Sagen.”

Kurz gesagt, KI ist wie Alchemie, nicht nur, weil sie ähnlich gemacht wird, sondern weil erstens diejenigen, die sie betreiben, sich genauso wenig wie die Alchemisten um die zugrundeliegenden Prinzipien kümmern, die sie funktionieren lassen, und zweitens, weil sie ihre Hoffnungen darauf setzen, einen Stein der Weisen zu finden, der sie erlösen kann – und wird – indem er Silizium auf magische Weise in intelligente, lebende Wesen verwandelt.

Sie gehen nicht nur nicht wissenschaftlich vor, sie haben es auch nicht vor.

Selbst wenn Gilbert Recht hat und jüngere Generationen von KI-Forschern sich nicht wirklich für Wissenschaft interessieren oder gar versuchen, die Technik ad hoc auf eine Theorie zu gründen, ist das vielleicht kein so starkes Argument gegen KI – auch wenn die Alchemie eine pseudowissenschaftliche Qualität hat, sollten wir nicht vergessen, dass sie ein Vorläufer der Chemie war.

Entgegen der landläufigen Meinung waren Alchemie und Chemie nicht immer unabhängig voneinander. Sie nähern sich der Wissenschaft von Materialien und physikalischen Umwandlungen aus völlig unterschiedlichen Perspektiven, haben aber einen Teil ihrer Geschichte gemeinsam: Die frühe Chemie verzweigte sich von der Alchemie, um sich als Wissenschaft zu festigen. In diesem Sinne ist der Vergleich von KI mit Alchemie weder eine Beleidigung noch eine Ablehnung, sondern wohl eher das Gegenteil: KI ist in dieser Hinsicht der Vorläufer einer neuen Wissenschaft, die erst noch enthüllt und aufgebaut werden muss.

Die heutigen KI-Forscher/innen und KI-Wissenschaftler/innen sind möglicherweise die Väter und Mütter von etwas Neuem, das sich endlich einen Platz unter den allgemein anerkannten Disziplinen verdienen wird (wenn dich diese Vorhersage verbittert, weil du die Art und Weise, wie KI heute betrieben wird, wirklich verachtest, dann zoome mal ein bisschen heraus, um zu sehen, dass sie wahrscheinlich auch für größere Zeiträume gilt).

Selbst wenn sich die heutigen Generationen einen Dreck um die Wissenschaft im engeren Sinne scheren, ist das vielleicht nicht schlimm. Die Alchemisten interessierten sich nicht für die Wissenschaft, weil es sie damals noch gar nicht gab und die Chemie trotzdem aus ihr hervorging.

Es könnte sein, dass moderne KI-Forscherinnen und -Forscher bewusst und absichtlich jede wissenschaftliche Herangehensweise an KI ablehnen – das wäre ein echtes Problem – aber sie lassen sich einfach von ihren Heuristiken und Experimenten leiten. Sie halten niemanden davon ab, sich mit dem theoretischen Aspekt zu befassen (die schiere Größe und die Kosten der hochmodernen Systeme sind jedoch ein echtes Hindernis, weshalb die Regierungen Ressourcen bereitstellen sollten, um moderne KI zu einer gemeinsamen – nationalen oder internationalen – Anstrengung zu machen, so wie sie es auch in der Physik oder der Weltraumforschung tun).

Vor diesem Hintergrund sollten wir Ilya Sutskevers Kommentare über KI als Alchemie und seine Zustimmung zu dieser Analogie lesen. Er lehnt die Wissenschaft nicht ab, sondern hofft auf das Experimentieren:

“… [W]ir haben das Ding nicht gebaut, sondern wir bauen einen Prozess, der das Ding baut. Und das ist ein sehr wichtiger Unterschied. Wir haben die Raffinerie gebaut, die Alchemie, die die Daten nimmt und ihre Geheimnisse in das neuronale Netzwerk extrahiert, die Steine der Weisen, vielleicht den Alchemieprozess. Aber dann ist das Ergebnis so geheimnisvoll, dass man es jahrelang studieren kann.”

Alle Bestrebungen sind von vornherein unseres Interesses würdig

Aber hör mir zu, denn ich gehe noch weiter. Selbst wenn sich die Alchemie nie in Chemie verwandelt hat, indem sie tief in Strenge und objektive Maßstäbe eingetaucht wurde, war sie es trotzdem wert!

Denke an Isaac Newton, der – vielleicht mit Ausnahme von Albert Einstein – weithin als der größte Physiker und Wissenschaftler aller Zeiten gilt. Er war auch ein leidenschaftlicher und begeisterter Anhänger der Alchemie. Newton, der Erfinder der Infinitesimalrechnung und Entdecker der Gravitationsgesetze, beschäftigte sich auch mit der Alchemie, die heute als pseudowissenschaftlicher Schund abgetan wird.

Die Person, die historisch gesehen am meisten zur modernen Wissenschaft beigetragen hat, ist gleichzeitig wahrscheinlich der berühmteste Anbeter der bekanntesten antiwissenschaftlichen Disziplin.

Aber warum? Können wir uns überhaupt einen Reim auf diese inkohärente Interessenwahl machen?

Nun, die Antwort ist eigentlich ganz einfach. Wir brauchen GPT-Newton gar nicht zu fragen: Aus seiner vorwissenschaftlichen Sicht war es überhaupt nicht klar, dass die Physik und nicht die Alchemie der sichere Weg war. Er machte einfach weiter, mit den Mitteln, die ihm zur Verfügung standen, und verfolgte die Interessen, die er hatte. Angetrieben von seiner unendlichen Neugierde und seinem überragenden Intellekt probierte er eine Menge aus. Einige seiner Unternehmungen erwiesen sich als äußerst wichtig für unser Verständnis des Universums. Andere, die er anscheinend noch mehr schätzte, werden heute als Schandfleck auf seinem ansonsten tadellosen Lebenslauf gesehen.

Aber diese Klassifizierung, die uns unanfechtbar, ja fast trivial erscheint, ist nur im Nachhinein sinnvoll. Wir wissen heute, dass Physik und Mathematik nützlich und aufschlussreich sind und Alchemie nicht. Für Newton war beides erstrebenswert. Er spielte ein Spiel, das er nicht so gut verstand, wie wir es heute tun, und dank seiner fehlerhaften Züge können wir die Alchemie heute als unwissenschaftlich abtun.

Er war bescheiden genug – was man von Newton nicht behaupten kann -, um mit seiner Unwissenheit nicht etwas zu verwerfen, von dem er nicht wissen konnte, dass es sinnlos war.

Seine Lehre – nichts ist von vornherein unwürdig, verfolgt zu werden – bietet einen interessanten Kontrast zu der Sichtweise mancher Leute auf KI-Forscher. Sie werden oft als arrogant abgestempelt, weil sie Metaphern verwenden, die KI-Systeme als intelligent bezeichnen, oder weil sie in der Lage sind, zu denken oder zu verstehen, oder weil sie Überzeugungen vertreten, die heute verrückt erscheinen, wie die zukünftige Existenz einer Superintelligenz, die um ein Vielfaches intelligenter ist als die Menschheit. Und das ist eine vertretbare Kritik – wir sollten bescheiden sein mit dem, was wir nicht wissen.

Am bescheidensten sind sie jedoch, wenn es darum geht, Wege der – mehr oder weniger wissenschaftlichen – Erkundung und Untersuchung nicht auszuschließen, die schließlich zu grundlegenden Erkenntnissen für unsere Zukunft führen könnten.

Dieser Artikel ist ein Auszug und Übersetzung aus The Algorithmic Bridge, einem Bildungsnewsletter, der die Kluft zwischen KI, Algorithmen und Menschen überbrücken soll. Er wird dir helfen, die Auswirkungen von KI auf dein Leben zu verstehen und die Werkzeuge zu entwickeln, um die Zukunft besser zu meistern.