Andrej Karpathy sagt, KI-Agenten funktionieren immer noch nicht

Trotz der atemlosen Schlagzeilen über KI-Transformation von allem, vom Kundenservice bis zur wissenschaftlichen Forschung, lieferte Andrej Karpathy kürzlich eine ernüchternde Realitätsprüfung: KI-Agenten funktionieren grundsätzlich immer noch nicht. Der ehemalige Tesla-KI-Direktor und OpenAI-Forscher wies darauf hin, dass aktuelle Systeme spektakulär versagen, wenn sie mit Aufgaben konfrontiert werden, die echtes Denken, Anpassungsfähigkeit oder Integration verschiedener Datentypen erfordern, was eine massive Lücke zwischen den Versprechungen des Silicon Valley und den tatsächlichen Einsatzmöglichkeiten hinterlässt und unbequeme Fragen zum Timing aufwirft.

Die aktuelle Realität der KI-Agenten-Fähigkeiten

Das Versprechen von KI-Agenten, die nahtlos komplizierte Aufgaben bewältigen, ist mit der hartnäckigen Realität kollidiert, dass diese Systeme in der Praxis frustrierend unzuverlässig bleiben. Diese digitalen Assistenten, die uns eigentlich von alltäglicher Arbeit befreien sollten, stolpern stattdessen häufig, wenn sie mit etwas konfrontiert werden, das über ihre engen Trainingsszenarien hinausgeht. Ihre Fähigkeitsbegrenzungen werden bei anspruchsvollen Denkaufgaben offensichtlich, wo sie versagen, selbst wenn korrekte Lösungen leicht verfügbar sind, was Vertrauensprobleme schafft, die ihren praktischen Einsatz untergraben.

Die nicht-deterministische Natur dieser Systeme bedeutet, dass identische Eingaben völlig unterschiedliche Ausgaben produzieren können, was sie für geschäftskritische Anwendungen ungeeignet macht, wo Konsistenz wichtig ist. Gleichzeitig begrenzen ihre begrenzten Kontextfenster den Umfang der Aufgaben, die sie realistisch bewältigen können, und zwingen Benutzer öfter als erwartet zu manuellen Eingriffen zurück. Zusätzlich stehen diese Systeme vor erheblichen Sicherheitsschwachstellen, die Risiken für den Unternehmenseinsatz und den Umgang mit sensiblen Daten darstellen.

Warum multimodale Integration und kontinuierliches Lernen schwer fassbar bleiben

Jenseits dieser grundlegenden Zuverlässigkeitsprobleme liegt eine noch schwierigere Herausforderung, die die Schwierigkeiten für KI-Agenten verstärkt, eine die das effektive Zusammenarbeiten verschiedener Informationstypen betrifft. Datenfusion über Text, Bilder und Audio hinweg erfordert ausgeklügelte neuronale Architekturen, die oft unter dem Gewicht konkurrierender Modalitäten zusammenbrechen, wo ein Eingabetyp dominiert, während andere ignoriert werden. Cross-modales Lernen erfordert sorgfältig konstruierte Datensätze, deren Erstellung drei- bis fünfmal länger dauert als bei einfachen Modalitätsversionen, mit Annotationsherausforderungen, die sich exponentiell vervielfachen. Währenddessen entstehen ethische Überlegungen, da sich Verzerrungen aus mehreren Datenquellen zu diskriminierenderen Ausgaben verstärken. Das Versprechen nahtloser multimodaler Intelligenz bleibt für die meisten praktischen Anwendungen frustrierend unerreichbar. Trotz Fortschritten bei Grundlagenmodellen wie GPT-4 und Gemini, die für formatübergreifendes Reasoning entwickelt wurden, schaffen die rechnerischen und finanziellen Ressourcen, die für das Training dieser komplexen Systeme erforderlich sind, erhebliche Barrieren für eine weit verbreitete Implementierung.

Technische Barrieren, die wahre Autonomie verhindern

Während multimodale Herausforderungen erhebliche Kopfschmerzen für Entwickler verursachen, verblassen sie im Vergleich zu den grundlegenden technischen Barrieren, die KI-Agenten daran hindern, echte Autonomie in realen Umgebungen zu erreichen. Die systemischen Risiken werden offensichtlich, wenn Organisationen versuchen, Agenten über mehrere Systeme hinweg einzusetzen, nur um festzustellen, dass aktuelle Architekturen unkontrollierte Autonomieszenarien schaffen, bei denen niemand weiß, was der Agent als nächstes tun könnte. Diese operative Komplexität manifestiert sich in reduzierter Beobachtbarkeit, was es nahezu unmöglich macht, Entscheidungen nachzuvollziehen oder Verhaltensweisen vorherzusagen. Organisationen stehen vor der unbequemen Realität, dass die Balance zwischen echter Autonomie und Sicherheitsanforderungen ungelöst bleibt, da Agenten entweder mit so eingeschränkten Berechtigungen operieren, dass sie zu verherrlichten Chatbots werden, oder ihnen genug Freiheit gewährt wird, um potenziell schwerwiegende Schäden an Geschäftsabläufen zu verursachen. Die technischen Herausforderungen werden noch ausgeprägter, wenn man bedenkt, dass fast 60% der befragten Führungskräfte die Integration von Altsystemen als großes Implementierungshindernis identifizieren.

Der Zehnjährige Zeitplan für Funktionale KI-Agenten

Wenn Branchenführer 2025 als „das Jahr der Agenten“ anpreisen, bietet Karpathy einen ernüchternden Gegenpunkt, dass funktionale KI-Agenten noch mindestens ein Jahrzehnt von einer bedeutsamen Einführung entfernt sind. Seine Zukunftsprognosen widersprechen stark den atemlosen Branchenerwartungen, die Tech-Konferenzen und Venture-Capital-Präsentationen überfluten.

Der jahrzehntelange Zeitrahmen spiegelt fundamentale Herausforderungen wider, die nachhaltige Forschung statt glanzvoller Produkteinführungen erfordern:

• Technische Reifung erfordert die gleichzeitige Lösung miteinander verbundener Probleme von Intelligenz, Zuverlässigkeit und Robustheit
• Jede Verbesserung der Zuverlässigkeit—das „Marschieren der Neunen“—erfordert exponentiell mehr Aufwand und Zeit
• Fortschritt folgt stetigen, schrittweisen Kurven statt der exponentiellen Sprünge, die Risikokapitalgeber bevorzugen
• Reale Anwendung benötigt neue Architekturen, Trainingsmethoden und Sicherheitsprotokolle jenseits aktueller Fähigkeiten
• Autonomie auf menschlichem Niveau erfordert persistentes Gedächtnis, fortgeschrittenes Denken und nahtlose multimodale Integration

Diese besonnene Perspektive betont Mensch-KI-Zusammenarbeit über vollständige Automatisierung und drängt Entwickler dazu, Systeme zu bauen, die menschliche Fähigkeiten erweitern statt ersetzen. Karpathys Zeitrahmen legt Geduld über Hype nahe.

Auswirkungen für Arbeitnehmer und wirtschaftlichen Wandel

Obwohl Karpathys jahrzehntelanger Zeitplan für Arbeitnehmer, die eine unmittelbare Verdrängung befürchten, beruhigend erscheinen mag, hat der wirtschaftliche Wandel bereits auf eine Weise begonnen, die dem Trost widerspricht, den seine Vorhersagen bieten könnten. Junge Arbeitnehmer, ironischerweise die anpassungsfähigste Bevölkerungsgruppe, haben 129% höhere Ängste vor beruflicher Obsoleszenz im Vergleich zu Senioren, während 14% der Arbeitnehmer bereits über KI-Verdrängung berichten.

Das Narrativ der Arbeitsplatzresilienz, obwohl ansprechend für diejenigen, die wirtschaftliche Freiheit schätzen, kollidiert mit aktuellen Arbeitsplatzverdrängungsmustern, die fast 80% der Arbeitnehmer in gewisser Weise betreffen. Forschung enthüllt konzentrierte Rückgänge bei Einstiegspositionen, die besonders Arbeitnehmer im Alter von 22-25 Jahren in Sektoren mit hoher KI-Exposition betreffen, was darauf hindeutet, dass die Transformation gezielter als umfassend sein könnte.

Quellenangabe

• https://fortune.com/2025/10/20/workers-fear-ai-job-cuts-open-ai-co-founder-says-ai-agents-will-take-a-decade-before-they-even-work-they-dont-have-enough-intelligence-unemployment-automation-2035/
• https://simonwillison.net/2025/Oct/18/agi-is-still-a-decade-away/
• https://www.dwarkesh.com/p/andrej-karpathy
• https://news.ycombinator.com/item?id=45619329
• https://www.therundown.ai/p/karpathy-s-ai-agent-reality-check
• https://www.apideck.com/blog/ai-agents-explained-everything-you-need-to-know-in-2025
• https://www.ibm.com/think/insights/ai-agents-2025-expectations-vs-reality
• https://www.mckinsey.com/capabilities/quantumblack/our-insights/seizing-the-agentic-ai-advantage
• https://www.replicant.com/blog/what-ai-agents-still-cant-do-and-why-thats-a-good-thing
• https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/