Mit Robotern sprechen

Was passieren wird, wenn Roboter all unsere Erinnerungen speichern

In Zukunft könnten wir unsere Erinnerungen aufzeichnen, optimieren und wiedergeben – sogar nach dem Tod

In einem Auszug aus seinem Buch Talking to Robots (Mit Robotern reden) stellt sich David Ewing Duncan eine Zukunft vor, in der Erinnerungen mithilfe einer Technologie namens Memory Bot dauerhaft gespeichert werden können. Grundlage dafür ist ein tatsächliches Gespräch, das er mit Ken Goldberg, Tiffany Shlain und Odessa Shlain Goldberg führte.

Ja, es gab wirklich eine Zeit, in der von den Menschen erwartet wurde, dass sie ihre Erinnerungen selbst aufbewahren. Eine Zeit, in der du mit deiner vierjährigen Tochter einen atemberaubenden Sonnenuntergang teilen konntest, ohne dass er automatisch als Neural-Mem aufgezeichnet wurde. Du hast dich deiner Kleinen so nah gefühlt und sie dir, nur damit dieser Moment für immer verschwindet. Vielleicht hast du ein Selfie gemacht, aber das hat das ganze Erlebnis nicht wirklich eingefangen.

Dann kam Memory Bot mit seiner revolutionären Quantum Meme Vector® Technologie. Der Memory Bot wurde in der Zukunft von einem Ehepaar und ihrer Tochter – dem Robotiker Ken Goldberg von der UC Berkeley, der Filmemacherin Tiffany Shlain und der zukünftigen Unternehmerin und Philosophin Odessa Shlain Goldberg – entwickelt und war jahrelang das beliebteste Geschenk während der Weihnachtszeit, sogar noch beliebter als Teddybots. Memory Bot erinnerte sich an alles, was du wolltest: Sonnenuntergänge mit deiner Tochter, die Bar-Mizwa deines Enkels, die Geburt deines Welpen, deine Beförderung auf der Arbeit (bevor du durch einen Roboter ersetzt wurdest), und so weiter und so fort.

Alles begann mit einer freien Unterhaltung im Wohnzimmer von Shlain Goldberg in Marin County, Kalifornien, im Jahr 2018. Damals saßen Ken, Tiffany und Odessa, die damals 14 Jahre alt war, an einem späten Nachmittag zusammen und unterhielten sich über Roboter, Technologie und Erinnerungen. Ken Goldberg war der erste in der Familie, der die Idee eines Erinnerungsroboters für ältere Menschen erwähnte, um sich an ihr Leben zu erinnern, aber das Konzept wurde bald zu einem Erinnerungsroboter für alle erweitert. “In gewisser Weise wird es etwas sein, das sich ganz darauf konzentriert, deine wichtigsten Erinnerungen zu sammeln, an die du dich erinnern willst und zu denen du Zugang haben willst, mit all den Erfahrungen und Verbindungen, die du im Laufe deines Lebens hattest.”

“Ich glaube, eine Version davon ist jetzt schon machbar”, fügte er als Berkeley-Professor für Robotik hinzu, der sich mit diesen Dingen auskennt. Man könnte die riesige Menge an Informationen, die online über jeden von uns vorhanden ist, auswerten. Du könntest deine E-Mails über dein ganzes Leben hinweg zurückverfolgen, ebenso wie deine Nachrichten, deine Bilder und so weiter. Die künstliche Intelligenz kann assoziative Erinnerungen speichern, d.h. sie stellt ständig Assoziationen her: Sie verknüpft Nachrichten, die du gelesen hast, Online-Suchen und alles, womit du in Verbindung stehst. ‘Hey, erinnerst du dich, als das passiert ist? Erinnerst du dich, als das passiert ist?'”

Nun, ja, nur könnten diese Daten von Werbetreibenden, Trollen, Politikern und Möchtegern-Diktatoren, die dir etwas verkaufen oder dich unangemessen beeinflussen wollen, weniger wohlwollend genutzt werden. Aber lass uns weitermachen.

“Vielleicht ist das eine der optionalen Einstellungen, die du bei Memory Bot hast. Es hört sich schrecklich an, aber vielleicht hast du sie auf real statt idealisiert eingestellt.”

Ken, in “Talking to Robots”

“Ich glaube … ein Problem, vor allem am Ende des Lebens”, fuhr er fort, “ist, wenn du dich gerne an Dinge erinnern würdest, aber du vergisst sie und vielleicht auch dein Partner, wenn du Glück hast und einen hast.”

“Moment mal”, sagte Tiffany. “Man hört oft, dass ältere Menschen in eine depressive Schleife geraten, weil sie sich nicht mehr an die richtigen Dinge erinnern. Ich glaube, was Ken meint, ist, dass du eine Art Erinnerungsbot hast, der dich an die schönsten Dinge und Momente deines Lebens erinnert.”

“Da ich von der Ostküste komme, gefällt mir die Idee mit den schlechten Nachrichten, denn auch das muss man wissen”, sagt Ken. “Es ist fast so, als würdest du dir selbst etwas vormachen, dass dein Leben besser war, als es war. Ich denke, es kann eine idealisierte Version geben, vielleicht ist das eine der optionalen Einstellungen, die du mit dem Memory Bot hast. Es hört sich schrecklich an, aber vielleicht stellst du ihn auf real oder idealisiert.”

“Ein Nebeneffekt dieser Idee”, sagte Tiffany, “wäre wirklich interessant – es gibt so viel, was ich gerne über meine Großeltern wissen würde. Ich habe Fetzen von Fotos und Erinnerungen von Verwandten. Wenn es einen Roboter gäbe, der deine E-Mails und Fotos rekonstruieren und dir einen 360-Grad-Blick verschaffen könnte, dann könnte ein Urenkel sagen: ‘Worüber hat sich Urgroßvater Zeide-Ken wirklich aufgeregt oder Sorgen gemacht?’ Sie könnten rekonstruieren, wer ihre Eltern oder ihre Großeltern waren, um sie besser zu verstehen.”

“Sie könnten ihre Textmuster nutzen, um echte Gespräche zu führen, die von dem Roboter, der so viel über die Person weiß, generiert werden”, sagt Odessa.

“Ich wünschte, ich könnte das mit meinem Vater machen”, sagte Tiffany und bezog sich dabei auf den Arzt und Autor Leonard Shlain, der 2009 verstorben ist. “Manchmal gehe ich in meinen Posteingang und surfe etwas heraus, und ich sehe eine seiner E-Mails. Er schreibt: ‘Hey, Babe’, und er sagt diese kleinen Dinge. Ich habe oft gedacht, wenn man die Sprachnachrichten, die er mir hinterlassen hat, oder die E-Mails und einige Heimvideos und Vorlesungen zusammensetzen könnte, könnte man wirklich – wenn man an die zukünftige Generation denkt, die E-Mail, Facebook und Twitter und was auch immer für zukünftige Plattformen unweigerlich auftauchen werden – ein Bild von ihm schaffen, das man anzapfen kann.”

“Vielleicht würde sich die Angst vor dem Tod in unserer Gesellschaft ändern”, sagte Odessa. “Es gibt keine Trauerzeit, weil man nie wirklich stirbt.”

“Ein Bekannter von mir zeigte auf Facebook immer wieder Erinnerungen an seine verstorbene Tochter”, sagte Tiffany. “Er meldete sich schließlich ab, weil er es nicht ertragen konnte, dass sie immer wieder auftauchte, obwohl er versuchte, sie aus seinem Konto zu löschen. Aber Facebook wollte sie nicht sterben lassen. Wer hat darauf Zugriff? Wir wissen, dass in der digitalen Welt fast alles, was irgendwo auftaucht, nie wieder verschwindet.”

Einen Moment lang schwieg die Familie, als sie dies verinnerlichte. Dann sprach Odessa einen weiteren wichtigen Punkt an: “Es wird Leute geben, die kein besonders gutes Leben hatten”, sagte Odessa. “Vielleicht wurden sie zu Flüchtlingen.”

“Oder sie wurden missbraucht”, sagte Tiffany, “oder waren drogenabhängig.”

“Ich sage nicht, dass sie all diese Erinnerungen in sich aufnehmen müssen”, sagte Ken. “Ich denke, dass man in einer solchen Situation viel Einfühlungsvermögen entwickeln muss. Memory Bot muss verstehen, was für dich gut ist, und auf keinen Fall etwas zur Sprache bringen, das dich traumatisiert.”

Daraufhin seufzte Odessa und sagte: “Vielleicht wird es Zeiten geben, in denen wir den Memory Bot einfach ausschalten wollen, um unseren Geist ruhen zu lassen und uns ohne [eine Maschine] an Dinge zu erinnern”, was die Mutter und den Vater der 14-Jährigen zum Lächeln brachte. Das lag daran, dass die Shlain Goldbergs bereits in den 2010er Jahren etwas praktizierten, das sie “Tech Shabbat” nannten, eine wöchentliche Pause von der Nutzung von Technologie, die sie vom jüdischen Sabbat übernommen hatten. Nicht, weil sie religiös waren, sondern um sich eine Auszeit von ihren Maschinen zu nehmen und sich mit ihrer Familie, ihren Freunden und sich selbst zu verbinden.

Als der erste Memory Bot – der MemBot z2000 – auf den Markt kam, war er eine große Sensation. Ältere Menschen liebten es, wie er sie in meist leuchtende – aber auch schwierige, aber wichtige – Erinnerungen an ihr Leben eintauchte. Auch Kinder waren begeistert, denn sie unterhielten sich mit ihren Urgroßeltern und Vorfahren, die schon lange tot waren, fast so, als ob sie noch am Leben wären. Bald darauf wurde das MemBot z2000 Plus um die Möglichkeit erweitert, aus den digitalen Spuren einer Person einen geliebten Menschen zu rekonstruieren, der gestorben ist, ohne einen eigenen Membot-Eintrag zu hinterlassen – einen Sohn oder eine Tochter, einen Elternteil oder den besten Freund.

Die ersten Mem-Bot-Unternehmen, darunter eines, das von Odessa Shlain Goldberg gegründet wurde, nachdem sie erwachsen und Philosophin und Unternehmerin geworden war, boten Holo-Dashboards an, auf denen die Mem-Bot-Kunden angeben konnten, was sie erinnern oder vergessen wollten. Oder sie konnten eine Erinnerung, die sie in das Quantum Meme Vector®-System des mem bot eingegeben hatten, halb oder zu einem Viertel vergessen. Die Menschen konnten auch die Weichzeichner- und Nostalgievektoren der Maschine auf- oder abschalten oder das Gleichgewicht zwischen positiven und negativen Erinnerungen einstellen, wann immer sie wollten.

Natürlich gab es auch diejenigen, die der Meinung waren, dass Erinnerungen niemals gelöscht oder bearbeitet werden sollten, auch nicht von Menschen, die Schrecken und Gräueltaten erlitten hatten. “Wir müssen uns daran erinnern, wenn Böses geschieht”, betonten diese Puristen, “damit es sich nicht wiederholt.”

Ganz zu schweigen von den Strafverfolgungsbehörden, die Zugang zu den ungekürzten Erinnerungen derjenigen verlangten, die Zeugen eines Verbrechens waren oder angeblich selbst ein Verbrechen begangen hatten. Der Missbrauch durch die Polizei veranlasste den Weltkongress schließlich dazu, das Gesetz zum Schutz privater Erinnerungen zu verabschieden.

Eine weitere unerwartete Folge war die Geißel der Mem-Sucht. Das geschah, als die Menschen so besessen und abgelenkt von all den Erinnerungen und den Gesprächen mit all den Toten waren, dass sie es vernachlässigten, neue Erinnerungen zu schaffen. Manche verloren sogar ihre Arbeit und irrten ziellos durch die Straßen, während sie Fragen an eine längst verstorbene Urgroßmutter oder einen entfernten Vorfahren murmelten.

Gerade als die Dinge in der Zukunft aus dem Ruder zu laufen schienen, schlug Odessa Shlain Goldberg (als Erwachsene) eine Lösung vor: Die ganze Welt sollte versuchen, jede Woche einen Schabbat-ähnlichen Tag einzulegen, an dem sie ihre Maschinen, einschließlich des Memory Bot, weglegt. Langsam aber sicher lernte die Menschheit durch die Einführung von Tech Shabbats und die generelle Reduzierung von Gadgets und Bots, das Gleichgewicht zwischen Erinnerungen und Realität zu halten. Leider gab es immer noch Menschen, die unter Gedächtnissucht litten, und es gab nie genug Betten in Gedächtnisentzugskliniken, um sie unterzubringen.

Meistens wurden Memory Bots jedoch zur Routine und Teil des sozialen Gefüges der Zukunft, als die Kontroversen abflauten, Gesetze und Vorschriften verfeinert wurden, um den Missbrauch einzudämmen und die sichere Nutzung zu maximieren, und die Menschen von den neuesten Gadgets fasziniert und abgelenkt wurden, die sie erst begeistern, dann erschrecken und schließlich zur Routine werden sollten.

Im alten Shlain-Goldberg-Haus in Marin County konnte man Ken, oder das Wesen und die Erinnerungen von Ken, immer noch in einer acht Zentimeter hohen, schwarzen, zylindrischen Röhre auf dem Küchentisch finden, die einer alten Alexa verblüffend ähnlich sah. (Leider hatten Ken und Tiffany die Einführung der Langlebigkeitstechnologie, die es ihrer Tochter ermöglichte, Tausende von Jahren zu leben, knapp verpasst). Allerdings hatte die Ken-Alexa einen schwenkbaren Kopf, der ständig alles aufzeichnete, und der Positiv-Negativ-Filter war immer noch genau dort eingestellt, wo Ken ihn gelassen hatte, nämlich in der Mitte der Skala. Selbst als Odessa Jahrhunderte alt war, aber immer noch genauso aussah wie mit 25, konnte sie mit ihrem Vater sprechen, ihm Fragen stellen und ihn lachen hören.

Aus: Talking to Robots (Mit Robotern sprechen)

Ein kurzer Leitfaden für unsere Mensch-Roboter-Zukunft.

Eines der “32 Bücher, die du diesen Sommer lesen musst” des Time Magazine – “eine fesselnde Lektüre”.

Eines der besten Sommerbücher des Jahres 2019, so die Top-Autoren David Baldacci und Elizabeth Acevedo in der Sendung USA Today.

Welche Roboter und KI-Systeme werden gerade gebaut und erdacht? Was sagen sie über uns, ihre Schöpfer, aus? Werden sie eine fantastische neue Zukunft einläuten oder uns zerstören? Was erwarten einige unserer größten Denker – vom Physiker Brian Greene und dem Futuristen Kevin Kelly bis hin zum Erfinder Dean Kamen, dem Genetiker George Church und der Filmemacherin Tiffany Shlain – für unsere Mensch-Roboter-Zukunft? Auch wenn Roboter und künstliche Intelligenz uns faszinieren und uns Angst vor der Zukunft machen, ging es bei unserer Faszination für Roboter schon immer um mehr als nur um das Potenzial der Technologie – es geht auch darum, was Roboter uns über das Menschsein sagen.

Von den heutigen Facebook- und Amazon-Robotern bis hin zu den “Intimitäts”-Robotern der nahen Zukunft und den Robotern, die mir meinen Job weggeschnappt haben, ist das Buch Talking to Robots des amerikanischen Bestsellerautors David Ewing Duncan ein wunderbar unterhaltsamer und aufschlussreicher Leitfaden für mögliche Zukunftsszenarien mit Robotern, sowohl in der Realität als auch in der Fantasie.

Zu den vorgestellten Robotern gehören Roboterfahrer, Arztroboter, Politikerroboter, Kriegerroboter, Sexroboter, synthetische Biobots, dystopische Roboter, die hoffentlich nur ein böser Traum sind, und schließlich Gottroboter (wie sie der Physiker Brian Greene beschreibt).

Diese Szenarien beruhen auf Gesprächen mit bekannten Denkern, Ingenieuren, Wissenschaftlern, Künstlern, Philosophen und anderen, die ihre Ideen, Hoffnungen und Ängste über Roboter mit uns teilen. David sprach unter anderem mit Kevin Kelly, David Baldacci, Brian Greene, Dean Kamen, Craig Venter, Stephanie Mehta, David Eagleman, George Poste, George Church, General R. H. Latiff, Robert Seigel, Emily Morse, David Sinclair, Ken Goldberg, Sunny Bates, Adam Gazzaley, Tim O’Reilly, Tiffany Shlain, Eric Topol und Juan Enriquez.

Diese Diskussionen, zusammen mit einigen Berichten über Bot-Technologien, Bot-Geschichte und gesellschaftliche und ethische Fragen im Zusammenhang mit Robotern in Echtzeit, bilden die Grundlage für die Entfaltung einer möglichen Bot-Zukunft, die davon geprägt ist, wie Menschen und Gesellschaften in der Vergangenheit mit neuen Technologien umgegangen sind.

Das Buch beschreibt, wie Roboter funktionieren, aber sein Hauptaugenmerk liegt darauf, was unsere Fixierung auf Bots und KI über uns als Menschen aussagt: über unsere Hoffnungen und Ängste, unsere Mythen, Geschichten, Überzeugungen und Ideen über reale und künstliche Wesen und unsere Versuche, Perfektion zu erreichen.

Wir befinden uns an einem entscheidenden Punkt, an dem unsere uralte Vernarrtheit in menschenähnliche Wesen mit bestimmten Eigenschaften oder Superkräften – in Mythologie, Religion und Erzählungen – mit unserer Fähigkeit zusammenfällt, einige dieser Wesen tatsächlich zu bauen.