Oh AGI, kannst du mich fühlen?

In einem kürzlichen Gespräch mit einigen namhaften Forschern auf dem Gebiet der künstlichen allgemeinen Intelligenz (AGI) diskutierten wir darüber, ob AGI im Hinblick auf den Klimawandel eine Hilfe oder eine Komplikation sein würde. Wir sind ein wenig in Unklaren darüber geraten, wie schnell das IPCC die Überschreitung der 1,5°C-Grenze meldet. Fürs Protokoll: es kann schon in 18 Jahren passieren – wenn die Eltern der heutigen Neugeborenen vielleicht damit rechnen, ihre Kleinen aufs College zu schicken.

Das Problem ist, dass es einfach zu viele klimabedingte Probleme gibt, als dass man sie aufzählen könnte. Es ist nicht nur die Tatsache, dass wir Temperaturen über 1,5 °C nicht vermeiden können. Das ist es auch Wir haben die Insektenpopulationen dezimiert . Dies ist ein weiterer Kanarienvogel in einer ganzen Herde von Kanarienvögeln, die in der Kohlenmine, die wir selbst gegraben haben, verendet sind. Wir könnten also wirklich etwas Hilfe gebrauchen. Die Position meiner Kollegen war, dass AGI diese Hilfe sein wird. Mein Standpunkt ist, dass ein allgemein intelligenter Agent autonom sein wird. Seine Autonomie wird einer der Schlüsseltests sein, anhand derer wir ihn als allgemein intelligent erkennen. Das ist schließlich der Test, den wir an uns selbst stellen. Aber ein autonomer Agent braucht Motivation, um uns zu helfen.

Wenn die Zusagen für Emissionssenkungen irgendeine Art von Stellvertretercharakter haben , fehlt uns offenbar die Motivation, uns selbst zu helfen. Was die AGI angeht, die so etwas wie Mitgefühl oder Empathie für die Menschheit hat oder sie einfach nur genug wertschätzt, um mitzuhelfen, möchte ich Sie daran erinnern, dass diese Qualitäten gewöhnlicher Menschen, wenn sie überhaupt existieren, in den Gefühlen verwurzelt sind und nicht in unserer Rechenkapazität oder unserer Intelligenz. Es gibt viele äußerst intelligente Menschen, die in der Vergangenheit kein bisschen Mitgefühl oder Empathie gezeigt haben und deren Einfluss auf die Gesellschaft und die Menschheitsgeschichte Stoff für Legenden und Albträume ist. Von Jack the Ripper bis Pol Pot gibt es zahlreiche und erschreckende Beispiele.

Menschliche Gefühle sind tief in der menschlichen Morphologie und Biologie verwurzelt

Sogar erhabene Texte wie Rumis Mathnawi verwandeln die Sprache der menschlichen Lust in eine Sprache der menschlichen Liebe. Viele halten es für eine Sprache der Liebe, aber in Wirklichkeit ist es eine Möglichkeit, auf die Liebe speziell für Menschen hinzuweisen. Es ist sehr unwahrscheinlich, dass es für Alpha-Zentauraner oder andere im Universum entwickelte Intelligenzen nützlich sein wird, außer als Werkzeug zum Verständnis des Menschen und seiner Beziehung zur Liebe. Wir können nicht erwarten, dass die reine Rechenkapazität, die auf einer völlig anderen Morphologie und praktisch keiner Biologie beruht, irgendeine Art von Verständnis oder Resonanz auf die menschliche Erfahrung hat.

Mitgefühl – etymologisch: gleiches Gefühl oder Mitgefühl – ist für Menschen oft schwierig, zueinander zu entwickeln, wie unsere Geschichte, selbst die jüngste und unmittelbare Geschichte, zeigt.

Hatten die MAGA-Republikaner, die das US-Kapitol stürmten, Mitleid mit den Offizieren, die sie verstümmelten oder töteten? Hatten der Beamte, der George Floyd tötete, oder die Beamten, die dem Geschehen zusahen, Mitleid mit dem Mann vor ihnen? Warum sollte eine Intelligenz, die in einer völlig anderen Morphologie verwurzelt ist und nichts mit unseren biologischen Imperativen zu tun hat, Mitgefühl für die Menschheit haben?

Menschliche Gefühle sind tief in der menschlichen Morphologie und Biologie verwurzelt. Sogar erhabene Texte wie Rumis Mathnawi verwandeln die Sprache der menschlichen Lust in eine Sprache der menschlichen Liebe.

Aus diesem Grund verwende ich die Metapher der Einführung einer neuen Spinnenart – intelligenter Spinnen mit der Fähigkeit zur Planung und Anpassung – als Stellvertreter für die wahrscheinlichen Ergebnisse von AGI. Und das ist eines der besseren Ergebnisse. Viel schlimmere Folgen beginnen mit einem fehlgeschlagenen militärischen Einsatz von AGI, oder wenn Menschen kein Mitgefühl zeigen oder geradezu böswillig sind und autonome intelligente Agenten mit gewalttätigen und böswilligen Motivationen oder Tendenzen versehen werden.

Moderne Menschen sind aus gutem Grund nicht in der Lage, das Verhalten selbst der einfachsten Feedbacksysteme zu verstehen. Sie sind enorm komplex, insbesondere die allzu häufigen, die topologische Transitivität aufweisen. (Für den Laien bedeutet dies Systeme, bei denen kleine Unterschiede in der Eingabe zu beliebig großen Unterschieden in der Ausgabe führen können.) Die reine Vorhersagekraft, ja sogar die universelle Rechenleistung ist dieser Funktion nicht gewachsen. Erleben Sie die „Halluzinationen“ von ChatGPT . Alles, von den Katastrophen der Einführung von Arten in ökologische Nischen, für die sie nicht geeignet sind, über die Kaskadenwirkung von Medikamenten bis hin zu unseren Auswirkungen auf das Klima, ist ein überwältigender Beweis für unsere Unfähigkeit, komplexe Systeme mit unserer Intelligenz zu erfassen. Wenn wir es richtig machen – und das ist kein Zufall – kommt es von einem anderen Ort als unserer Intelligenz.

Zum Beispiel sind die Beweise dafür, dass das, was wir Bewusstsein und Erfahrung als bewusstes Verhalten bei anderen nennen, nicht in der Intelligenz, sondern in den Gefühlen wurzelt, ziemlich überzeugend. Der bekannte Forscher Mark Solms, in , gibt eine Zusammenfassung der Beweise. Anenzephale Kinder, denen der Neokortex fehlt, werden immer noch als bei Bewusstsein beschrieben und erlebt. In der Zwischenzeit ist die Schädigung einer kleinen, 2 Kubikzentimeter großen Region im Gehirn zu 100 % darauf zurückzuführen, dass niemand zu Hause ist und das Individuum nicht bei Bewusstsein ist. Diese Region im Gehirn ist typischerweise mit der affektiven Verarbeitung verbunden.

Der Beweis dafür, dass das, was wir Bewusstsein und Erfahrung als bewusstes Verhalten bei anderen nennen, nicht in der Intelligenz, sondern in den Gefühlen wurzelt, ist ziemlich überzeugend.

Wir können nicht erwarten, dass AGI Gefühle für uns hat

Wir können nicht erwarten, eine erkennbar menschliche AGI (HLAGI) zu erreichen, ohne dass diese Wirkstoffe so etwas wie menschliche Gefühle zeigen, aber diese haben ihre Wurzeln in der menschlichen Morphologie und menschlichen Biologie. Eine radikal andere Verkörperung wird zu einer radikal anderen Intelligenz führen. Aber eine radikal andere Intelligenz ist ein topologisch transitives, also chaotisches dynamisches System. Genau wie eine Art, die für eine Nische schlecht geeignet ist, wird sie Auswirkungen auf unsere Umwelt haben, die wir in der Vergangenheit nur schlecht vorhersagen konnten. Es ist daher erschreckend naiv zu erwarten, dass HLAGI beim Klimawandel hilft. Es ist viel wahrscheinlicher, dass es sich um eine Komplikation eines bereits heiklen Problems handelt.

Wenn es einen Menschen gibt, der die unheimliche Fähigkeit besitzt, sich alternative Welten mit irgendeiner Art von Ganzheit und Wahrhaftigkeit vorzustellen, dann ist es Frank Herbert. Ich erinnere Sie daran, dass Dune in einer Zeitspanne spielt, nachdem sich der AGI-Fehler abgespielt hatte . Das ist höchstwahrscheinlich eine viel zu optimistische Sichtweise. Es ist wahrscheinlicher, dass das Fermi-Paradoxon durch die ouroborische Tendenz der Intelligenz erklärt wird, zu versuchen, sich selbst zu replizieren und sich dadurch selbst auszulöschen. In Bezug auf Robin Hansons Grabby-Aliens-Hypothese ist die Umgehung dieses Drangs, Intelligenz zu reproduzieren, ohne die Rolle der Verkörperung zu verstehen, wahrscheinlich einer der schwierigen Schritte, die die Intelligenz überwinden muss, um zu überleben.

Hauptbild mit freundlicher Genehmigung von Milad Fakurian & Unsplash