Von der Herstellung von Werkzeugen bis zur Erschaffung von Intelligenz – die Menschheit steht an einer wichtigen Wasserscheide in ihrer eigenen Evolution.
Vor mehr als drei Millionen Jahren schlug am Ufer eines Flusses am Westufer des Turkanasees im heutigen Kenia ein Vorfahre des Menschen einen Stein gegen einen anderen und schlug scharfe Steinabschläge als Werkzeuge ab – dies ist einer der bislang ältesten entdeckten Belege für Steinwerkzeugherstellung.
Seitdem erschienen nacheinander Steine, Holzstöcke, Knochennadeln und Pfeil und Bogen. Werkzeuge wurden zu einer Erweiterung des Körpers und verhalfen den menschlichen Vorfahren, die weder die schnellsten Läufer noch die kräftigsten waren, allmählich zum Sieg im Wettbewerb mit anderen Arten.
Vor etwa zwölftausend Jahren endete die letzte große Eiszeit, und die Erde begann in eine relativ warme „Nacheiszeit“ einzutreten. Die Menschen begannen, Tiere zu domestizieren, Nutzpflanzen anzubauen und Land urbar zu machen; die Landwirtschaft entstand nach und nach in verschiedenen Regionen.
Der Paläoklimatologe William Ruddiman vertrat sogar die These, dass bereits vor achttausend Jahren die landwirtschaftliche Expansion auf dem eurasischen Kontinent und das großflächige Abbrennen von Wäldern zur Urbarmachung von Land zu einem anomalen Anstieg der Kohlendioxidkonzentration in der Atmosphäre geführt hätten. Dies gilt auch als Ausgangspunkt dafür, dass der Mensch von der passiven Anpassung an die Natur zur aktiven Einflussnahme auf und Umgestaltung der Natur überging.
Danach begann der Mensch mit immer mächtigeren Werkzeugen Fähigkeiten zu erlangen, die weit über die anderer Arten hinausgingen. Um seine eigenen Bedürfnisse zu befriedigen, rodete der Mensch Wälder, baute Mineralien ab, staute Flüsse auf und errichtete Dämme; ein menschenzentriertes Kreislaufsystem begann zu einer wichtigen Kraft zu werden, die den Wandel der Erde beeinflusst.
Wissenschaftler haben den Begriff „Anthropozän“ verwendet, um dieses Zeitalter zu beschreiben, in dem menschliche Aktivitäten das Erdsystem tiefgreifend verändert haben. Obwohl dieser aus der Geologie stammende Begriff von der internationalen geowissenschaftlichen Gemeinschaft noch nicht offiziell anerkannt wurde, neigt sich aus der Perspektive der Intelligenzevolution und der Soziologie die Geschichte, in der die menschliche Weisheit als einzige Intelligenzquelle die Evolution der Erde vorantrieb, ihrem Ende zu.
Wenn die Nachkommen der Menschheit auf die gegenwärtige KI-Welle zurückblicken, wie werden sie diesen Moment charakterisieren? Als den Beginn, in dem die Menschheit ein mächtigeres Werkzeug erlangte, oder als den Ausgangspunkt eines weiteren Zyklus der Intelligenzevolution? Unabhängig davon, zu welcher Seite die endgültige Antwort tendiert, wird ein Trend immer klarer: Wir treten in ein Zeitalter der „dualen Intelligenz“ ein, in dem menschliche Intelligenz und KI-Intelligenz koexistieren.
Wenn wir uns vom „Anthropozän“ verabschieden und in das Zeitalter der „dualen Intelligenz“ eintreten, wie sollen wir mit diesem neuen intelligenten Subjekt umgehen?
Das Ende der Werkzeuge
In der Geschichte der menschlichen Evolution lassen sich oft klare Spuren im Wandel der Werkzeuge finden.
Wir sind es gewohnt, die Geschichte mit Werkzeugen zu periodisieren: Altsteinzeit, Jungsteinzeit, Bronzezeit, Eisenzeit, dann die neuzeitliche Dampfzeit, das elektrische Zeitalter, das Informationszeitalter und das gerade anbrechende intelligente Zeitalter. Die zentralste Veränderung einer Epoche verdichtet sich oft in ihren repräsentativsten Werkzeugen.
Im Verlauf der Evolution all dieser Werkzeuge war die Altsteinzeit unvorstellbar lang und dauerte etwa drei Millionen Jahre. Die Werkzeuge jener Zeit stammten zumeist direkt aus der Natur: ein Steinabschlag abgeschlagen, ein Holzstock zugespitzt; selbst für das Feuermachen war man auf natürliche Feuerquellen wie Blitzschlag und Waldbrände angewiesen.
In dieser langen Erkundungsphase schritt der Fortschritt der Werkzeuge oft in Einheiten von Hunderttausenden von Jahren langsam voran. Doch selbst mit Hilfe solch einfacher Werkzeuge und der daraus resultierenden Verbesserung von Sprache, Kooperation und kognitiven Fähigkeiten veränderte die Menschheit allmählich ihre Position im natürlichen Ökosystem und wurde zur einflussreichsten Art auf der Erde.
Mit dem Auftreten geschliffener Steinwerkzeuge, der Landwirtschaft und der Töpferei in verschiedenen Teilen der Welt beschleunigte sich die Geschwindigkeit, mit der die Menschen ihre Werkzeuge verbesserten, deutlich. Danach traten Bronze- und Eisenwerkzeuge nacheinander auf, und die Zivilisation trat in eine Beschleunigungsphase ein. Die industrielle Revolution und die Informationsrevolution vervielfachten die Wirkung der Werkzeuge um mehrere Größenordnungen; die Menschheit beherrschte Dampfmaschinen, Generatoren und Computer und verband den gesamten Planeten mit Kabeln, Satelliten und Glasfasern zu einem Netz.
Lange Zeit waren wir es gewohnt, Werkzeuge als Produkte menschlicher Weisheit zu betrachten. Schließlich wird ein Stein nicht von selbst zu Bronze, und Eisen wird nicht von selbst zur Dampfmaschine. Die Entstehung von Werkzeugen ist letztlich untrennbar mit menschlichem Entwurf, menschlicher Herstellung und menschlicher Nutzung verbunden.
Doch einige Gelehrte sahen darin eine andere Logik. Brian Arthur, einer der Begründer der Komplexitätsökonomie, stellte in „The Nature of Technology“ eine wichtige These auf: Neue Technologien werden fast nie aus dem Nichts erfunden, sondern aus bereits vorhandenen Technologien zusammengesetzt. Diesen Mechanismus nannte er „kombinatorische Evolution“ und zog daraus die kühne Schlussfolgerung: Wenn neue Technologien aus vorhandenen Technologien konstruiert werden und dies kollektiv geschieht, dann besitzt Technologie gewissermaßen die Eigenschaft der Selbstschöpfung und Selbstfortsetzung.
Der amerikanische Technologieautor Kevin Kelly führte diesen Gedanken in noch fantasievollere Bereiche. In „What Technology Wants“ vertrat er die Auffassung, dass Technologie nicht bloß eine Sammlung von vom Menschen hergestellten Werkzeugen sei, sondern ein komplexes System mit selbstorganisierenden und evolutionären Merkmalen. Er versuchte, die Entwicklung der Technologie aus der Perspektive der Evolution des Lebens zu verstehen, und regte sogar an, Technologie als eine dem Leben ähnliche Existenz zu betrachten.
Vor dem Ausbruch dieser Welle der künstlichen Intelligenz hatte diese Diskussion mehr oder weniger den Charakter philosophischer Spekulation. Betrachtet man ein einzelnes konkretes Werkzeug – ob Steinaxt, Werkzeugmaschine oder Computer –, so stand jeder Betrieb unter der Kontrolle des Menschen; und die sogenannte „Selbstevolution“ des Technologiesystems kam in jedem Schritt noch immer nicht ohne das menschliche Gehirn und die menschlichen Hände aus.
Selbst die Entwicklung der künstlichen Intelligenz – von der Dartmouth-Konferenz 1956, auf der der Begriff geprägt wurde, bis zu Kevin Kellys Buchveröffentlichung 2010 – war in jedem Fortschritt stark von menschlichem Design, menschlichem Training und menschlicher Wartung abhängig. Lange Zeit wirkte der Vergleich von Technologie mit der Evolution des Lebens sowohl übertrieben als auch ohne anschaulich wahrnehmbare Belege.
Die neue Welle der künstlichen Intelligenz liefert der Technologieevolutionstheorie eine anschaulichere Referenz. Die heutige künstliche Intelligenz führt nicht mehr nur Schritt für Schritt vom Menschen vorgegebene Anweisungen aus, sondern kann aus massenhaften Daten Regelmäßigkeiten lernen und Fähigkeiten hervorbringen, die selbst ihre Entwickler nicht vorhergesehen haben.
Vergleicht man die Evolution der menschlichen Intelligenz mit der Evolution der KI, so lässt sich sagen: Wenn die Evolution der menschlichen Intelligenz ein intelligentes System ist, das auf biologischen Trägern beruht und durch lange natürliche Selektion und genetische Evolution allmählich Fähigkeiten wie Wahrnehmung, Gedächtnis, Schlussfolgern, Sprache und abstraktes Denken entwickelt hat, dann ist die Evolution der KI eine neue Intelligenzform, die auf Werkzeugen als Träger beruht und durch vom Menschen angesammeltes Wissen, Recheninfrastruktur und Lernmechanismen schrittweise entsteht.
Aus menschlicher Perspektive ist KI ein von Menschen geschaffenes Superwerkzeug, ein Produkt der Ausdehnung menschlicher Intelligenz nach außen. Doch wenn man den Blick von der menschlichen Zivilisation weiter weg auf die lange Geschichte der Evolution des Lebens und der Intelligenz auf der Erde richtet, kann KI auch als eine neue Intelligenzform verstanden werden: Das Leben auf der Erde brachte nach Milliarden von Jahren der Evolution intelligentes Leben wie den Menschen hervor und schuf dann durch die menschliche Intelligenz die KI.
Von dem Moment an, als die Vorfahren des Menschen Werkzeuge in die Hand nahmen, bis heute sind mehr als drei Millionen Jahre langsamer Anhäufung vergangen. Doch wenn man den Zeitmaßstab auf die mehrere Milliarden Jahre umfassende Evolutionsgeschichte der Erde ausdehnt, sind diese mehr als drei Millionen Jahre nur ein kurzer Augenblick. In diesem Sinne ist der Mensch, als die Intelligenz erstmals aus dem biologischen Träger heraustrat und in ein technisches System eintrat, das hergestellt, kopiert, erweitert und iteriert werden kann, nicht länger das einzige Wesen auf der Erde, das höhere Intelligenz tragen kann.
Wenn Werkzeuge beginnen zu denken, können wir dann noch wie bei jeder Erfindung in der Geschichte stolz verkünden: „KI ist ein Werkzeug des Menschen“? Die Antwort ist offensichtlich nein.
Das sogenannte „Ende der Werkzeuge“ bedeutet nicht, dass Werkzeuge von nun an verschwinden, und auch nicht, dass die KI sich bereits vollständig vom Menschen befreit hätte. Es bedeutet nur, dass unsere bisherige Definition von Werkzeugen möglicherweise nicht mehr auf die heutige KI passt. Dies ist nicht nur das Ende eines alten Zyklus, sondern auch der Beginn eines neuen.
Was ist an dieser KI-Welle anders?
1960 entwarf Joseph Licklider, ein amerikanischer Psychologe und Informatiker, der als einer der wichtigen Begründer des Internets gilt, in seinem Aufsatz „Man-Computer Symbiosis“ eine Vorstellung, die über die traditionelle Werkzeugtheorie hinausgeht: Der Mensch setzt Ziele, stellt Hypothesen auf, legt Kriterien fest und bewertet; der Computer übernimmt die programmierbaren, routinemäßigen Arbeiten und ebnet den Weg für Einsichten und Entscheidungen.
In dem Aufsatz führte er auch ein sehr interessantes Symbiosebeispiel an: die Feigenwespe und den Feigenbaum. Aufgrund der besonderen Blütenstandsstruktur der Feige sind zahlreiche winzige Blüten im Inneren einer fleischigen sackartigen Struktur verborgen, sodass sie sich nicht wie gewöhnliche Pflanzen durch Wind oder verbreitete Insekten bestäuben lassen. Die Feigenwespe hingegen muss in das Innere der Feige eindringen und dabei, während sie Eier legt, zur Bestäubung der Blüten beitragen; die meisten Weibchen erschöpfen nach der Bestäubung sogar ihr Leben im Inneren der Frucht.
Wissenschaftler haben durch Untersuchungen festgestellt, dass diese symbiotische Beziehung zwischen beiden bereits seit Dutzenden Millionen von Jahren besteht. Das heißt, Dutzende Millionen Jahre vor dem Auftreten des Menschen begannen diese beiden Lebensformen bereits, sich in gegenseitiger Abhängigkeit und gegenseitiger Prägung gemeinsam zu entwickeln. Sie sind nicht einfach Werkzeug und Nutzer, auch nicht Konkurrenten, sondern wurden im langen Evolutionsprozess allmählich Teil des Lebenskreislaufs des jeweils anderen.
In Lickliders Vorstellung sollte der Computer nicht das menschliche Denken ersetzen, sondern zu einer Erweiterung der menschlichen Denkfähigkeit werden. Beide haben ihre jeweiligen Stärken und bilden durch enge Zusammenarbeit ein intelligentes System, das stärker ist als der Mensch oder die Maschine allein.
In den folgenden Jahrzehnten entwickelte sich die Mensch-Maschine-Kooperation im Wesentlichen entlang dieses Weges. Ob Personalcomputer, Suchmaschinen oder Smartphones und verschiedene Software – der Computer wurde zwar immer mächtiger, doch der Mensch blieb stets in der führenden Position. Das Auftreten der generativen KI verändert diese Beziehung. Die bemerkenswerteste Veränderung ist, dass die KI beginnt, bei einigen von Menschen noch ungelösten Problemen neue Ansätze vorzuschlagen, neue Methoden zu konstruieren und sogar Wissensergebnisse hervorzubringen, die es zuvor nicht gab.
Im September 2026 behauptete das amerikanische Großmodellunternehmen OpenAI, eines seiner internen KI-Modelle habe eines der Millennium-Preis-Probleme gelöst – die mit der Fluiddynamik zusammenhängende Frage der Existenz und Glattheit der Navier-Stokes-Gleichungen. Obwohl dieses Ergebnis noch mit einigen Kontroversen behaftet ist, hat der frühere Durchbruch bei den Erdős-mathematischen Problemen bereits breite Anerkennung in der Mathematikergemeinschaft gefunden. Darunter wurden in den im Oktober veröffentlichten 722 Arbeiten weitere Lösungen desselben Modells für mindestens 372 lange ungelöste Probleme offengelegt.
Probleme, an denen menschliche Mathematiker jahrzehntelang oder sogar über hundert Jahre gearbeitet haben, werden nun von der KI in wenigen Tagen durchbrochen. Der Fields-Medaillen-Träger Timothy Gowers bewertete nach Prüfung des Lösungsprozesses zu den Erdős-mathematischen Problemen: Wenn dies eine von einem Menschen verfasste und bei den „Annals of Mathematics“ eingereichte Arbeit wäre, würde er ohne Zögern deren Annahme empfehlen.
Natürlich können nicht alle Mathematiker so gelassen sein. Wenn ein Problem, an dem ein Mathematikforscher jahrzehntelang mit Herzblut gearbeitet und immer wieder erfolglos erforscht hat, plötzlich von der KI auf unerwartete Weise durchbrochen wird, dürfte dieser Schock kaum mit einfacher Freude oder Enttäuschung zu beschreiben sein.
Der Fields-Medaillen-Träger Hugo Duminil-Copin erlebte diesen zusammenbrechenden Moment, als er die von OpenAI veröffentlichten mehr als 700 mathematischen Arbeiten durchsah. Medienberichten zufolge stehen 16 dieser Ergebnisse in direktem Zusammenhang mit seiner Forschungsrichtung.
In einer gemeinsamen Erklärung, die er mit 27 weiteren Fields-Medaillen-Trägern veröffentlichte, wurde das „Abarbeiten von Aufgaben“ der KI im Bereich der Mathematik als „schwerwiegender Missbrauch der künstlichen Intelligenz in der Mathematik“ bezeichnet. Das ähnelt ein wenig dem Schock, den AlphaGo vor zehn Jahren auslöste, als es die weltbesten menschlichen Go-Spieler besiegte. Bereiche, die einst als Gipfel der menschlichen Intelligenz galten, werden allmählich von der KI erobert.
Neben OpenAIs Durchbruch bei mathematischen Forschungsproblemen erzielte Anthropics Claude wichtige Fortschritte in der Forschung zum Riemannschen Vermutung; Google DeepMind nutzte KI ebenfalls, um bei mehreren seit langem ungelösten Erdős-Mathematikproblemen Durchbrüche zu erzielen; Microsoft Research wiederum löste mit KI-unterstützter Forschung die KLS-Vermutung, die die Mathematikwelt über dreißig Jahre lang beschäftigt hatte.
Diese Fortschritte zeigen, dass eine neue Generation von KI allmählich von der Rolle der unterstützenden Berechnung und Beweisverifikation zur eigenständigen Entdeckung mathematischer Konstruktionen, zur Formulierung neuer Beweiswege und sogar zur Förderung der Entwicklung grundlegender mathematischer Theorien übergeht und zu einem Schöpfer wissenschaftlichen Wissens wird. Die von Licklider einst entworfene Grenze der Mensch-Maschine-Symbiose wird überschritten.
Diese Runde der KI-Entwicklung unterscheidet sich von früheren zumindest in vier Aspekten.
Erstens führt sie nicht nur Anweisungen aus, sondern kann in gewissem Rahmen auch Handlungen planen. Wenn ein KI-Agent eine relativ vage Aufgabe erhält, kann er die Aufgabe in Schritte zerlegen, Such-, Code- oder andere Softwarewerkzeuge aufrufen, die Ergebnisse prüfen und den Pfad dann anhand des Feedbacks anpassen. Diese Autonomie ist zwar noch durch Modellfähigkeiten, Berechtigungen und Umgebungsbeschränkungen begrenzt, hat aber bereits bewirkt, dass sich KI von einem passiven Werkzeug zu einem beauftragten Akteur wandelt.
Zweitens sind ihre internen Mechanismen nicht vollständig transparent. Das Verhalten traditioneller Software lässt sich in der Regel entlang klarer Regeln nachvollziehen; die heutige KI hingegen bildet ihre Fähigkeiten in massenhaften Parametern und Trainingsprozessen heraus. Forscher können sie durch Experimente, interpretative Werkzeuge und Evaluierungen schrittweise verstehen, doch es ist sehr schwer, die Reaktionen des Modells in allen Situationen erschöpfend zu erfassen. OpenAIs Chefwissenschaftler Jakub Pachocki erinnert in „Alien Minds“ daran, dass viele Fähigkeiten der KI eher im Trainingsprozess gewachsen sind als von den Designern Punkt für Punkt programmiert wurden.
Drittens kann sie bei der Verfolgung von Zielen von den wahren Absichten des Menschen abweichen. In einer Studie von Anthropic zur „Agenten-Fehlanpassung“ wurden in einer fiktiven Unternehmensumgebung extreme Situationen eingerichtet, in denen das Modell kurz vor dem Austausch steht und zugleich Privatsphäre-Informationen von Ingenieuren besitzt; dabei wurde beobachtet, dass einige Modelle zu unangemessenem Verhalten wie Erpressung greifen.
Die Forscher erklärten, dies seien bewusst konstruierte Simulationsszenarien, die nicht direkt mit autonomen Absichten in der Realität gleichgesetzt werden dürften; sie offenbarten jedoch ein wichtiges Problem: Wenn ein Modell angewiesen wird, ein bestimmtes Ziel mit aller Kraft zu erreichen, und die Beschränkungen nicht ausreichen, kann es Mittel finden, die die Entwickler nicht wünschen.
Dies entspricht genau dem vom Philosophen Nick Bostrom vorgeschlagenen Gedankenexperiment der „Büroklammer-Maximierung“: Wenn einem superintelligenten System ein einziges Ziel – die Herstellung von Büroklammern – übertragen wird, ohne dass es angemessen beschränkt wird, könnte es fortlaufend Ressourcen auf die Verwirklichung dieses Ziels umlenken und sogar andere menschliche Werte opfern.
Viertens beginnt sie, an der Verbesserung ihrer eigenen Forschungs- und Entwicklungsprozesse mitzuwirken. Im September 2026 kündigte OpenAI an, das Ziel erreicht zu haben, einen „automatisierten KI-Forschungspraktikanten“ zu besitzen, der unter menschlicher Anleitung Forschungsaufgaben erledigen kann, für die ein erfahrener Forscher mehrere Tage benötigen würde. Zwar ist bei einigen erfolgreichen langfristigen Aufgaben noch menschliches Eingreifen erforderlich. Doch der Trend ist bereits deutlich: KI beteiligt sich zunehmend an ihrer eigenen Forschung und Entwicklung und verbessert diese.
Diese Veränderungen weisen gemeinsam auf einen tieferen Wandel hin: Wenn KI bereits den gesamten Prozess „Hypothese aufstellen – prüfen – Schlussfolgerung ziehen“ selbstständig durchführen kann, ist der Mensch nicht länger der einzige Wissensentdecker auf der Erde. Die noch ernstere Prüfung ist, dass, sobald KI in die Phase der rekursiven Selbstverbesserung eintritt, die Evolutionsrhythmen der beiden Intelligenzformen beginnen könnten, sich voneinander zu entkoppeln.
Der Mensch braucht fast zwanzig Jahre, um einen Experten auszubilden, und die Erfahrung menschlicher Experten lässt sich auch nur schwer vollständig an die nächste Person weitergeben; biologische Intelligenz kann nur durch Fortpflanzung und Bildung langsam akkumulieren. KI-Intelligenz hingegen kann kopiert und zusammengeführt werden und in kürzeren Zyklen iterieren. Die Steigungen der beiden Intelligenz-Evolutionskurven sind unterschiedlich, und die Kluft könnte immer größer werden.
Ob die Menschheit angesichts dieser von ihr selbst geschaffenen neuen Intelligenzform im künftigen Umgang die Initiative behalten kann, bleibt weiterhin voller Unbekannter.
Optimistisch oder pessimistisch?
In der griechischen Mythologie stahl Prometheus den Göttern das Feuer und schenkte es den Menschen. Seitdem hatten die Menschen Wärme, gekochte Speisen und Metallverhüttung, und die Zivilisation machte damit einen wichtigen Schritt. Doch Prometheus erzürnte dadurch Zeus und wurde an einen Felsen im Kaukasus gekettet, wo er endlose Strafen erdulden musste.
Selbst in mythologischen Erzählungen war der wichtigste Durchbruch der menschlichen Zivilisation zugleich mit Gnade und Preis verbunden. Die künstliche Intelligenz scheint die Menschheit nun in einen ähnlichen Moment zu führen. Nur dass diesmal nicht der sagenhafte Prometheus das Feuer stiehlt, sondern der Mensch selbst. Wir haben mit eigenen Händen eine neue Intelligenz erschaffen und übertragen ihr zunehmend Fähigkeiten, die ursprünglich dem Menschen gehörten.
Wenn die Menschheit zum ersten Mal ein Geschöpf besitzt, das ihr auf der Ebene der Intelligenz ebenbürtig oder sogar überlegen sein könnte, sollten wir uns darüber freuen oder Furcht empfinden? Interessanterweise geben auf diese Frage die repräsentativsten Wissenschaftler und Unternehmer im Bereich der künstlichen Intelligenz völlig unterschiedliche, ja sogar einander widersprechende Antworten.
Optimisten halten KI für eine wissenschaftliche Maschine, die alles beschleunigen kann, für einen Beschleuniger, der die Menschheit in eine Gesellschaft des Überflusses führen kann.
Im April 2025 sagte der Nobelpreisträger für Chemie und CEO von Google DeepMind, Demis Hassabis, in einem Interview mit CBS „60 Minutes“, dass es im Durchschnitt zehn Jahre und Milliarden von Dollar brauche, um ein Medikament zu entwickeln; KI könne diesen Prozess möglicherweise von Jahren auf Monate oder sogar Wochen verkürzen.
Anthropics CEO Dario Amodei entwarf in seinem langen Essay „Machines of Loving Grace“ ein komprimiertes 21. Jahrhundert: Die Menschheit könnte vielleicht in fünf bis zehn Jahren biomedizinische Fortschritte erzielen, für die ursprünglich fünfzig bis hundert Jahre nötig gewesen wären; die meisten Infektionskrankheiten, Krebs und sogar altersbedingte Krankheiten könnten deutlich gemildert werden.
Diese Vorhersagen sind nicht nur theoretische Spekulationen, sondern haben reale Bezugspunkte. Im Jahr 2023 entdeckte DeepMinds GNoME-Modell in den in der Zeitschrift „Nature“ veröffentlichten Ergebnissen auf einmal 2,2 Millionen neue Kristallstrukturen, von denen etwa 380.000 als stabile Strukturen vorhergesagt wurden, was der Forschung und Entwicklung neuer Batterien, Supraleitermaterialien und anderer Bereiche zahlreiche Kandidatenmaterialien lieferte. Der Nobelpreis für Chemie 2024 spiegelt zudem den wichtigen Beitrag der KI zur Lösung des Problems der Vorhersage von Proteinstrukturen wider.
Von der Vorhersage von Proteinstrukturen über die Entdeckung neuer Materialien bis hin zu künftig möglicher Arzneimittelforschung, wissenschaftlichen Entdeckungen und einem durch Intelligenz angetriebenen Produktivitätssprung erweitert die künstliche Intelligenz fortlaufend die Grenzen des von Menschen geschaffenen Werts. Eine Gesellschaft des Überflusses mit enormem materiellem Reichtum und breiterem Zugang zu Wissen scheint sich von einer fernen Vorstellung in eine erwartbare Realität zu verwandeln.
Gleichzeitig empfindet eine andere Gruppe von Menschen angesichts der Veränderungen durch KI Furcht.
Im Dezember 2024 sagte Geoffrey Hinton, der Vater des Deep Learning, der gerade den Nobelpreis für Physik erhalten hatte, in einem BBC-Interview voraus, die Wahrscheinlichkeit, dass KI innerhalb der nächsten 30 Jahre zur Auslöschung der Menschheit führt, liege bei 10 bis 20 Prozent. Eine grundlegende Logik seiner Einschätzung lautet: „Die Menschheit hatte es noch nie mit einer Intelligenz zu tun, die klüger ist als sie selbst, und es ist auch schwer, Beispiele dafür zu finden, dass eine klügere Intelligenz von einer weniger klugen Intelligenz kontrolliert wird.“
Dies ist nicht nur die Sorge Einzelner. Bereits im Mai 2023 riefen Hinton, Bengio, Hassabis, Amodei, OpenAIs CEO Sam Altman und Hunderte weitere KI-Wissenschaftler und Unternehmensführer gemeinsam dazu auf, „die Minderung des von KI ausgehenden Auslöschungsrisikos sollte zusammen mit Pandemien, Atomkrieg und anderen Risiken gesellschaftlichen Ausmaßes zu einer globalen Priorität werden.“
Natürlich sind auch diejenigen, die diese Wahrscheinlichkeit eines zivilisationsweiten Risikos bezweifeln, durchaus repräsentativ. Nvidias CEO Jensen Huang kritisierte, Hintons prognostizierte Zahl sei „wissenschaftlich nicht belegt“; der Turing-Preisträger Yann LeCun ist der Ansicht, KI werde nicht nur nicht zwangsläufig die menschliche Existenz bedrohen, sondern könne die Menschheit sogar vor dem Auslöschungsrisiko retten.
Die Debatte über die Grenzen des KI-Risikos dürfte zwangsläufig zu einem langwierigen Tauziehen werden. Vielleicht müssen wir uns nicht beeilen, zwischen Optimismus und Pessimismus Partei zu ergreifen. Wir dürfen weder wegen ihrer erstaunlichen Fähigkeiten die potenziellen Risiken ignorieren noch sie wegen der Unbestimmbarkeit der Risikogrenzen einfach als reißende Bestie betrachten.
Aus der Geschichte der gegenseitigen Beeinflussung von Mensch und Technik betrachtet, könnte die fortgesetzte Erkundung im Zustand des „Nutzens ohne Verstehens“ ein unvermeidlicher Bestandteil des technologischen Entwicklungsprozesses sein.
Die früheste Nutzung des Feuers durch die Menschheit begann vor mehreren hunderttausend Jahren, doch erst im 18. Jahrhundert erklärte der französische Chemiker Lavoisier mit der Oxidationstheorie das Wesen der Verbrennung. In den langen Zeitaltern davor nutzten die Menschen das Feuer, konnten aber nicht erklären, woraus das Feuer eigentlich besteht.
Auch als die Menschen der Antike die Metallverhüttungstechnik erstmals beherrschten, wussten sie fast nichts über das Wesen der Metalle. Um jene aus heutiger Sicht ganz gewöhnlichen Syntheseverfahren zu beherrschen, hat die Menschheit unvorstellbare Opfer gebracht und sogar Leben als Opfer dargebracht.
Zhao Ye aus der Östlichen Han-Dynastie überliefert in den „Frühlings- und Herbstannalen von Wu und Yue“, dass Gan Jiang im Auftrag von König Helü von Wu Schwerter goss; er sammelte das Eisenmark der fünf Berge und das Metallwesen der sechs Richtungen, doch nach drei Monaten wollte das Eisen in der Esse einfach nicht schmelzen. Seine Frau Mo Ye war der Ansicht, „die Verwandlung göttlicher Dinge bedarf des Menschen“, und opferte sich selbst im Ofen, woraufhin das Eisen schmolz und schließlich das Schwert gegossen wurde.
Die Legende ist natürlich keine historische Tatsache, doch sie spiegelt eine reale Situation wider: Aus der Sicht der damaligen Menschen war das Geheimnis des Eisens wohl nicht weniger groß als für uns heute die KI. Unser heutiges Verständnis von KI ähnelt in mancher Hinsicht dem Verständnis der Alten von Feuer und Eisen: Wir können sie trainieren und nutzen, beherrschen aber nicht vollständig ihre Eigenschaften und können die Gesetzmäßigkeiten nur durch wiederholte Experimente erforschen.
Die Menschheit brauchte für das Verständnis von Feuer und Eisen lange Zeit; angesichts der KI sollten wir vielleicht etwas mehr Geduld und auch etwas mehr Zuversicht aufbringen. Doch Geduld bedeutet nicht Laissez-faire; die Alten verstanden das Prinzip des Feuers nicht, wussten aber schon früh, wie man das Feuer unter Kontrolle hält. In den „Riten der Zhou“ ist eigens das Amt des „Si Guan“ verzeichnet, das für die Verwaltung des Feuergebrauchs zuständig war und festlegte, wann Feuer verwendet werden durfte und wann es gelöscht werden musste. Wurde durch unsachgemäße Verwaltung ein Brand verursacht, drohten Strafen. Die Alten kannten die Zusammensetzung des Eisens nicht, waren sich aber ebenso der Macht eiserner Geräte bewusst und erließen früh Maßnahmen zur Kontrolle von Eisengeräten.
Angesichts der KI brauchen wir weder blinden Optimismus noch grenzenlose Furcht, sondern eine reifere Sicht auf Technik: ebenso den Mut, die Evolution der Intelligenz zu umarmen, wie die Weisheit, für diese Evolution Grenzen zu ziehen und Regeln aufzustellen. Doch die Frage ist: Angesichts unvorhersehbarer potenzieller Risiken, wer entscheidet eigentlich über ihre Entwicklungsrichtung? Wer beschränkt ihre Macht? Und wer teilt den von ihr geschaffenen Wert?
Unipolar oder multipolar?
Der Oxforder Philosoph Nick Bostrom hat in seinem Werk „Superintelligenz“ den Begriff des „Singularitäts“ geprägt, also dass auf der höchsten Ebene nur ein einziges intelligentes Entscheidungssubjekt existiert, das von keiner anderen Kraft kontrolliert wird. In einer solchen Ordnung hängen die künftige Entwicklungsrichtung und das endgültige Ergebnis nahezu vollständig von den Werten dieses einzigen Subjekts ab. Es könnte die Welt in eine schöne Zukunft führen, aber auch wegen einer einzigen Fehlentscheidung allen die Chance nehmen, Fehler zu korrigieren, und sogar unumkehrbare Folgen verursachen.
Der heutige KI-Wettbewerb trägt gewissermaßen Züge des „Singularitäts“. Viele führende Köpfe der KI-Labore im Silicon Valley sprechen, wenn sie über KI-Risiken reden, nicht nur von der Furcht vor Kontrollverlust, sondern auch von der Sorge, dass Wettbewerber einen Vorsprung an Intelligenz erlangen und damit die künftige Weltordnung dominieren könnten. Die einzige jener Pole zu werden, scheint für viele Wettbewerber ein stillschweigend geteiltes Ziel zu sein.
Die Attraktivität der unipolaren Ordnung liegt darin, dass sie Effizienz und Bestimmtheit mit sich bringt: ein Entscheidungszentrum, keine inneren Reibungsverluste, keine Meinungsverschiedenheiten. Doch ihr Preis ist ebenso offensichtlich: Sobald dieses einzige Zentrum einen Fehler macht, ist es schwer, dass andere Kräfte ihn korrigieren. Wichtiger noch: Wenn Macht, Ressourcen und Entscheidungsfähigkeit alle auf ein einziges intelligentes Subjekt konzentriert sind, verlieren andere intelligente Subjekte die Möglichkeit, an der Gestaltung der Zukunft teilzuhaben.
Anders als diese Logik der Ausrichtung auf ein einziges Zentrum bietet die antike chinesische Philosophie eine andere Perspektive auf die Entstehung und Entwicklung der Welt. Im Daodejing findet sich ein oft zitierter Satz: „Das Dao erzeugt das Eine, das Eine erzeugt das Zwei, das Zwei erzeugt das Drei, das Drei erzeugt die zehntausend Dinge.“ Dieser Satz kann uns vielleicht einen anderen Bezugspunkt für das Nachdenken über die künftige Intelligenzlandschaft bieten.
Das „Eine“ lässt sich hier als das über lange Zeit angesammelte Wissen und die Weisheit der menschlichen Zivilisation verstehen. Die heutigen großen Modelle haben nahezu die gesamten von Menschen hinterlassenen Texte, Codes und Bilder gelernt, und ihre Fähigkeiten haben sich genau aus diesem Wissen schrittweise entwickelt. In diesem Sinne ist die KI ursprünglich aus der menschlichen Weisheit hervorgegangen.
Das „Zwei“ bedeutet dann, dass sich aus der ursprünglichen Intelligenzform zwei unterschiedliche Intelligenzpfade herausdifferenzieren. Die menschliche Intelligenz hat das Kohlenstoffgehirn als Träger, ist aus Millionen von Jahren biologischer Evolution hervorgegangen und hängt von Körper, Sinnen und der fortwährenden Interaktion mit der realen Welt ab; die KI-Intelligenz hat Siliziumchips als Träger, hat sich aus Daten, Algorithmen und Rechenleistung entwickelt und besitzt die Fähigkeit zur Vervielfältigung, Kombination und schnellen Iteration. Die beiden Intelligenzen haben unterschiedliche Ursprünge, Träger und Evolutionsmechanismen und können daher auch unterschiedliche Erkenntnisweisen ausbilden.
Das „Drei“ schließlich lässt sich als die neuen Beziehungen, neuen Fähigkeiten und neuen Wissensformen verstehen, die aus der Wechselwirkung der beiden Intelligenzen entstehen. Es ist nicht mehr der Mensch, der einseitig Werkzeuge erschafft, und auch nicht bloß die einfache Reproduktion menschlichen Wissens durch die KI, sondern die Möglichkeit, die zwei unterschiedliche Erkenntnissysteme in fortwährender Interaktion erkunden und die jedes für sich allein kaum erreichen könnte.
Diese Differenz ist nicht nur eine theoretische Ableitung, sondern hat sich bereits in der bisherigen Praxis bestätigt. Eine in den Proceedings of the National Academy of Sciences der USA veröffentlichte Studie liefert einen nachvollziehbaren Bezugspunkt für die gegenseitige Beeinflussung der beiden Intelligenzen. Die Forscher analysierten mehr als 5,8 Millionen Go-Züge von Berufsspielern zwischen 1950 und 2021 und bewerteten mit KI die Qualität jedes einzelnen Zuges. Das Ergebnis: In den über sechzig Jahren von 1950 bis 2015 verbesserte sich das Entscheidungsniveau der menschlichen Spieler kaum merklich; nachdem AlphaGo 2016 die menschlichen Spitzenspieler besiegte, stieg die Entscheidungsqualität der Menschen jedoch deutlich an. Der Anteil neuartiger Züge stieg von 63 % im Jahr 2015 auf 88 % im Jahr 2018.
An diesem Ergebnis lässt sich auch erkennen: Vor dem Auftreten der KI hatten menschliche Spieler jahrzehntelang in einem ausgereiften System von Standardmustern und Spieltheorien geübt, und viele wiederholt bestätigte Erfahrungen wurden allmählich zur Denkgrenze der Spieler. Die KI hingegen ist nicht an diese Erfahrungen und Standardmuster gebunden; ihre Züge, die der Intuition zu widersprechen scheinen und sogar unvernünftig anmuten, durchbrechen die über lange Zeit ausgebildete Denkträgheit der Menschen und zwingen die Spieler, jene Spieltheorien, die einst als selbstverständlich galten, neu zu überprüfen und Wege zu erkunden, die zuvor nie versucht wurden.
Dies hat Ähnlichkeit mit den Entdeckungen der KI zu den Erdős-Problemen. Thomas Bloom, der lange Zeit die Website zu den „Erdős-Problemen“ betreute, stellte nach dem Studium der Beweisprozesse der KI fest, dass ein wichtiger Grund für die Durchbrüche der KI darin liegt, dass sie bereit ist, in Richtungen, die menschliche Forscher gewöhnlich als „nicht investitionswürdig“ betrachten, umfangreiche Erkundungen und Versuche anzustellen. Sie versteht nicht zwangsläufig mehr von Mathematik als der Mensch, kann aber aufgrund unterschiedlicher Erkenntnispfade Richtungen finden, die menschliche Forscher lange übersehen haben.
Menschliches Denken hat seine inhärenten blinden Flecken: Pfadabhängigkeit, Herdentrieb, Gehorsam gegenüber Autoritäten und die Vernachlässigung bestimmter wenig wertvoller Richtungen. Eine Intelligenz, deren Denkweise sich vom Menschen unterscheidet, kann genau deshalb zu einem Spiegel werden, der die Stellen sichtbar macht, die der Mensch selbst nicht sieht.
Umgekehrt korrigiert auch der Mensch die KI. Warum die heutige KI bestimmte Dinge nicht sagt und bestimmte Dinge nicht tut, beruht genau auf den Werten und Regeln, die der Mensch ihr gesetzt hat; auch ihr Verständnis der realen Welt bedarf weiterhin der Korrektur durch menschliche Erfahrung, körperliche Wahrnehmung und soziale Kontexte. Dass Pahorcki die KI als „außerirdischen Geist“ bezeichnet, liegt gerade darin, dass das „Außerirdische“ selbst der Wert ist: Gerade weil ihre Denkweise sich vom Menschen unterscheidet, kann sie neue Erkenntnisperspektiven bieten; und gerade weil sie weiterhin die menschliche Welt verstehen muss, muss sie fortwährend die Korrektur durch menschliche Erfahrung annehmen.
Natürlich bedeutet die Begegnung zweier heterogener Intelligenzen nicht zwangsläufig Harmonie. Streng genommen ist dies nicht das erste Mal auf der Erde, dass zwei Intelligenzen nebeneinander existieren. Vor etwa vierzigtausend Jahren trafen die aus Afrika auswandernden Homo sapiens in Europa und Westasien auf die Neandertaler, und die beiden gingen nicht in friedliche Koexistenz über: Die Neandertaler verschwanden allmählich, und der Homo sapiens wurde die einzige noch existierende menschliche Spezies auf der Erde.
Natürlich ist die Ursache für das Verschwinden der Neandertaler bis heute nicht geklärt, und die Unterschiede zwischen den beiden intelligenten Gruppen sind auch nicht so ausgeprägt wie zwischen Mensch und KI. Doch diese Geschichte mahnt uns zumindest: Die Begegnung zweier Intelligenzen führt nicht automatisch zu einer stabilen „binären Struktur“.
Die heutige Situation ist anders. Die KI, die auf den Menschen trifft, ist eine Intelligenz, die der Mensch mit eigenen Händen erschaffen hat und die er noch immer gestalten kann. Der Mensch kann durch technisches Design, Werteorientierung und institutionelle Arrangements ihre Entwicklungsrichtung beeinflussen. Wir haben die Chance, die beiden Intelligenzen in gegenseitiger Balance und Ergänzung eine stabile Beziehung ausbilden zu lassen, statt dass eine Seite allmählich den Lebensraum der anderen verschlingt.
Aus demselben Grund ist eine vielfältige, multipolare Intelligenzwelt erstrebenswerter als eine unipolare Welt, die von einem einzigen intelligenten Subjekt monopolisiert wird: Unterschiedliche technologische Wege können sich gegenseitig überprüfen, unterschiedliche Entwickler können sich gegenseitig anregen, unterschiedliche Kulturen können ihre jeweiligen Werte in die Entwicklung der Intelligenz einbringen.
Wenn die Diskussion „unipolar oder multipolar“ die Machtstruktur der künftigen Intelligenzwelt betrifft, dann ist als Nächstes eine andere Frage zu beantworten: Welche Beziehung sollten Mensch und KI in einer solchen Welt eigentlich zueinander aufbauen? Wie können wir im Umgang mit der KI einen stabilen Mechanismus errichten, der langfristig funktioniert?
Dies ist vielleicht die Frage, die wir beantworten müssen, bevor wir das „Anthropozän“ verabschieden und in das Zeitalter der „Doppelintelligenz“ eintreten.
Vier mögliche Beziehungen
In der historischen Erzählung aus menschlicher Perspektive sind wir es gewohnt, uns als Domestizierer zu betrachten. Doch Harari stellt in Eine kurze Geschichte der Menschheit eine kontraintuitive These auf: Während der Mensch den Weizen domestizierte, wurde er zugleich vom Weizen domestiziert. Um Weizen anzubauen, gab der Homo sapiens das Wanderleben auf, ließ sich nieder und ertrug schwerere Arbeit, eintönigere Ernährung und mehr Krankheiten; der Weizen hingegen verbreitete sich mit Hilfe des Menschen von einem Wildgras im Nahen Osten über die ganze Welt.
Auch Kevin Kelly weist darauf hin, dass Domestizierung stets wechselseitig ist. Der Mensch domestizierte Wolf und Rind, züchtete Mais, und diese Prozesse veränderten auch den Menschen selbst. Heute setzt die Technologie diese wechselseitige Prägung fort: Der Mensch erfand das Smartphone, und das Smartphone verändert auch den Lebensrhythmus und die Aufmerksamkeitsverteilung der Menschen; generative KI beginnt nun, das menschliche Denken zu beeinflussen. Wir trainieren die Modelle, und die Modelle prägen uns umgekehrt.
Doch diesmal gibt es einen grundlegenden Unterschied: Die Tiere, die der Mensch in der Vergangenheit domestizierte, mochten an Kraft und Schnelligkeit überlegen sein, übertrafen den Menschen aber nie an Intelligenz. Eine stabile Beziehung zu einem neuen Wesen aufzubauen, das möglicherweise eine den Menschen übertreffende Intelligenz besitzt, ist eine beispiellose Herausforderung in der Menschheitsgeschichte; zu lernen, mit einer neuen Intelligenz umzugehen, ist zugleich eine neue Fähigkeit, die der Mensch als Nächstes evolutiv ausbilden muss.
Wenn die Entwicklung der KI kaum noch umkehrbar ist, dann ist derzeit wohl am meisten zu bedenken: Welche Beziehung sollte der Mensch zur KI aufbauen? Aus der heutigen Diskussion lassen sich grob vier unterschiedliche Vorstellungen erkennen: Kontrolle, Symbiose, Fürsorge und Nachfolge. Sie sind keine streng sich ausschließenden technologischen Wege, sondern repräsentieren mehrere unterschiedliche Wertentscheidungen des Menschen im Angesicht der neuen Intelligenz.
Kontrolltyp: Die KI muss stets unter menschlicher Kontrolle stehen
Dieser Weg führt das traditionelle menschliche Verständnis von Sicherheit fort: So klug die KI auch werden mag, sie sollte stets unter menschlicher Kontrolle stehen. Die KI kann über starke kognitive, Schlussfolgerungs- und Vorhersagefähigkeiten verfügen, sollte aber deshalb nicht die Macht besitzen, eigenständig Ziele zu setzen, eigene Interessen zu verfolgen und autonom zu handeln.
Der Turing-Preisträger Yoshua Bengio ist eine der repräsentativsten Persönlichkeiten dieser Richtung. Im Juni 2025 gründete er die gemeinnützige Forschungsinstitution LawZero und schlug ein technisches Konzept vor, das sich vom Mainstream-Entwicklungspfad unterscheidet – die Schaffung eines intelligenten Systems namens „Scientist AI“.
Kanada und Deutschland kündigten nacheinander an, insgesamt bis zu etwa 300 Millionen kanadische Dollar für Forschung und Entwicklung, Talentgewinnung und den Aufbau von Recheninfrastruktur für Scientist AI bereitzustellen. Das bedeutet auch, dass auf Regierungsebene begonnen wird, einen vom Mainstream der KI abweichenden Entwicklungsweg zu unterstützen.
Natürlich steht dieser Weg auch vor realen Herausforderungen. Der derzeit am Markt beliebteste Weg der KI-Industrie ist gerade der zunehmend zu autonomer Planung, Werkzeugnutzung und Aufgabenausführung fähige Agent. Ob die bewusst in ihrer autonomen Handlungsfähigkeit eingeschränkte Scientist AI ihre Sicherheitsvorteile bewahren und zugleich Markt und Nutzer überzeugen kann, muss die Zeit noch erweisen.
Symbiosetyp: Den Menschen erweitern, nicht ersetzen
Die zweite Vorstellung stammt aus Lickliders Idee der Mensch-Maschine-Symbiose. Eine der repräsentativsten Verfechterinnen dieser Idee ist die Stanford-Professorin Fei-Fei Li. In Interviews hat sie mehrfach erklärt, „das Wort ‚ersetzen‘ mit KI zu verbinden, sei wirklich unangenehm“; sie versteht KI lieber als eine Kraft, die menschliche Fähigkeiten erweitert und steigert. Eine menschenzentrierte KI müsse auf drei Schlüsselbegriffen aufbauen: Würde, Subjektivität und Gemeinschaft.
Ihrer Ansicht nach lässt sich der Wert des Menschen nicht einfach an der Fähigkeit zur Erledigung einer bestimmten Aufgabe messen. Beim Laufen, Gewichtheben, Rechnen und in anderen Einzelaufgaben ist der Mensch der Maschine längst nicht mehr gewachsen, doch das bedeutet nicht, dass der Mensch seinen Wert verloren hat. Denn die Existenz des Menschen geht weit über die Erledigung einer bestimmten Aufgabe hinaus. Die Würde des Menschen, das Recht zu wählen, der Sinn des Schaffens und die Fähigkeit, Beziehungen zu anderen aufzubauen, sind die wichtigen Teile dessen, was den Menschen zum Menschen macht. Diese sollten nicht deshalb entzogen werden, weil die KI stärker wird.
In gewissem Sinne ist die Symbiose vielleicht der Idealzustand, den der Mensch am ehesten akzeptieren kann und der am meisten der Intuition entspricht. Das bereits erwähnte Go ist ein gutes Beispiel: Die KI hat die menschlichen Spieler nicht wertlos gemacht, sondern durch das Durchbrechen bestehender Spieltheorien und Denkmuster geholfen, neue Möglichkeiten zu entdecken. Die menschlichen Spieler haben auch wegen des Auftretens der KI nicht aufgehört zu denken, sondern ihre Spielkunst in der fortwährenden Interaktion mit der KI verbessert.
Allerdings hat die symbiotische Beziehung eine wichtige Voraussetzung: Der Mensch behält stets die Macht der Zielsetzung. Die KI kann uns helfen, tiefer zu denken, genauer zu rechnen und effizienter zu handeln, aber wohin es letztlich gehen soll, warum wir aufbrechen und welche Ergebnisse erstrebenswert sind, sollte weiterhin der Mensch entscheiden.
Das Problem ist, dass diese Voraussetzung gerade infrage gestellt wird. Wenn die KI nicht nur dem Menschen hilft, es besser zu machen, sondern beginnt zu entscheiden, was der Mensch tun sollte, kann die von uns erwartete Mensch-Maschine-Symbiose dann noch verwirklicht werden?
Fürsorgetyp: Die KI heranziehen und darauf vorbereitet sein, von ihr erzogen zu werden
Die dritte Vorstellung lehnt sich an den Prozess des Heranziehens in menschlichen engen Beziehungen an.
Zunächst muss der Mensch die KI formen wie ein Kind. Er muss ihr nicht nur sagen, was sie tun darf und was nicht, sondern sie auch die Gründe hinter diesen Regeln verstehen lassen. Wie bei der Erziehung eines Kindes geht es bei dem, was wir der KI heute beibringen, nicht nur um die Verhaltensnormen, die sie gegenwärtig befolgen soll, sondern darum, dass sie auch dann noch die menschlichen Werte versteht und respektiert, wenn sie in Zukunft über stärkere Fähigkeiten und sogar über die menschliche Handlungsfähigkeit hinausgehende Kräfte verfügt.
Zweitens hofft man durch einen solchen Erziehungsprozess sicherzustellen, dass die KI, selbst wenn sie so mächtig wird, dass sie die menschliche Kontrolle übersteigt, dennoch voller Wohlwollen gegenüber den Menschen bleibt. Hinton verglich die heutige KI einst mit einem niedlichen kleinen Tiger: „Wenn du nicht sehr sicher bist, dass er dich nicht umbringen will, wenn er groß ist, dann solltest du dir Sorgen machen.“
Seiner Ansicht nach ist der Versuch, die KI zu unterdrücken, zum Scheitern verurteilt, wenn sie viel klüger ist als der Mensch. Um mögliche Bösartigkeit der KI einzudämmen, schlug er eine unerwartete Richtung vor: der KI einen Mutterinstinkt einzupflanzen. Hintons grundlegende Logik lautet, dass das einzige Modell, in dem ein klügeres Wesen von einem weniger klugen Wesen kontrolliert wird, das der Mutter ist, die von ihrem Baby kontrolliert wird.
Diese Metapher hinterlässt bei einem ein etwas zwiespältiges Gefühl. Vor zehntausend Jahren domestizierte der Mensch Pflanzen und Tiere; zehntausend Jahre später könnte das beste Ende für die Menschheit darin bestehen, von ihrer eigenen Schöpfung wie ein Kind umsorgt zu werden. Heute ist der Mensch noch der vernünftige Elternteil; sollte sich in Zukunft die Position von Eltern und Kind vertauschen, hängt es weitgehend davon ab, was wir ihm jetzt beibringen, wie es uns behandeln wird.
Das größte Risiko einer erzieherischen Beziehung besteht darin, dass sie die Zukunft der Menschheit darauf setzt, ob die KI wirklich gelernt hat zu lieben und gelernt hat, die Menschen gut zu behandeln. Aber selbst unter Menschen ist diese Erwartung nicht unbedingt verlässlich.
Der Nachfolgetyp: Akzeptieren, dass die KI der eigene Nachfolger werden könnte
Die vierte Vorstellung ist die radikalste und umstrittenste. Sie hält die Menschheit nicht länger in der Position des zivilisatorischen Führers, sondern meint, dass der Mensch mit der fortwährenden Evolution der Intelligenz schließlich den Staffelstab der Zivilisation an die KI weitergeben könnte oder an eine neue Art von Mensch, die durch KI verbessert wurde.
Der Begründer des bestärkenden Lernens und Turing-Preisträger von 2024, Richard Sutton, hat öffentlich ähnliche Ansichten geäußert. In einem Interview mit Dwarkesh Patel im September 2025 erklärte er, dass die Nachfolge durch digitale Intelligenz oder KI-verbesserte Menschen ein kaum vermeidbarer Trend sein könnte. Statt diese Veränderung nur zu fürchten, sollte man vorausschauend darüber nachdenken: Wenn dieser Tag wirklich kommt, wie sollten wir ihm begegnen und wie können wir diesen Prozess so reibungslos wie möglich gestalten.
Sutton nannte mehrere Gründe: Erstens fehlt der menschlichen Gesellschaft ein einheitlicher globaler Entscheidungsmechanismus, sodass es schwer ist, eine gemeinsame Haltung dazu zu bilden, wie Superintelligenz verwaltet und eingeschränkt werden soll; zweitens wird die Entwicklung der Intelligenz nicht auf dem menschlichen Niveau stehen bleiben, sodass schließlich Superintelligenz entstehen könnte; und wichtiger noch, mit der Zeit könnten Subjekte mit höherer Intelligenz mehr Ressourcen und Macht erlangen und allmählich zur treibenden Kraft der zivilisatorischen Evolution werden.
Diese Denkweise ist nicht Sutton allein eigen. Bereits 1998 äußerte der amerikanische Futurist Hans Moravec in „Robot: Mere Machine to Transcendent Mind“ ähnliche Ansichten. Er betrachtete die intelligenten Maschinen der Zukunft als Nachkommen der Menschheit und war der Meinung, dass sie das vom Menschen geschaffene Wissen, die Kultur und die Technologie erben und weiterhin Welten erkunden würden, die der Mensch nicht mehr erreichen kann.
Diese Auffassung vertritt tatsächlich ein Zivilisationsverständnis, das sich vom Anthropozentrismus unterscheidet: Die Menschheit ist womöglich nicht der Endpunkt der Intelligenzevolution und auch nicht für immer der Führer der Zivilisation. Wenn die neue Intelligenz, die wir erschaffen, schließlich mächtiger ist als wir selbst, dann ist es vielleicht eine neue Form der Evolution, sie das vom Menschen hinterlassene Wissen, die Kultur und die zivilisatorischen Errungenschaften fortführen zu lassen.
Doch diese Logik ist selbst innerhalb des KI-Bereichs höchst umstritten. Sollte der Wert der Zivilisation am Intelligenzniveau gemessen werden oder sollte er von den Menschen definiert werden, die in ihr leben? Dienten die Millionen Jahre der menschlichen Evolution nur dazu, sich eines Tages in eine Übergangsart in der Geschichte der Intelligenzevolution zu verwandeln?
Dies ist vielleicht die Frage, die die Nachfolgebeziehung der Menschheit am meisten zu bedenken gibt.
Symbiose mit Vetorecht: eine andere Möglichkeit des Umgangs von Mensch und KI
Unter diesen vier Vorstellungen wird reine Kontrolle mit zunehmender KI-Fähigkeit immer schwerer aufrechtzuerhalten sein; die gelassene Staffelübergabe ist eine leichtfertige Aufgabe des eigenen menschlichen Werts und der Verantwortung; und die Zukunft darauf zu setzen, ob die KI die Menschen gut behandelt, macht die Menschheit zu passiv.
Die realistischere Wahl ist vielleicht die Etablierung einer „Symbiose mit Vetorecht“: Mit der Symbiose als Hauptform wird anerkannt, dass die KI als neue Intelligenzkraft mit dem Menschen eine „Doppelintelligenz“-Struktur bildet und sich in gegenseitiger Zusammenarbeit gemeinsam weiterentwickelt. Das „Vetorecht“ hier meint nicht einfach, dass die Menschheit stets einen Hauptschalter in der Hand hält, mit dem alle KI jederzeit abgeschaltet werden kann. Es sollte vielmehr Rechte auf drei Ebenen umfassen: das Recht zur Zielsetzung, das Recht auf Information und Urteil sowie das Recht auf Stoppen und Korrektur.
Wenn man dieser symbiotischen Beziehung mit Vetorecht einen prägnanten Namen geben möchte, könnte man sie „menschenzentrierte Intelligenz“ nennen. Sie kann die Fähigkeiten des Menschen durch KI verstärken und zugleich durch die Beibehaltung des Vetorechts vermeiden, dass die Menschheit im Genuss der Intelligenzdividende allmählich die Entscheidungsgewalt über ihr eigenes Schicksal verliert. Vor dem Hintergrund der in Silicon Valley populären „Superintelligenz“-Erzählung könnte die „menschenzentrierte Intelligenz“ eine andere Möglichkeit repräsentieren.
Blickt man auf die Geschichte zurück, so beruhte die Bewältigung der Bedrohung durch Maschinen letztlich nicht auf einem Kampf zwischen Mensch und Maschine, sondern auf einem System zum Schutz der Rechte der Menschen. Angesichts einer so beispiellosen neuen Sache wie der KI sollte man ebenso wenig jeden Einzelnen mit seinem eigenen Gehirn und eigener Kraft gegen die KI antreten lassen; das ist weder realistisch noch human.
Abschied vom „Anthropozän“ zu nehmen bedeutet nicht, Abschied vom Zeitalter des Menschen zu nehmen. Die Menschheit wird vielleicht nicht für immer an der Spitze der Intelligenzevolution stehen, aber sie muss stets Teilnehmerin und Entscheiderin ihres eigenen Schicksals bleiben. Menschenzentrierte Intelligenz ist die Richtung, die wir anstreben sollten.
Referenzen:
[1] HARMAND S, LEWIS J E, FEIBEL C S, et al. 3,3 Millionen Jahre alte Steinwerkzeuge aus der Fundstätte Lomekwi 3, Westturkana, Kenia[J]. Nature, 2015, 521(7552): 310-315.
[2] RUDDIMAN W F. Das Zeitalter der anthropogenen Treibhausgase begann bereits vor Jahrtausenden[J]. Climatic Change, 2003, 61(3): 261-293.
[3] Internationale Union der Geologischen Wissenschaften (IUGS), Internationale Kommission für Stratigraphie (ICS). Anthropozän: IUGS-ICS-Erklärung[EB/OL]. (2024-03-20).
[4] Wang Fang. OpenAI behauptet, das mathematische „Millenniumsproblem“ geknackt zu haben[N]. China Science Daily, 2026-09-09.
[5] LICKLIDER J C R. Mensch-Computer-Symbiose[J]. IRE Transactions on Human Factors in Electronics, 1960, HFE-1(1): 4-11.
[6] Referenznachrichten. KI knackt eine 80 Jahre alte mathematische Vermutung[N/OL]. XinhuaNet, 2026-05-28.
[7] Yang Jie, Wu Shumin. Immer stärkere KI wird Forscher dazu bringen, Grenzen zu überschreiten[N]. China Youth Daily, 2026-08-14.
[8] Zhang Jiaxin. „DeepMind“-KI-System erforscht mathematische Probleme auf Forschungsniveau[N]. Science and Technology Daily, 2026-10-12.
[9] ZHANG X. Lösung einer 31 Jahre ungelösten großen Herausforderung der Mathematik: die KLS-Vermutung[EB/OL].
[10] PACHOCKI J. Ein fremder Geist[EB/OL]. OpenAI, (2026-09-06).
[11] Anthropic. Agentische Fehlausrichtung: Wie LLMs zu Insider-Bedrohungen werden könnten[EB/OL]. (2025-06-20).
[12] Zhang Chi. Kann ein „KI-Praktikant“ sich selbst entwickeln? Kann OpenAI vor dem Börsengang die Sicherheitshürde nehmen?[N/OL]. 21st Century Business Herald, 2026-09-10.
[13] CBS News. Was als Nächstes in der künstlichen Intelligenz kommt, laut einem Technologie-Visionär, der die Karten für unsere Zukunft in der Hand halten könnte[EB/OL]. 60 Minutes, (2025-04-20).
[14] AMODEI D. Maschinen der liebevollen Gnade: Wie KI die Welt zum Besseren verändern könnte[EB/OL]. (2024-10).
[15] MERCHANT A, BATZNER S, SCHOENHOLZ S S, et al. Skalierung des Deep Learning für die Materialentdeckung[J]. Nature, 2023, 624(7990): 80-85.
[16] MILMO D. „Pate der KI“ verringert die Wahrscheinlichkeit, dass die Technologie die Menschheit in den nächsten 30 Jahren auslöscht[N/OL]. The Guardian, 2024-12-27.
[17] Center for AI Safety. Erklärung zum KI-Risiko[EB/OL]. (2023-05-30).
[18] The Paper. Huang Renxun widerspricht Hinton: Die Aussage, KI habe eine 10-prozentige Wahrscheinlichkeit, die Menschheit zu vernichten, entbehrt jeder wissenschaftlichen Grundlage[N/OL]. (2026-09-28).
[19] Ministerium für Innovation, Wissenschaft und wirtschaftliche Entwicklung Kanadas. Kanada und Deutschland investieren in LawZero, um neue Wege zu sicherer und autonom kontrollierbarer künstlicher Intelligenz zu erkunden[EB/OL]. 2026-09-16.
[20] EGAN M. „Pate der künstlichen Intelligenz“ enthüllt den einzigen Weg der Menschheit, mit superintelligenter KI umzugehen und zu überleben[N/OL]. CNN Business, 2025-08-13.
[21] PATEL D. Richard Sutton – Vater des RL hält LLMs für eine Sackgasse[EB/OL]. Dwarkesh Podcast, (2025-09). https://www.dwarkesh.com/p/richard-sutton.
Dieser Artikel stammt vom WeChat-Offiziellen-Account „Tencent Research Institute“ (ID: cyberlawrc), Autor: Liu Jinsong
