Die sprunghaften Fortschritte bei der Entwicklung von Computertechnologien, die den menschlichen Geist erweitern oder ersetzen sollen, werfen grundsätzliche Fragen auf. Bedrohen schlaue Maschinen die menschliche Zivilisation? Oder haben sich die Tech-Apologeten aus dem Silicon Valley nur in einen weiteren Hype verrannt? So oder so: Wir müssen uns darüber klar werden, wo die Trennlinie zwischen Mensch und Maschine verläuft.

Anfang der 1960er-Jahre entwickelten sich die Grundlagen der modernen Computerwelt. Zwei Forschungslabore an der Stanford University verfolgten zwei diametral entgegengesetzte Zukunftsvisionen. Der Informatiker John McCarthy prägte den Begriff "Artificial Intelligence" (AI), also Künstliche Intelligenz (KI). Er gründete das Stanford AI Laboratory (SAIL) mit dem Ziel, binnen eines Jahrzehnts eine denkende Maschine zu entwickeln. McCarthy wollte einen Computer bauen, der alle körperlichen und geistigen Fähigkeiten eines Menschen nachbildet. Zur gleichen Zeit beschäftigte sich Douglas Engelbart auf der anderen Seite des Campus mit Systemen, die die Fähigkeiten des menschlichen Geistes erweitern sollten. Er prägte den Begriff "Intelligence Augmentation" (IA), der sich mit "erweiterter Intelligenz" übersetzen lässt.

Die Forschung hatte sich somit auf zwei unterschiedliche Pfade begeben. Beide Laboratorien wurden vom Pentagon finanziert, doch ihre verschiedenen Philosophien sollten zu Beginn des interaktiven Computerzeitalters zu einigen Konflikten und einer Dichotomie führen: Das eine Labor wollte den menschlichen Verstand ersetzen, das andere wollte ihn erweitern. Dieser Gegensatz steht bis heute im Zentrum der digitalen Welt. Während KI-Systeme versuchen, menschliche Tätigkeiten zu ersetzen, setzt IA auf eine Leistungssteigerung des menschlichen Geistes durch technologische Erweiterungen – und hat damit ebenfalls eine Welt im Blick, in der Menschen weniger gebraucht werden. Engelbarts IA-Vision nahm mit dem Aufkommen des Personal Computers (PC) in den 1970er-Jahren erstmals konkret Gestalt an, obwohl er als Träumer und Außenseiter verschrien war. Steve Jobs beschrieb es wohl am besten, als er den PC damals "Fahrrad für den Verstand" nannte.

Sechs Jahrzehnte nach Beginn der Forschung stehen wir heute kurz davor, auch McCarthys Vision zu verwirklichen. Auf den Straßen von San Francisco sind selbstfahrende Autos inzwischen ein alltäglicher Anblick. Microsoft-Forscher haben ein Papier mit der Kernthese veröffentlicht, wonach die leistungsstärksten KI-Systeme bereits heute "Funken von künstlicher allgemeiner Intelligenz" aufweisen und somit Maschinen seien, die dem menschlichen Verstand nahekommen.

Die Erfolge der KI-Forscher werfen allerdings Fragen auf: Hat sich das Silicon Valley womöglich wieder in einen seiner eigenen Hypes verrannt? Tatsächlich gibt es einige Hinweise darauf, dass die KI-Revolution langsamer vorankommt, als ihre Anhänger behaupten. So hat zum Beispiel noch niemand eine Idee, wie man Chatbots vom "Halluzinieren" abbringt, also von ihrer beunruhigenden Neigung, vermeintliche Fakten zu erfinden und diese mit falschen Quellen zu belegen. Schlimmer noch: Manche Kritiker warnen, dass die Fortschritte von ChatGPT und anderen Sprachmodellen eine allzu starke Vermenschlichung von Beziehungen zwischen Mensch und Maschine mit sich bringen. Die Linguistin Emily Bender von der University of Washington prägte den Begriff "stochastische Papageien", um darauf hinzuweisen, dass übermenschliche Fähigkeiten wohl eine Illusion bleiben dürften.

Wie dem auch sei: Das Silicon Valley lässt sich in seinem Eifer nicht bremsen. Dort rechnet man fest mit dem baldigen Erscheinen von Maschinen mit übermenschlichen Fähigkeiten. Die neuen, innovativen Technologien lassen zur gleichen Zeit dystopische Visionen aus einem halben Jahrhundert Science-Fiction aufleben. Von Tötungsmaschinen wie dem Terminator und HAL 9000 bis hin zu zerebralen Liebhaberinnen wie der ätherischen Stimme von Scarlett Johansson in dem Film Her tauchen reihenweise Fantasien auf. KI-Erfinder selbst fordern inzwischen von der Politik, ihre Branche zu regulieren. Was scherzhaft als "Büroklammer-Problem" bezeichnet wird – das Schreckgespenst einer superintelligenten Maschine, die die Menschheit vernichtet, während sie unschuldig ihre Aufgabe erfüllt, eine große Anzahl von Büroklammern herzustellen –, macht deutlich, dass Künstliche Intelligenz keine moralischen Entscheidungen treffen kann.

Vielleicht ist das anhebende Gezeter um eine existenzielle Bedrohung durch KI-Systeme aber auch unbegründet. Kann es nicht sein, dass es bei den jüngsten Fortschritten im KI-Bereich gar nicht um eine Dichotomie zwischen KI und IA geht, sondern eher um eine seltsame Vermischung von beiden Ansätzen, die bereits heute das Menschsein verändert? Diese neue Beziehung zeichnet sich durch eine engere Verzahnung von menschlicher Intelligenz und maschinellen Fähigkeiten aus, wobei KI und IA verschmelzen und die Art der menschlichen Interaktion und Entscheidungsfindung verändern. Insbesondere die plötzliche und unerwartete Verfügbarkeit von natürlicher menschlicher Sprache als Schnittstelle zwischen Mensch und Maschine markiert eine neue Epoche.

Großrechner wurden zunächst vorwiegend von Fachleuten beim Militär und in der Wissenschaft genutzt. Seitdem sich aber die moderne Halbleitertechnologie weiterentwickelte und die Mikroprozessorchips leistungsfähiger und preiswerter wurden, erreichte jede neue Computergeneration mehr Menschen. Sogenannte Minirechner hielten in den 1970er-Jahren Einzug in die Unternehmen, ein Jahrzehnt später saßen bereits etliche Angestellte vor PCs. Es folgten der Homecomputer und schließlich das Smartphone. Gegenwärtig erleben wir den nächsten Schritt bei der Entstehung eines globalen Computernetzes: Wenn Maschinen die menschliche Sprache beherrschen, hat grundsätzlich jeder Mensch Zugriff auf einen Computer.

Bei der Erörterung möglicher KI-Konsequenzen sollte man die Fernsehserie Raumschiff Enterprise berücksichtigen. Dort gibt es eine feindliche außerirdische Rasse namens "Borg". Die Borg vergrößern ihre Macht, indem sie Lebewesen durch chirurgische Eingriffe mit kybernetischen Komponenten gewaltsam in Drohnen verwandeln. Der Schlachtruf der Borg lautet: "Widerstand ist zwecklos, ihr werdet übernommen!" Trotz bis in die 1970er-Jahre zurückreichender Warnungen von Fachleuten, dass Computer den menschlichen Verstand zwar erweitern, aber niemals ersetzen dürfen, wurde unsere Beziehung zu den von uns selbst geschaffenen Maschinen nie umfassend diskutiert. Was das Menschsein bedeutet, hat der Philosoph Martin Buber in seiner Beschreibung der "Ich – Du"-Beziehung gut beschrieben. Er definierte es als eine direkte, gegenseitige, offene und ehrliche Beziehung zwischen Menschen.

Im Gegensatz dazu beschrieb er auch eine "Ich – Es"-Beziehung, in der Menschen mit unbelebten Gegenständen umgehen und andere Menschen bisweilen wie Objekte behandeln, die nur aufgrund ihrer Nützlichkeit geschätzt werden. Heute im Zeitalter der Computertechnologie müssen wir eine neue Art von Beziehung hinzufügen, die als "Ich – Es – Du" beschrieben werden könnte und in der neuen vernetzten digitalen Welt bereits weit verbreitet ist.

Mit der globalen Vernetzung der menschlichen Kommunikation hat sich in kürzester Zeit ein computergestütztes System herausgebildet, mit dem der größte Teil der sozialen, wirtschaftlichen und politischen Interaktion heute durch Algorithmen vermittelt wird. Ob im Handel, bei der Partnersuche oder im Videochat: Die meisten menschlichen Interaktionen finden heute nicht mehr von Angesicht zu Angesicht statt, sondern mittels eines computergesteuerten Filters, der bestimmt, wen wir treffen und was wir lesen, und so zunehmend die uns umgebende digitale Welt gestaltet.

KI-Systeme läuten das Ende des werbefinanzierten Internets ein. Immer mehr Risikokapital fließt in Tech-Unternehmen, die sich auf die Entwicklung von Chatbots spezialisiert haben. Diese Bots sollen Menschen davon überzeugen – das heißt: manipulieren –, bestimmte Produkte zu kaufen. Sie werden so zu einem zunehmend wichtigen Bestandteil des modernen Handels.

Am extremsten geht Elon Musk vor: Der reichste Mann der Welt will die Menschheit zum Mars bringen und warnt zugleich davor, dass Künstliche Intelligenz zu einer wachsenden Bedrohung für unsere Zivilisation werden könnte. Im Jahr 2016 gründete Musk die Firma Neuralink, ein Tech-Unternehmen, das mit implantierten Mikrochips eine Gehirn-Computer-Schnittstelle schaffen will. Das menschliche Gehirn wird digital aufgerüstet. Angeblich soll diese Schnittstelle der Menschheit ermöglichen, KI-Systeme besser zu steuern, um auf diese Weise die womöglich bedrohliche Vorherrschaft einer künftig immer mächtigeren KI im Terminator-Stil über unsere Spezies abwehren zu können. Es wäre freilich naiv zu glauben, dass eine solch enge Kopplung von Mensch und Maschine nicht auch das genaue Gegenteil bewirken könnte, dass also die Technologie das menschliche Gehirn steuert. Computernetzwerke sind bekanntlich keine Einbahnstraßen.

Von entscheidender Bedeutung für unsere Gesellschaften wird es künftig sein, eine klare Grenze zu ziehen: zwischen dem, was den Menschen, und dem, was eine Maschine ausmacht. Da die KI-Systeme immer leistungsfähiger werden, wächst eine ernst zu nehmende Gefahr heran. Eine enge Kopplung von Mensch und Maschine schafft gefährliche Abhängigkeiten, die unsere Handlungsfähigkeit und Autonomie beschränken. Die Fähigkeit des Menschen, auch ohne die Unterstützung von Hightech zu funktionieren, wird zunehmend beeinträchtigt. Entfernbare Schnittstellen zur Maschine könnten eine Lösung sein – so behielte der Mensch die Kontrolle darüber, wann und wie er KI-Werkzeuge einsetzt. Auf diese Weise können wir vielleicht von den Vorteilen der Künstlichen Intelligenz profitieren und zugleich die Risiken einer allzu großen Abhängigkeit besser kontrollieren.

Vor allem aber müssen wir der Versuchung widerstehen, unsere neuen Begleiter zu vermenschlichen. In den 1980er-Jahren machte Ronald Reagan den Slogan "Vertrauen, aber überprüfen" populär, um die Beziehung der USA zur Sowjetunion zu kennzeichnen. Wie aber kann man einer Maschine vertrauen, die keinen moralischen Kompass hat? Das Leitbild für das neue Zeitalter muss deshalb lauten: "Überprüfen, aber niemals vertrauen".