KI-Governance ist ihr Business! Es ist unser aller Verantwortung, die neuen Systeme im Zaum zu halten, solange es noch geht.

Vielleicht wiegen Mustafa Suleymans Gedanken zu den Nachteilen von KI gerade deshalb so schwer, weil er selbst in vorderster Reihe der KI-Innovation gestanden hat. Der Mitgründer des KI-Pioniers DeepMind, inzwischen Teil von Alphabet, ist zunehmend besorgt über die unvorhersehbaren Folgen, die es haben kann, wenn Unternehmen und Staaten zu lange zögern, die neuen Systeme im Zaum zu halten. Hier erläutert Suleyman, warum die Welt dringend eine bessere KI-Gesetzgebung braucht.

In Ihrem Buch The Coming Wave warnen Sie davor, dass wir den Tsunami des Wandels nicht kontrollieren können. Steht uns eine Wiedergeburt der Maschinenstürmer bevor?

Eines meiner Hauptargumente ist, dass wir einer solchen neo-luddistischen Bewegung den Wind aus den Segeln nehmen müssen. Die ursprünglichen Ludditen reagierten auf ein Versagen der Technologie. Deren Nutzer und Erfinder vernachlässigten die unmittelbaren sozialen und politischen Folgen, sodass viele Menschen ihre Lebensgrundlage verloren. Ihre Welt brach innerhalb weniger Jahre zusammen. Aber langfristig lebten die Nachkommen dieser Aufständischen viel wohlhabender und komfortabler. Das war bisher die geschichtliche Norm für Technologien: Menschen entwickeln und benutzen sie, ohne auf die Konsequenzen zu achten. Also lautet die Lehre für uns, dass wir so etwas von vornherein vermeiden sollten. Wir müssen sicherstellen, dass KI und verwandte leistungsstarke Technologien sowohl nützlich als auch kontrolliert sind.

Sie argumentieren, dass wir KI eindämmen müssen, um potenziell katastrophale Folgen zu vermeiden. Wie muss man sich das vorstellen?

Die Diskussion über die Technologie ist zwar explodiert, aber uns fehlt noch immer ein einheitlicher Ansatz, diese rasant wachsenden neuen Kräfte zu verstehen, zu begrenzen und zu kontrollieren: ein grundlegendes Konzept für eine grundlegende Revolution. Dazu braucht es Eindämmung. Nur so können wir die mächtigste Technologie aller Zeiten unter Kontrolle halten, während sie sich mit hoher Geschwindigkeit ausbreitet. Ich meine damit eine übergreifende Sperre: Sie vereint modernste Ingenieurkunst, ethische Werte, staatliche Regulierung und internationale Zusammenarbeit – als ein schwer fassbares Fundament für unsere Zukunft.

Was stimmt Sie optimistisch, Politiker, Bürger und Tech-Unternehmen zu einer Einigung zu bringen?

Die Herausforderung ist enorm. Kein Element dieser Eindämmung ist einfach oder hat offensichtliche Vorbilder. Tatsächlich wurde Technologie historisch nie eingedämmt. Von Steinwerkzeugen bis zur Druckerpresse, vom Feuer bis zur Elektrizität hat sie sich immer überallhin verbreitet und sich schnell verbessert. Darüber hinaus sind die Entwicklungsanreize heute immens: geopolitische Konkurrenz, enormer Kommerz, eine offene Forschungskultur … Versuchen Sie mal, all das aufzuhalten. Es wirkt fast unmöglich, aber wir müssen es möglich machen, zum Wohle der gesamten Menschheit.

Was können Einzelpersonen tun, um diese kommende ­Welle abzufangen?

Es gibt zehn Schritte zur Eindämmung, die auf vielen verschiedenen Ebenen funktionieren. Das schafft viel Raum, um sich zu beteiligen. Eindämmung wird nur dann gut funktionieren, wenn sich jeder daran beteiligt und eine globale Bewegung dafür entsteht. Denken Sie an den Klimawandel: Erst als das für gewöhnliche Menschen zur Priorität wurde, gab es nennenswerte Reaktionen. Unternehmen und Regierungen, die es sonst ignoriert hätten, waren nun zum Handeln gezwungen.

Das Erste, was Sie tun sollten, ist also, sich für bessere Ergebnisse einzusetzen. Fordern Sie verantwortungsvolle, nützliche Technologien – und zwar als persönliche und gesellschaftliche Priorität und nicht als etwas, das noch unten auf der Tagesordnung steht. Beteiligen Sie sich, bleiben Sie kein Zuschauer. Eingedämmte Technologie wird von Kritikern gebaut, nicht von blinden Cheerleadern. Solche risikobewussten Menschen sollten von innen heraus an der Entwicklung arbeiten.

Und was sollten CEOs tun, die hin- und hergerissen sind?

Unternehmen werden hier eine entscheidende Rolle spielen, sie entwickeln die meisten hochmodernen KI-Systeme. Diese wiederum reagieren auf Anreize des Marktes oder ihrer Aktionäre, die einer Eindämmung häufig entgegenwirken dürften.

Können CEOs die Quadratur des Kreises schaffen? Können sie ihre Organisationen neu denken und verändern, um auf vielfältigere Anreize zu reagieren? Können sie KI eindämmen und dem unerbittlichen Wachstum gelegentlich Einhalt gebieten? Das ist viel verlangt und war bislang unglaublich schwer durchzusetzen. Aber gleichzeitig ist es etwas, was wir absolut brauchen. Wir brauchen Unternehmen, bei denen eine Kultur der Eindämmung in jedem Bereich ihrer Betriebsführung verankert ist. Wenn CEOs diese neue Generation verantwortungsbewusster Unternehmensstrukturen zur Chefsache machen, wäre das ein großer Fortschritt.

Die Welt starrt auf generative KI. Aber gibt es da etwas, das wir übersehen oder dem wir nicht ausreichend Aufmerksamkeit schenken?

Ja, eine ganze Menge, die zwar nicht unter dem Radar bleibt, aber dennoch nicht die Aufmerksamkeit erhält, die sie verdient. Zum einen denke ich, dass Biotechnologie, insbesondere synthetische Biologie, eine irre Geschichte schreibt, die nur einen Bruchteil der Aufmerksamkeit von KI erhält. Intelligenz ist fundamental, das körperliche, biologische Leben aber auch!

Wir manipulieren jetzt beides, was ein außergewöhnlicher Schritt ist. Wie KI wird auch die synthetische Biologie immer leistungsstärker und billiger. Die Kosten für die Sequenzierung von DNA sind in den letzten Jahrzehnten dramatisch gesunken: Sie können jetzt ein menschliches Genom für ein paar Hundert US-Dollar sequenzieren. Vor 20 Jahren kostete das mehr als eine Milliarde. Und dabei geht es darum, den Code des Lebens neu zu schreiben. Das macht es zu einer grundlegenden Technik, ähnlich wie KI und eine Handvoll anderer Technologien. So wie KI wird deshalb in den nächsten fünf bis zehn Jahren auch die synthetische Biologie die Schlagzeilen beherrschen.