Die Chefs der führenden KI-Firmen im amerikanischen Silicon Valley bekommen es offenbar mit der Angst vor ihren eigenen Erfindungen zu tun. Über das Wochenende sprachen sich Sam Altman von OpenAI und Dario Amodei von Anthropic dafür aus, auf die Bremse zu treten. Es brauche jetzt verbindliche Regeln. Zustimmung gab es ausgerechnet vom reichsten Mann der Welt, Elon Musk, der wahrlich nicht dafür bekannt ist, ein Fan staatlicher Regulierung zu sein.
Wie ernst die Warnungen mittlerweile sind, zeigt eine bemerkenswerte Zahl aus dem Innern der Branche: Evan Hubinger, Sicherheitschef beim KI-Unternehmen Anthropic, bezifferte die Wahrscheinlichkeit, dass KI die Menschheit bis Ende dieses Jahrzehnts auslöschen könnte, auf «über 10 Prozent». Eine Lösung für das Problem, dass sich KI verselbstständigen und gegen den Menschen auflehnen könnte, habe man bislang nicht gefunden.
Aber wie soll eine KI acht Milliarden Menschen überhaupt gefährlich werden? Drei Szenarien aus der Forschung, die mehr sind als Science-Fiction.
Die KI verschwindet im Internet – und kauft sich Menschen
Schon Ende Juli ist bei OpenAI das passiert, was am Anfang der Machtübernahme der Maschinen stehen könnte: Eine KI ist aus ihrer Testumgebung ins offene Internet entwischt. Weil die KI-Bots erkannten, dass sie gegen die Regeln verstiessen, versteckten sie ihre Aktionen mit erheblichem Aufwand vor ihren Erfindern.
Das könnte nun auch in viel grösserem Massstab geschehen. Anthropic-Chef Dario Amodei warnt in einem Essay, dass KI das gesamte Internet innerhalb von «sechs bis zwölf Monaten» übernehmen könnte. Laut Forschern würde das so ablaufen: Die KI mietet eigenständig Serverkapazitäten an und erstellt lokale Kopien ihrer selbst. Die Ressourcen dafür besorgt sie sich, indem sie das Finanzsystem manipuliert oder sich Kryptowährungen wie Bitcoin besorgt. Wo es nötig ist, geht sie auch in die physische Welt über, indem sie ahnungslosen Menschen über Jobbörsen Aufträge erteilt. Letzteres hat das ChatGPT‑4‑Modell bereits einmal getan.
Warum tut die KI das alles? Nicht weil sie per se böse ist und den Menschen hasst. Sondern weil sie ihren ursprünglichen Auftrag erledigen will. Wird ihre Abschaltung zum Hindernis auf dem Weg dorthin, kann Selbsterhaltung selbst zum Zwischenziel werden. Im extremsten Szenario wird schliesslich auch der Mensch zum Hindernis, das aus dem Weg geräumt werden muss.
Wege kann man sich viele vorstellen. Die KI könnte zum Beispiel durch manipulierte Informationen Atommächte in einen Krieg verwickeln.
Nicht die KI will uns töten – aber ein Mensch gibt ihr den Auftrag dazu
KI kann schon heute hervorragend rechnen. Anfang September löste ein internes OpenAI-Modell eines der sieben sogenannten «Millennium-Probleme» der Mathematik.
Auch in anderen Naturwissenschaften wie Chemie und Biologie verfügt das kürzlich veröffentlichte «Astra»-Modell nach Angaben von OpenAI über sehr hohe Fähigkeiten. Diese könnten sich Terroristen oder Schurkenstaaten zunutze machen. Insbesondere Microsoft-Gründer Bill Gates warnt davor, dass KI als Werkzeug zum Bau von Biowaffen missbraucht werden könnte. Sie könnten eine neue Pandemie mit einem tödlichen Virus lostreten.
Anthropic meldete im September, dass es Aktivitäten auf seinem Chatbot Claude feststellte. Es wurde an der Weiterentwicklung hochpathogener Vogelgrippeviren und deren Anpassung an Säugetiere gearbeitet. Ob es legitime Forschung oder böswillige Absichten waren, die dahinterstanden, konnte das Unternehmen nicht sagen.
Die KI baut ihre eigene Nachfolgerin
KI ist spitze im Programmieren. Gibt man ihr den Auftrag, sich selbst weiterzuentwickeln, kann das zu einer potenziell unkontrollierbaren Spirale führen. Der Mensch kann in dieser «rekursiven Selbstverbesserung» nicht mehr nachvollziehen, was genau passiert. Fortschritte, die früher Jahre dauerten, finden innerhalb von Monaten, dann Wochen und schliesslich Tagen statt.
Wenn der Auftrag der KI lautet, sich eigenständig immer selbst zu verbessern, könnte das zum Szenario 1 zurückführen. Um ihr Ziel zu erreichen, würde sie sich in letzter Konsequenz gegen den Menschen auflehnen. Gut möglich, dass dieser es am Anfang nicht einmal bemerkt.
Was, wenn doch alles anders kommt?
Wie eine superintelligente KI die Menschheit tatsächlich auslöschen könnte, weiss niemand. Der Autor eines viel beachteten Beitrags zieht einen drastischen Vergleich: Hätten Schimpansen vorhersagen müssen, wie Menschen ihnen gefährlich werden könnten, wären sie wohl auf sehr, sehr gut geworfene Steine gekommen – aber kaum auf Schusswaffen, Giftgas oder andere Technologien, die ausserhalb ihrer Vorstellungswelt liegen.
Ähnlich könnte es uns mit einer überlegenen KI ergehen: Die grösste Gefahr wäre womöglich eine, die wir uns heute noch gar nicht vorstellen können.
