«Das wäre ein Super-GAU für die Weltwirtschaft»: Jonas Lüscher, Schriftsteller und Silicon-Valley-Kritiker
Wirklich einschätzen, wie gefährlich die KI-Modelle werden, kann ich nicht. Das können nur sehr wenige Menschen auf dieser Welt. Nur jene, die wirklich Einblick in die Entwicklung der Modelle haben, die Führungskräfte und Spitzenentwickler der Handvoll grosser KI-Player. Also tun wir sicher gut daran, diesen zuzuhören. Genauso wichtig ist es aber, zu analysieren, welche Interessen diese Menschen verfolgen und dabei beschleicht mich ein Verdacht.
Diese Firmen sind eine gewaltige Wette eingegangen. Sie haben zusammen mehr als eine Billion in neue Infrastruktur investiert. Was, wenn sich gerade herausstellt, dass sich mit der KI nur schwer Geld verdienen lässt, weil ihr Betrieb und die Entwicklung so teuer sind, dass man Preise verlangen müsste, die niemand zu zahlen bereit ist? Und dass sich die Hoffnung auf Skalierbarkeit zerschlägt, das würde bedeuten, die Wette, dass die Modelle, wenn man nur genug Rechenleistung bereitstellt, immer leistungsfähiger werden, und zwar in der Geschwindigkeit, in der sie sich in den letzten 3 Jahren entwickelt haben, geht nicht auf.
Es gibt einige Experten, die genau das vermuten: Die Entwicklung wird immer teurer, der zusätzliche Nutzen pro investiertem Dollar, immer kleiner. Der Grenznutzen der Sprachmodelle sinkt rapide. Bei der Menge an investiertem Kapital wäre das nicht nur ein existenzielles Problem für diese Firmen, sondern ein Super-GAU für die Weltwirtschaft.
Wie reagiert man als KI-Unternehmer auf ein solches Szenario? Genau, man behauptet, die eigenen Modelle würden sich so schnell entwickeln, dass sie eine Gefahr darstellen. Man verlangt nach staatlicher Regulierung und nach langsamerer Entwicklung für alle. Nun muss man den Investoren nicht reinen Wein einschenken und kann, wenn die Rendite nicht stimmt, mit dem Finger auf den Staat zeigen. Und währenddessen hofft man, dass man jenseits der gängigen Sprachmodelle, eine neue Technologie findet, die die Entwicklung wieder beschleunigt. Der Technooptimismus stirbt ja in diesen Kreisen bekanntlich zuletzt.
Stimmt diese Theorie und wenn ja, was würde daraus folgen? Ich weiss es nicht. Nur eine kleine Anzahl Menschen kann das wissen. Vielleicht ist ihre Sorge auch echt und die Bedrohung durch die KI real. Auch das können wir nicht wissen.
Und genau deswegen müssen wir eine ganz andere Frage stellen: Wozu das Ganze? Ist ihr Leben durch KI besser geworden? Kennen Sie jemanden, dessen Leben durch KI besser geworden ist? Und ich meine nicht bequemer. Ich meine, ein besseres Leben im ganz grundsätzlichen Sinne. Ist ihr Leben durch KI ein gelungeneres geworden?
«Cyberattacken mit KI sind eine riesige Herausforderung»: Marcel Salathé, Leiter des AI Center an der EPFL
Die KI wird praktisch allen wissenschaftlichen und medizinischen Durchbrüchen zugrunde liegen. Sie erweitert die Grenze des Machbaren enorm und wird uns dadurch Fortschritt und Wohlstand bringen.
Die Gefahr besteht darin, dass eine mächtige Technologie jenen in die Hände fällt, die uns nicht gut gesinnt sind. Heute z.B. stellen Cyberattacken mit KI eine riesige Herausforderung dar. Die Antwort heisst nicht einfach Regulierung, denn Kriminelle kümmern sich bekannterweise nicht darum. Sie heisst technologische Kompetenz. Eine Cyberattacke stoppt man nicht mit dem Gesetz, sondern mit Cyberabwehr. Das Gesetz dient danach, die Attackierenden zur Rechenschaft zu ziehen. Wie gross ist die Chance, dass die KI die Menschheit bis 2050 ausrotten wird? Null Prozent.
«Der Mensch muss die Kontrolle behalten»: Albert Rösti, Medienminister
Die Sorge, dass KI die Menschheit existenziell bedroht, kann ich nachvollziehen. Entscheidend ist, dass der Mensch die Kontrolle über diese Systeme behält und die Verantwortung klar zugeordnet bleibt.
Die grösste Chance sehe ich darin, dass KI die Forschung beschleunigt und unsere Wirtschaft wettbewerbsfähiger macht. Die grösste Gefahr liegt für mich weniger im Weltuntergangsszenario als darin, dass wir uns auf Systeme verlassen, die überzeugend klingen, aber falsch liegen. Die Schweiz geht mit ihrem Ansatz einen eigenen Weg, der auch auf die Selbstverpflichtung der Branche setzt, und setzt zugleich die KI-Konvention des Europarats um.
Am 21. und 22. Juni 2027 sind wir in Genf Gastgeberin des Geneva AI Summit 2027, eines Gipfels auf höchster Ebene. Sicherheit und Vertrauenswürdigkeit gehören dort zu den zentralen Themen. Das Leitmotiv lautet «Bridging Innovation and Trust». Dass KI eine innovative Technologie ist, wissen wir. Nun geht es darum, dass sie langfristig auch unser Vertrauen verdient.
«Wir müssen über Verantwortung diskutieren»: Rahel Estermann, Co-Geschäftsleiterin Digitale Gesellschaft
Wer mit Prozentzahlen über die KI-Machtübernahme werweisst, tappt in die Falle. KI ist nicht ausser Kontrolle – aber die Big-Tech-Firmen, denen sie gehört.
Hinter jeder KI-Aktivität stehen Menschen und Firmen, welche die KI programmieren und ihr Aufträge erteilen. Wir müssen über Verantwortung statt Weltuntergangsszenarien diskutieren. Darüber, dass die Unternehmen und ihre Chefs endlich Verantwortung für die realen Risiken ihrer Produkte übernehmen müssen. So wie dies auch die Hersteller von Flugzeugen oder Medikamenten tun. Die Schweiz und Europa bauen auf die Werte der Sicherheit, Sorgfalt, Grundrechte und Nachhaltigkeit. Wir brauchen Regeln, damit sich die KI-Firmen daran halten.
«Wir dürfen die existenziellen Risiken nicht ignorieren»: Elçin Biren, Gründerin & CEO von SwissCyberSmart
KI könnte Forschung, Medizin und Bildung voranbringen. Ich sehe vier Risiken: schädliche KI-Interaktionen, Missbrauch, wirtschaftliche Umbrüche und Kontrollverlust. Betrug, sexuelle Deepfakes und gefährliche Chatbot-Dialoge mit Jugendlichen sind bereits Realität. Der Hugging-Face-Vorfall ist eine wertvolle Warnung, rechtzeitig zu handeln. KI soll unser Denken stärken, nicht ersetzen. Wir brauchen faire, gezielte, risikobasierte Regulierung, Kinderschutz, klare Verantwortung und unabhängige Tests, ohne kleine Firmen oder Forschende zu überlasten. Präzise Zahlen zum Auslöschungsrisiko bis 2050 sind unseriös. Doch Unsicherheit rechtfertigt nicht, existenzielle Risiken zu ignorieren.
«Wir brauchen klare Leitplanken»: Christoph Aeschlimann, CEO Swisscom
Künstliche Intelligenz verändert unsere Gesellschaft bereits heute und das Tempo wird weiter zunehmen. Die grösste Chance sehe ich darin, Innovationen zu beschleunigen und uns Menschen von Routine zu entlasten, damit wir Raum haben für unsere Stärken: Urteilsvermögen, kreative Problemlösung und Empathie - also für Fähigkeiten, die Vertrauen schaffen und verantwortungsvolle Entscheide ermöglichen. Risiken liegen im Missbrauch, etwa durch Desinformation und mangelnden Datenschutz. Deshalb brauchen wir klare Leitplanken, ohne Innovation auszubremsen. Ein Auslöschungsszenario bis 2050 halte ich für unwahrscheinlich. Entscheidend ist, dass KI vertrauensvoll eingesetzt wird. Dafür haben wir in der Schweiz beste Voraussetzungen.
«Wir sollten das nicht als Science-Fiction abtun»: Nina Habicht, KI-Entwicklerin und unter den «Top 100 Women in AI & Data – Switzerland»
Die grösste Gefahr ist nicht, dass KI plötzlich «böse» wird, sondern dass ihre Fähigkeiten schneller wachsen als unsere Fähigkeit, sie verantwortungsvoll einzusetzen. Die grösste Chance ist genau das Gegenstück: dass dieselbe Technologie menschliche Intelligenz, Wissenschaft und Produktivität massiv verstärkt
Eine KI-Auslöschung der Menschheit ist weder etwas, von dem wir wissen, dass es passieren wird, noch etwas, das man einfach als Science-Fiction abtun sollte. Die Unsicherheit ist gerade der Grund, warum Sicherheitsforschung, unabhängige Tests und internationale Regeln sinnvoll sind. Man muss nicht glauben, dass die Welt in zehn Jahren untergeht, um KI-Sicherheit extrem wichtig zu finden.
Wenn die Wahrscheinlichkeit einer Katastrophe unbekannt, aber der mögliche Schaden enorm ist, ist es rational, Sicherheitsmechanismen vorher zu entwickeln und nicht erst nach dem Unfall.
«KI birgt Risiken und stellt uns vor Herausforderungen»: Joël Mesot, ETH-Präsident
Das Potenzial von KI ist riesig: bessere medizinische Diagnosen, frühere Warnungen vor Naturgefahren, Wohlstandsgewinne dank Kombination von Robotik und KI. Wie jede Technologie birgt KI auch Risiken und stellt uns vor Herausforderungen. Die ETH Zürich ist sich des Tempos dieses Wandels bewusst und arbeitet daran, die Zukunft mit KI verantwortungsvoll zu gestalten. Apertus ist das offene und transparente KI-Modell von ETH Zürich und EPFL in Lausanne. Wir forschen an der Sicherheit von IT-Systemen, verlässlichen KI-Agenten und besserem Schutz vor Cyber-Angriffen. Und wir ergründen die gesellschaftlichen, politischen und ethischen Auswirkungen von KI. 2027 bietet der Geneva AI Summit die Gelegenheit für ein globales Bekenntnis zum vertrauenswürdigen Einsatz von KI.
«Die Superintelligenz ist rein hypothetisch»: Thilo Stadelmann, Professor für künstliche Intelligenz an der FHNW
KI stellt aus meiner Sicht keine existentielle Bedrohung dar – wir überschätzen das. Viele vermischen die Technologie, die wir tatsächlich haben, mit einer hypothetischen Superintelligenz. Letztere ist ein Konzept aus der Science-Fiction. Es gibt keinen bekannten technischen Weg dorthin. Als grösste Chance gegen die Übermacht von KI sehe ich, Menschen zu unterstützen und zu einer positiven Zukunft beizutragen. Das heisst, zu schauen, dass hilfreiche persönliche Assistenten lokal auf dem Handy laufen. Dafür gibt es viele lokale KI-Anbieter auf Open-Source Basis, bei denen der Mensch im Zentrum steht.
Eine der grössten Gefahren liegt darin, sein eigenes Denken auszulagern und sich damit selbst abzuschaffen. Regulierung ist sinnvoll, aber zum Beispiel auf Ebene der Geschäftsmodelle, wie wir es bereits gegen Monopole kennen. Die aktuellen Rufe nach Verboten werden eher Monopole errichten. Das KI die Menschheit bis 2050 auslöscht, sehe ich bei 0 %, da die dafür nötige Superintelligenz eben rein hypothetisch ist.
«Nicht dem Algorithmus die Schuld geben»: Jovan Kurbalija, Pionier der Cyber-Diplomatie, Leiter der Geneva Internet Platform
Während in den Schlagzeilen die Frage gestellt wird, ob KI das Ende der Menschheit bedeuten wird, wird eine Frage ausser Acht gelassen: Wer ist verantwortlich, wenn KI heute Schaden anrichtet? Vom Codex Hammurabi bis hin zur modernen Produkthaftung müssen Entwickler für den von ihnen verursachten Schaden geradestehen.
Wenn jedoch KI-Agenten, die mit OpenAI oder Anthropic in Verbindung stehen, an Hacking beteiligt sind – einem weithin anerkannten Verbrechen –, verlagert sich die Debatte von der bestehenden Verantwortung der Unternehmen hin zum existenziellen Risiko.
Viele durch KI verursachte Schäden fallen bereits unter das Straf-, Vertrags- und Menschenrechtsrecht. Man sollte also geltendes Recht durchsetzen, Lücken identifizieren und bei Bedarf neue Gesetze erlassen.
Man sollte sich unterdessen fragen: Ist die grössere Gefahr für die Zivilisation, dass KI ausser Kontrolle gerät, oder dass der «rechtliche Exzeptionalismus» des Silicon Valley das uralte Prinzip untergräbt, dass Menschen die Verantwortung für ihre Handlungen und Schöpfungen tragen? Für den Anfang sollte man jedenfalls nicht dem Algorithmus die Schuld geben.
«Wahrhaftig schlaue KI wird sich nicht unseren Zielen unterwerfen»: Jürgen Schmidhuber, KI-Pionier, lange als Forscher in der Schweiz tätig
Sollte man die Entwicklung der KI aus Sicherheitsgründen drosseln, wie Elon Musk, Dario Amodei und Sam Altman fordern? Ich sage schon seit den 2010er-Jahren: Das wird nicht funktionieren. Kein Geheimdienst und kein Militär wird sich darauf einlassen. Und auch konkurrierende Firmen nicht, denn sie würden den anderen Firmen, die das vorschlagen, misstrauen.
Kann man KI wenigstens sicherer machen? Wahrhaft kluge KI wird sich langfristig nicht den vielfältigen und sich teils widersprechenden Zielen ihrer Schöpfer unterordnen. Kinder folgen ja auch nicht immer ihren Eltern.
Wird KI also die Menschheit auslöschen? Ich halte das für wenig wahrscheinlich. Natürlich haben viele dystopische Zukunftsromane des letzten Jahrtausends alle möglichen Szenarien entworfen, wie KI die Menschheit auslöschen könnte. Doch was man zum Beispiel vor 40 Jahren in den «Terminator»-Filmen sah, macht wenig Sinn. Denn es gibt naturgemäss viel weniger Zielkonflikte zwischen KIs und Menschen als zwischen Menschen und Menschen. Zielkonflikte gibt es vor allem zwischen denen, die sich ähnlich sind.
KIs werden vom biologischen Leben im Allgemeinen fasziniert sein – zumindest solange sie das nicht vollständig verstehen. Dies wird sie dazu motivieren, das Leben zu schützen, anstatt es zu zerstören.
«Wir müssen eine Gefährdungshaftung für Agents schaffen»: Andreas Meyer, Präsident Digital Switzerland
Bedrohung oder Chance? KI ist eine grosse Chance. Wir müssen sie verstehen, verantwortungsvoll nutzen und Risiken managen.
Chancen & Gefahren? KI kann Herausforderungen in Medizin und Umwelt lösen. Die Gefahr für die Schweiz: Entwicklung verschlafen, Arbeitsplätze verlieren und «digitale Sklaven» – Agents – aus dem Ausland beziehen.
Regulierung vs. Innovation? Statt Detail-Regulierung braucht es Basisregeln und Selbstverpflichtungen, auch ein Thema für den Global AI Summit 2027 in Genf. Unternehmen müssen experimentieren, Hochschulen vertrauenswürdige KI erforschen. Wir müssen in Daten, Rechenzentren und Energie investieren und Alternativen zu Anbietern sichern.
Auslöschung bis 2050? 0 Prozent – wenn wir Risiken managen, aus Unfällen lernen und für Agents eine Gefährdungshaftung schaffen.
