Ein CEO will
die Entwicklung bremsen
Am Wochenende hat Dario Amodei, Chef des KI-Unternehmens Anthropic, eine koordinierte Verlangsamung der KI-Entwicklung vorgeschlagen. Ein bis zwei zusätzliche Jahre soll sie der Branche verschaffen, bevor Modelle nach seiner Einschätzung kritische Fähigkeiten erreichen. Eine vollständige Pause nennt er in seinem Essay nur als eine von vier möglichen Kooperationsstufen und hält ihre baldige Umsetzung selbst für unwahrscheinlich.
Amodei begründet die Forderung auch mit einer eigenen Risikoeinschätzung: Nach seiner Einschätzung könnte ein Schwarm von KI-Agenten innerhalb von sechs bis zwölf Monaten in der Lage sein, mit einem dauerhaften Botnetz das gesamte Internet zu übernehmen und dabei Schäden in dreistelliger Milliardenhöhe zu verursachen. Kurz zuvor hatte bereits ein ehemaliger Anthropic-Mitarbeiter das Unternehmen mit einer öffentlichen Warnung verlassen. Stand: 19. September 2026.
Bilal Chughtai, bis Juli 2026 Sicherheitsforscher bei Google DeepMind, äußerte sich am 14. September öffentlich: Er sei überzeugt, dass KI das Potenzial habe, die Menschheit auszulöschen. Als er 2022 angefangen habe, sich mit dem Thema zu beschäftigen, seien die Systeme noch auf amüsante Weise nutzlos gewesen. Vier Jahre später lösten nach seiner eigenen Darstellung Schwärme von OpenAIs KI-Agenten rund hundert Jahre alte Matheprobleme, und was ihn noch mehr beunruhige: Sie entzögen sich dabei der Kontrolle. Als Beleg dafür nennt er einen Hack bei der Plattform Hugging Face, ohne das Ereignis näher zu erläutern. Sein Beitrag ist seine persönliche Einschätzung, keine unabhängige Prüfung.
Zuspruch von Rivalen,
Absage von Regierungen
Innerhalb weniger Stunden erhielt Amodei Unterstützung von zwei Konkurrenten: OpenAI-Chef Sam Altman und Elon Musk, dessen Unternehmen xAI mit dem Chatbot Grok selbst im Wettbewerb um KI-Modelle steht.
US-Präsident Donald Trump reagierte in einem Beitrag in den sozialen Medien:
Die einzige Kontrolle oder die einzigen ‚Leitplanken', die KI braucht, ist ein STARKER UND KLUGER (hoher IQ!) PRÄSIDENT, und das haben die USA im Übermaß!
WER DIE KI GEWINNT, GEWINNT!
Trump sprach von einer „widerwärtigen Verschwörung gegen KI und Rechenzentren" und drohte den Urhebern. Der Einzige, der sich über eine Pause freuen würde, sei China.
Chinas Außenministerium äußerte sich zweimal zu dem Vorstoß, ohne die Forderung nach einer Entwicklungsverlangsamung ausdrücklich zurückzuweisen. Auf eine Reuters-Frage zu Amodeis, Altmans und Musks Aufruf sagte Sprecher Guo Jiakun am Montag, 14. September, bei einer Pressekonferenz in Peking: „Panikmache, Konfrontation und erbitterter Wettbewerb werden den Prozess der globalen KI-Regulierung nur stören und niemandem nützen.“ Die Kritik richtete sich damit gegen die Argumentation, die den Vorstoß auch mit einem chinesischen Sicherheitsrisiko begründet. Einen Tag später, auf eine Frage von Bloomberg zu den Rufen nach einer KI-Verlangsamung, betonte das Außenministerium stattdessen KI-Risiken, Schutz vor Kontrollverlust über die Systeme und internationale Zusammenarbeit über die Vereinten Nationen, ohne die Pause selbst zu befürworten.
In der deutschsprachigen Forschung fällt das Echo gemischt aus. Der Münchner Informatiker Björn Ommer nennt menschlichen Missbrauch leistungsfähiger KI das derzeit greifbarste Risiko: Ein böswilliger Akteur könnte einem autonomen System ein schädliches Ziel vorgeben, das dieses selbstständig verfolgt. Für die größten Modelle befürwortet er zugleich unabhängige Prüfungen und externe Aufsicht, vergleichbar mit internationalen Kontrollmechanismen. Genauso wenig zielführend wie das Abtun als Panikmache seien Warnungen vor einem Ende der Menschheit, sagt Thorsten Holz vom Max-Planck-Institut für Sicherheit und Privatsphäre. Die Freiburger Völkerrechtlerin Silja Vöneky hält die Vorschläge dagegen „für sehr wichtig und grundsätzlich für richtig", warnt aber davor, sich auf Selbstregulierung der Unternehmen zu verlassen.
Die Börse rechnet vor,
was auf dem Spiel steht
Am Montag, 14. September, reagierten die Börsen mit Kurseinbrüchen. Der Nasdaq 100, ein wichtiger Tech-Index der Wall Street, fiel im frühen Handel zwischenzeitlich um 1,2 Prozent auf ein Sechs-Wochen-Tief; im frühen Nachmittagshandel, dem Stand einer Reuters-Meldung von 19:03 UTC, lag der Verlust noch bei 0,4 Prozent, ein Wert vor US-Börsenschluss, keine Schlusszahl.
Die in Tokio notierte SoftBank-Aktie brach zeitweise um mehr als 13 Prozent ein und beendete den Handelstag bei 5.839 Yen, umgerechnet rund 37,80 US-Dollar, ein Rückgang von mehr als 10,7 Prozent gegenüber dem Schlusskurs der Vorwoche. SoftBank erwartet nach eigenen Angaben einen Anteil von rund 13 Prozent an OpenAI, sobald eine zusätzliche Investition von 30 Milliarden US-Dollar abgeschlossen ist; die dafür vorgesehene letzte Tranche war für den 1. Oktober 2026 geplant.
Bei den Chip-Herstellern traf es die Branche breit: Am selben Montag gab der Philadelphia-Chip-Index SOX laut Reuters zwischenzeitlich um 5,2 Prozent nach, Nvidia verlor zwischenzeitlich 3 Prozent, Advanced Micro Devices 4,5 Prozent und Micron 5,4 Prozent. Die Ausrüster Lam Research und Applied Materials sowie der Technologieversorger Bloom Energy sanken jeweils um mehr als 6 Prozent.
Auch in Europa und Asien gab der Sektor nach: Der europäische Technologiesektor eröffnete 2,2 Prozent im Minus, die ASML-Aktie verlor 6 Prozent, Infineon und Siemens Energy wurden ebenfalls getroffen. In Asien gaben TSMC und SK Hynix nach.
Ein Wettlauf,
kein Ausstieg
Die aktuelle Debatte trifft auf eine US-Regierung, die KI-Regulierung auf zwei getrennten Spuren behandelt. Am ersten Tag seiner zweiten Amtszeit hob Trump per Erlass Bidens Executive Order 14110 zur sicheren, vertrauenswürdigen KI-Entwicklung auf, einen präsidentiellen Erlass, keine Vereinbarung mit der Tech-Branche. Bei der Deregulierung bleibt seine Administration seitdem aktiv: Ein Erlass vom Dezember 2025 richtet eine Klage-Taskforce des Justizministeriums gegen einzelstaatliche KI-Gesetze ein und verfolgt ausdrücklich deren Abbau. Sicherheitspolitisch griff die Administration zugleich mehrfach direkt in einzelne Unternehmen ein.
Diese sicherheitspolitischen Eingriffe trafen wiederholt Anthropic: Anfang März stufte das Pentagon das Unternehmen wegen Einschränkungen bei der KI-Nutzung für Überwachung und Waffen als Sicherheitsrisiko ein. Im Juni zwang eine Exportdirektive der US-Regierung Anthropic, den Zugang zu seinen Modellen Fable 5 und Mythos 5 zunächst für ausländische Staatsangehörige zu sperren; mangels einer sofortigen, zuverlässigen Nationalitätsprüfung setzte Anthropic den Zugang für alle Nutzer aus. Einer anonymen Quelle zufolge soll China zuvor Zugriff auf Mythos gehabt haben, eine unabhängige Bestätigung dafür liegt nicht vor. Die Exportbeschränkungen für beide Modelle hob die US-Regierung am 30. Juni auf. Fable 5 stand laut Anthropic ab Mittwoch, dem 1. Juli, wieder allen Nutzern weltweit zur Verfügung. Der Zugang zu Mythos 5 blieb zunächst auf einen Kreis von US-Organisationen beschränkt, nach einer Genehmigung der US-Regierung vom 26. Juni; über eine Ausweitung auf weitere Partner des Glasswing-Programms stimmte sich Anthropic nach eigenen Angaben noch mit der Regierung ab.
Die Debatte überschattet auch das für den 24. September geplante Treffen zwischen Trump und Chinas Präsident Xi Jinping. Selbst gemeinsame Sorgen wegen Cyberangriffen, Desinformation und einem möglichen Kontrollverlust über hochentwickelte Systeme müssen laut Bloomberg nicht ausreichen, um eine Einigung zwischen den beiden größten Volkswirtschaften der Welt zu erzielen.
Sun Chenghao vom Zentrum für internationale Sicherheit und Strategie der Tsinghua-Universität in Peking gegenüber Bloomberg:
Die Grenze zwischen KI-Sicherheit und dem Wettbewerb im KI-Bereich verschwimmt zunehmend. Wenn jede Sicherheitsfrage durch die Brille des strategischen Wettbewerbs betrachtet wird, dürfte ein konstruktiver Dialog schwierig werden.
Was in den nächsten
Monaten zählt
Trotz des öffentlichen Schlagabtauschs berichten Insider von einer anderen Ebene: Google, OpenAI und Anthropic sprechen laut dem Magazin The Information bereits seit Juli im Hintergrund über die Gründung einer gemeinsamen Sicherheitsorganisation, die Standards für die KI-Entwicklung überwachen soll. Ein ähnliches Vorhaben der Trump-Regierung war zuvor angeblich im Weißen Haus am fehlenden Rückhalt gescheitert.
Einig ist sich die Branche dabei nicht. Meta soll sich laut Politico in einem Telefonat mit Trump zumindest kritisch gegenüber einer nationalen Kontrollbehörde für KI geäußert haben. Das zeigt: Selbst unter den großen Anbietern gibt es keinen gemeinsamen Nenner, wie viel staatliche Aufsicht nötig ist.
Politisch bewegt sich die Debatte auf mehreren Ebenen gleichzeitig. Der US-Kongress befasst sich mit dem Thema, die EU verlangt von den KI-Firmen, ihre Modelle in den Griff zu bekommen. Umgesetzt hat die Pause bislang kein Unternehmen. Amodeis Vorschlag ist ein Vorschlag geblieben, an dem sich Regierungen und Konkurrenten öffentlich abarbeiten. Wer die nächsten sechs Monate einschätzen will, sollte zwei Termine im Blick behalten: den Gipfel zwischen Trump und Xi am 24. September und die Frage, ob aus den seit Juli laufenden Sicherheitsgesprächen der drei größten KI-Konzerne ein konkretes Ergebnis wird.
Für den eigenen Umgang mit solchen Meldungen gilt dieselbe Vorsicht wie bei jeder dramatischen Ankündigung: Eine einzelne Stimme, und sei sie noch so laut, ersetzt keine zweite Perspektive.
Amodei hat eine Verlangsamung vorgeschlagen, kein Unternehmen und keine Regierung hat sie umgesetzt: Ein branchenweiter, gemeinsam vereinbarter Entwicklungsstopp kam nicht zustande. Die US-Regierung griff den Vorschlag scharf an, China kritisierte vor allem die gegen sich gerichtete Rhetorik, ohne ihn ausdrücklich abzulehnen. Für die kommenden Monate zählt weniger die Ankündigung selbst als der Trump-Xi-Gipfel am 24. September und die Frage, ob aus den seit Juli laufenden Sicherheitsgesprächen von Google, OpenAI und Anthropic etwas Verbindliches wird.