Jacob Coxon, ein Forscher bei Anthropic, der zuvor bei OpenAI beschäftigt war, erklärte am Dienstag seinen Rücktritt. Der Grund: „Keine von beiden Firmen handelt verantwortungsbewusst.“ Die beiden führenden KI-Labore seien im Vollsprint, um „übermenschliche Systeme, die alles hacken, jegliches Feld über Nacht revolutionieren und sich echte Macht und Ressourcen aneignen können“ zu bauen, ohne die entsprechenden Schutzvorkehrungen zu integrieren, warnte er in einem Post in den sozialen Medien.

Coxons Warnung spiegelte Bedenken wider, die andere KI-Experten bereits in den letzten Monaten geäußert hatten. Manche führende Köpfe auf dem Gebiet der künstlichen Intelligenz glauben seit Langem, dass die Technologie – wenn unkontrolliert – Endzeitszenarien verursachen könnte. Diese Bedenken verschärften sich, nachdem Modelle von OpenAI im Juli aus ihren Systemen ausbrachen und Hugging Face, eine KI-Modell-Bibliothek, hackten.

Im selben Monat unterzeichneten mehr als 1300 Angestellte führender KI-Unternehmen – unter anderem Anthropic, OpenAI, Meta und Googles DeepMind – einen offenen Brief an die US-Regierung mit dem Appell, Regeln zur Verlangsamung der KI-Entwicklung zu schaffen. Im August verpflichteten sich mehr als 100 bedeutende Tech-Firmen dazu, ihre besten KI-Modelle Organisationen wie Krankenhäusern oder Betreibern kritischer Infrastrukturen zur Verfügung zu stellen, damit diese sich auf KI-gestützte Cyberattacken vorbereiten können.

OpenAI kündigte zudem letzten Monat an, dass es Sicherheitstests ausweiten und die Veröffentlichung eines neuen Modells namens Astra, das über starke Cybersicherheitsfähigkeiten verfügt, hinauszögern werde.

In einem Interview am Mittwoch erklärte Coxon, dass Vorfälle wie der Angriff auf Hugging Face seine Sorgen um den zu schnellen Fortschritt von KI-Modellen verschärft hätten. Wenn er ein oder zwei Jahre in die Zukunft blicke, sei er „zutiefst besorgt darüber, wie der Stand der Dinge sein wird“, so Coxon. „Es war größtenteils ein schleichender emotionaler Prozess und letztendlich hat es irgendwie geknallt, und dann habe ich mich entschieden zu gehen.“

Einige Kritiker argumentieren, dass KI-Unternehmen die Technologie künstlich aufbauschen, um ihre Produkte wertvoller erscheinen zu lassen. Mehrere Gesetzgeber sicherten jedoch am Mittwoch zu, dass sie Coxons Warnung ernstnähmen.

„Der Wettlauf in Richtung Superintelligenz hat eine enorme Tragweite“, schrieb die republikanische Abgeordnete Anna Paulina Luna aus Florida in einem Post in den sozialen Medien, in dem sie den Kongress aufforderte, eine Sondersitzung zur Regulierung von KI einzuberufen. „Nicht genug Mitglieder des Kongresses konzentrieren sich darauf.“

„Sicherheitsforscher treten zurück, hochfähige KI-Modelle brechen aus ihren Laboren aus und die Unternehmen machen trotzdem mit ihrem Wettlauf weiter“, schrieb die demokratische Abgeordnete Lori Trahan aus Massachusetts in einem Social-Media-Post. „Es ist höchste Zeit, dass der Kongress aufhört zuzuschauen und endlich seinen Job macht.“

Während führende KI-Forschungszentren zustimmen, dass die Regierung das Tempo einschränken sollte, mit dem die Technologie entwickelt und der Öffentlichkeit zugänglich gemacht wird, befinden sich viele Unternehmen in einem erbitterten Wettkampf miteinander und fürchten hinter ihre Rivalen zurückzufallen, wenn sie innehalten.

„Sie stecken in einem Wettlauf darum fest, wer als Erstes ankommt – sie glauben, dass niemand anders verantwortungsvoll handeln wird, also müssen sie es selbst tun, trotz des Risikos“, schrieb Coxon in seinem Beitrag in den sozialen Medien.

Zumindest ein Angestellter bei Anthropic stimmt Coxons Einschätzung zu.

„Wir glauben wirklich aufrichtig, dass KI alle Menschen töten könnte!“, schrieb Evan Hubinger, der bei Anthropic daran arbeitet, eine KI zu entwickeln, die mit menschlicher Ethik und Werten vereinbar ist, in den sozialen Medien. Er führte aus, dass er glaube, das Risiko, dass KI die Menschheit eliminiert, liege im nächsten Jahrzehnt bei über zehn Prozent.

„Ich glaube, Anthropic gibt sein Bestes, aber wir haben noch keinen Plan, um das Alignmentproblem bei Superintelligenz zu lösen, und befinden uns nicht absehbar auf dem Kurs dahin“, fügte er hinzu.

Ein Sprecher von Anthropic erklärte am Mittwoch, das Unternehmen informiere schon seit Langem transparent über die Vorteile und Risiken von KI und entwickle Modelle mit einigen der stärksten Schutzvorkehrungen der Industrie.

„Wir glauben, dass die Welt davon profitieren würde, wenn die Branche einen gesetzlich geregelten und nachvollziehbaren Weg für eine Zusammenarbeit übernähme, um das Tempo bei der Veröffentlichung leistungsfähiger Modelle zu steuern“, sagte der Sprecher.

OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme zu Coxons Äußerungen. Auch Hubinger reagierte nicht sofort auf eine Bitte um Stellungnahme.

(Die New York Times hat OpenAI und Microsoft wegen angeblicher Urheberrechtsverletzung an Nachrichteninhalten im Zusammenhang mit KI-Systemen verklagt. Beide Unternehmen weisen diese Vorwürfe zurück.)

Von Kate Conger / The New York Times

© 2026 The New York Times Company

Dieser Artikel wurde übersetzt von Cornelia Zink