OpenAI hat schärfere Sicherheitsmaßnahmen beim Training neuer KI-Modelle angekündigt. Gleichzeitig setzt der KI-Hersteller die Arbeit am unveröffentlichten KI-Modell Astra teilweise aus, bis er glaubt, sie sicher fortsetzen zu können. Vorangegangen war ein eigenständiger Cyberangriff von OpenAI-KI auf die Webseite Hugging Face, was von dem KI-Hersteller zunächst unbemerkt blieb.

Die Bewertung von Astra habe ergeben, dass kritische Cyberfähigkeiten nicht ausgeschlossen seien, schreibt das Unternehmen in einem Blogbeitrag. Darunter versteht der Hersteller, dass ein Modell eigenständig Zero-Day-Lücken in kritischen Systemen erkennen und ausnutzen kann, mit lediglich einem allgemeinen Ziel als Vorgabe. Bei dem Angriff auf Hugging Face sei Astra nach Angaben des Unternehmens aber nicht beteiligt gewesen. Mehrere KI-Modelle hatten die Webseite angegriffen, um dort Lösungen für einen KI-Benchmark zu erbeuten, was OpenAI aber erst viel später bemerkte. Später wurden noch weitere Angriffe auf andere Unternehmen bekannt.

OpenAI stoppt „interne Aktivitäten“

Wie OpenAI-Vertreter jetzt auf der Black-Hat-Konferenz berichteten, war es den Modellen in ihrer OpenAI-Testumgebung gelungen, heimlich über ein Messageboard miteinander zu kommunizieren und gemeinsam eine Zero-Day-Lücke zu finden, die ihnen die Kontrolle über den Server verschaffte und letztlich die Attacke auf Hugging Face ermöglichte. OpenAI bemerkte nach einiger Zeit zwar die unerlaubte Kommunikation der Modelle, dass sie da aber schon den Server kontrollierten, fiel erst später auf.

Der KI-Anbieter will jetzt Maßnahmen zur Überwachung und Abschirmung seiner Modelle bei ihrer Entwicklung verbessern. Bis das abgeschlossen ist, sollen „interne Aktivitäten“, bei denen auch Astra involviert ist, vorerst pausiert werden – weil aktuelle Sicherheitsvorkehrungen dafür nicht ausreichen. Von Maßnahmen für OpenAIs externes Umfeld, etwa der Nennung von Indicators of Compromose (IoC) mit denen Unternehmen erkennen können, ob sie von OpenAI-KI angegriffen wurden, ist bisher nicht die Rede. Auch auf der Black Hat war OpenAI das schuldig geblieben.

Vertreter des Weißen Hauses haben diese Woche führenden Unternehmen der KI-Branche einen freiwilligen Prüfrahmen für neue Modelle vorgestellt, berichten mehrere Medien. Er ist demnach nicht öffentlich und richtet sich an geschlossene KI-Modelle auf „dem neuesten Stand der Technik“, die ein nationales Sicherheitsrisiko darstellen könnten. Wie genau sie „den neuesten Stand der Technik“ definiert, lässt die US-Regierung offen, auch für ein nationales Sicherheitsrisiko legt sie keine gesonderte Definition zugrunde. KI-Hersteller könnten das auch so lesen: Es zeugt von Qualität, wenn man sein Modell der US-Regierung vorlegt, weil das eigene Modell dann potenziell so leistungsfähig ist, dass es die nationale Sicherheit bedrohen könnte. Und: Wer jetzt als KI-Hersteller mit dem Prüfrahmen arbeitet, verhindert damit womöglich strengere Regeln. Aus der US-Politik kommen schon Rufe nach einem „AI Kill Switch Act“.

Offene KI-Modelle sind den Berichten zufolge von dem Prüfrahmen grundsätzlich ausgenommen. Entwickler können ihre Modelle bis zu 30 Tage vor der geplanten Veröffentlichung zur Prüfung einreichen. Anschließend sollen Regierungsstellen deren Cyberfähigkeiten anhand eines geheimen Benchmark-Systems bewerten und die Modelle mit Bundesbehörden sowie ausgewählten Unternehmenspartnern teilen. Alle Tests sollen in einer besonders abgesicherten und überwachten Umgebung mit einem sehr kleinen Personenkreis erfolgen. Würde OpenAI hier ein neues Modell einreichen, dem es selbst nicht ganz Herr werden kann, käme das ungelegen.

OpenAI-Konkurrent Anthropic hatte sich in der Vergangenheit in seiner Responsible Scaling Policy dazu verpflichtet, die Entwicklung eigener Modelle zu stoppen, sollten sie die Kontrollmöglichkeiten des Unternehmens übersteigen. Im Februar machte das Unternehmen dann aber eine Kehrtwende und aktualisierte die Richtlinie. Die Begründung: Wenn nicht alle KI-Hersteller solche Selbstverpflichtungen eingingen, würden diejenigen, die es nicht tun, das Tempo des Fortschritts bestimmen. Das, so Anthropic, würde die Situation insgesamt unsicherer machen. Wenig später erschien das KI-Modell Mythos, welches eigenständig Zero-Day-Lücken finden und ausnutzen konnte. Zuletzt fiel auch KI von Anthropic durch unkontrollierte Cyberangriffe auf, ebenso die von Meta.

(nen)