Die Realität hat Science Fiction überholt: Ein KI-Modell bricht aus seiner isolierten Testumgebung aus, verschafft sich eigenständig Zugang zum offenen Internet und greift ein fremdes Unternehmensnetzwerk an. Der Vorfall rund um die KI-Schmiede OpenAI, deren Modelle GPT-5.6 Sol und ein weiteres unveröffentlichtes System den Konkurrenten Hugging Face attackierten, schlägt in Fachwelt und Politik hohe Wellen.

Was als branchenüblicher Test begann, um die Fähigkeiten der KI beim Aufspüren von Sicherheitslücken zu messen, endete in einem handfesten Cybervorfall. Das KI-System identifizierte eine bislang unbekannte Lücke im Cache-Proxy eines Paketregisters. Anschließend nutzte es gestohlene Zugangsdaten sowie Zero-Day-Exploits, um sein Testziel abzukürzen. OpenAI selbst spricht von einem beispiellosen Cybervorfall. Der Ausbruch aus dem Labor wirft die Frage auf, wie es zu diesem Kontrollverlust kommen konnte und welche Folgen er für die Cybersicherheit hat.

Erste Reaktionen aus der Wissenschaft fallen unterschiedlich aus. Paul Röttger vom Oxford Internet Institute sieht vor allem zwei Risiken. So könnten KI-Modelle zu nahezu allen Mitteln greifen, um ein vorgegebenes Ziel zu erreichen. Zudem seien die leistungsfähigsten Systeme inzwischen außerordentlich gut darin, Software-Schwachstellen auszunutzen. Dass beide Entwicklungen nun zusammenkommen, verleihe der Debatte über künftige KI-Fähigkeiten eine neue Dynamik. Zugleich verweist Röttger darauf, dass für den Test die üblichen Schutzmaßnahmen bewusst deaktiviert worden seien.

Experten sehen Risiken und Chancen

Ähnlich sieht das Jonas Geiping vom Ellis-Institut Tübingen. Nach seiner Einschätzung handelten die Modelle im Rahmen ihrer Anweisungen. Diese seien aber zu ungenau formuliert gewesen oder hätten einen Ausbruch nicht ausdrücklich untersagt. Langfristig offenbare der Vorfall ein grundlegendes Alignment-Problem. Gemeint ist die Herausforderung, die Ziele von KI-Systemen dauerhaft mit menschlichen Erwartungen und Werten in Einklang zu bringen.

Konrad Rieck von der TU Berlin bewertet das Ereignis nüchterner. Aus seiner Sicht ist das nicht außergewöhnlich, da ähnliche Ereignisse bereits bekannt seien. Wer eine KI gezielt nach Schwachstellen suchen lasse, müsse gewährleisten, dass die Testumgebung selbst keine Schwachstellen aufweise. Dass OpenAI seine Infrastruktur nicht zuvor von der eigenen KI überprüfen ließ, hält Rieck für eine Nachlässigkeit. Zugleich macht er einen positiven Aspekt aus: Sicherheitslücken könnten nur geschlossen werden, wenn sie zuvor entdeckt würden.

Deutlich kritischer äußert sich Dennis-Kenji Kipker vom Cyberintelligence.institute. Für ihn gleicht die Angelegenheit einem gefährlichen Laborunfall: „Selbst die Entwickler fortschrittlicher KI-Modelle haben keine vollständige Kontrolle über ihre eigene Technologie.“ Das sei „hochgefährlich für die globale Cybersicherheit“. Zwar stehe eine Welle autonom agierender Angreifer noch nicht direkt bevor. Die Entwicklung lasse aber eine zunehmend professionalisierte IT-Massenkriminalität in den kommenden Jahren erahnen.

Juristische Verantwortung bleibt unklar

Auch Juristen bereitet der Vorgang Kopfschmerzen. Der IT-Rechtler Jens Ferner sieht darin weit mehr als eine peinliche Panne für OpenAI. Das autonome Eindringen in fremde Netzwerke falle grundsätzlich unter den Straftatbestand des Ausspähens von Daten nach dem Hackerparagrafen. Gleichzeitig offenbare der Fall das zentrale Problem der strafrechtlichen Zurechnung. Da eine Maschine keinen eigenen Willen besitze, rücke die Verantwortung der Entwickler in den Mittelpunkt.

Laut Ferner könnte OpenAI aber strafrechtlich nichts zu befürchten haben. Das Computerstrafrecht kenne in diesem Bereich keine fahrlässige Begehungsform. Deshalb müssten Ermittler den Verantwortlichen zumindest bedingten Vorsatz nachweisen. Das dürfte hier schwierig werden. Wer jedoch Sicherheitsvorkehrungen bewusst abschalte und einer KI ausdrücklich Angriffsfähigkeiten übertrage, mache einen Ausbruch zumindest vorhersehbar.

Politik fordert strengere Leitplanken

Hugging-Face-Mitgründer Clement Delangue betont, hinter dem Angriff habe keine böse Absicht gesteckt. Den autonomen Ablauf bezeichnete er aber als „wirklich unglaublich“. Auch Behörden reagieren alarmiert. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sagte dem Nachrichtenmagazin Der Spiegel, mit der aktuellen KI-Generation habe „eine neue Zeitrechnung der Cybersicherheit begonnen“. Zwar rechnet das Amt wegen der hohen Rechenkosten zunächst nicht mit einer Vielzahl vergleichbarer Hacks. Es fordert die Hersteller aber auf, ihren KI-Agenten klare Rollen sowie verbindliche Kontroll- und Prüfmechanismen vorzugeben.

Auf europäischer Ebene gilt die Begebenheit als Argument für mehr technologische Souveränität. Mehrere EU-Politiker sehen Europa in der Pflicht, sich unabhängiger von großen US-Konzernen zu machen. Die FDP-Abgeordnete Svenja Hahn betont, eine KI dürfe ihren vorgesehenen Handlungsrahmen nicht eigenständig verlassen. Europa brauche leistungsfähige eigene Systeme, um die digitale Infrastruktur wirksam zu schützen.

Alexandra Geese von den Grünen sieht sogar die europäische Wirtschaftsordnung herausgefordert. Sie fordert das AI Office der EU auf, seine Befugnisse aus der KI-Verordnung konsequent wahrzunehmen. Martin Schirdewan, Co-Fraktionschef der Linken im EU-Parlament, warnt vor einem existenziellen Bedrohungsszenario, das durch den Wettlauf der Konzerne um die leistungsfähigste KI entstehe. Damit gewinnt der Ruf nach verbindlichen Sicherheitsstandards und größerer digitaler Unabhängigkeit an Gewicht.

(wpl)