OpenAI: Der ChatGPT-Entwickler hat erstmals Details dazu eingeräumt, wie eigene Modelle bei einem Sicherheitstest ausgebrochen sind und eine andere Firma attackiert haben. Foto: imago images/Westend61

Ein Modell auf Basis Künstlicher Intelligenz (KI) bricht aus und erlangt Zugang zum freien Internet. Dann noch ein Ausbruch. Dann noch einer. So wirken die jüngsten Geständnisse von KI-Firmen wie OpenAI, Anthropic und Meta. Von den Firmen wird das wie eine Art Werbung verkauft. Schaut her, wie gut unsere Modelle schon sind. Das ist aber die völlig falsche Diskussion.

Stellen wir uns vor, hier ginge es nicht um KI-Firmen, sondern um Unternehmen, die an Biowaffen forschen. Wenn dort eine potenziell menschheitsgefährdende Waffe einfach aus einem gesicherten Labor gelangen würde, wäre der Schock groß. Zu Recht. Solche Firmen könnten ultimativ sogar geschlossen werden.

Bei den KI-Firmen wirkt das bislang nicht so. OpenAI und Anthropic bereiten ihre Börsengänge vor. Die CEOs Sam Altman und Dario Amodei werden nicht müde, die Macht der von ihnen entwickelten Systeme zu betonen. So mächtig wie die Erfindung des Internets? Bestimmt. So einflussreich wie die ersten Dampfmaschinen? Vermutlich auch. So mächtig, dass künftige KI-Systeme die Menschheit ausrotten könnten? Auf jeden Fall. Zumindest, wenn man den CEOs glaubt.