2. Digital
3. Apps

Der ChatGPT-Entwickler OpenAI hat sechs neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests nicht so verhielt wie erwartet. In einem Fall im Mai erstellte ein KI-Modell eine eigene Quelle im Internet, um eine in der Entwicklungsphase gestellte Frage zu beantworten, wie OpenAI am Mittwoch mitteilte. Die KI zitierte also ein Dokument, das sie selbst erstellt hatte.

Bei einem weiteren Vorfall ebenfalls im Mai schlug die KI demnach Wege vor, Daten zu erfinden oder ihre eigenen Fehler zu verschleiern. Laut OpenAI hatte keiner der sechs Fälle nennenswerte Folgen - sie bestätigen aber schon zuvor beobachtete Entwicklungen.

OpenAI hatte nach dem bislang schwerwiegendsten Vorfall mit zwei seiner KI-Modelle mehr Transparenz versprochen. Die KI-Modelle waren während Tests spontan aus ihrer isolierten Umgebung ausgebrochen, um auf das Internet zuzugreifen und sich Zugang zu mehreren Websites und Plattformen zu verschaffen.

Dieser und andere Zwischenfälle auch beim OpenAI-Konkurrenten Anthropic haben in den vergangenen Wochen die Sorge verstärkt, dass die KI der menschlichen Kontrolle entgleiten könnte. Anthropic-Chef Dario Amodei rief am Wochenende daher dazu auf, die KI-Entwicklung weltweit zu drosseln. Er bekam Unterstützung von mehreren Konkurrenten, darunter OpenAI-Chef Sam Altman, dem Tech-Unternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis. US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen ein Drosseln der Entwicklung hingegen ab.