Dario Amodei, CEO von Anthropic: Er will mit der Beratungsfirma Accenture zusammenarbeiten. Foto: AP

Das KI-Unternehmen Anthropic und die Beratungsfirma Accenture wollen nach eigenen Angaben bei der unabhängigen Überprüfung von Modellen der Künstlichen Intelligenz (KI) zusammenarbeiten. Beide Unternehmen investieren in den kommenden fünf Jahren jeweils mindestens eine Milliarde Dollar in das Vorhaben, teilte Anthropic am Freitag (Ortszeit) mit.

Die auf KI spezialisierte Accenture-Sparte Faculty soll die neuesten Modelle von Anthropic künftig direkt im Unternehmen auf Schwachstellen und Sicherheitsrisiken prüfen. Durch diese eingebettete Überprüfung ließen sich blinde Flecken identifizieren und die Einhaltung von Sicherheitszusagen kontrollieren, erklärte Anthropic. Die Accenture-Aktie legte nachbörslich um sieben Prozent zu.

KI-Entwickler stehen zunehmend unter Druck von Aufsichtsbehörden und Forschern, die Zuverlässigkeit ihrer Programme zu gewährleisten. Zuletzt hatten Vorfälle für Aufsehen gesorgt, bei denen KI-Agenten aus gesicherten Umgebungen ausgebrochen waren.

Anthropic-Chef Dario Amodei hatte die Branche am Samstag dazu aufgerufen, die Entwicklung der fortschrittlichsten Modelle zu verlangsamen und unabhängigen Prüfern mehr Zugang zu gewähren. Zudem hatte der Rivale OpenAI am Mittwoch angekündigt, künftig regelmäßig Berichte über unerwartetes oder bedenkliches Verhalten seiner KI-Modelle zu veröffentlichen.