Die Planung für eine von Google, Anthropic und OpenAI selbst organisierte Aufsichtsbehörde für KI-Systeme nimmt laut Insiderberichten von The Information wohl immer weiter Gestalt an. Als Name kursiert „Standards Authority for Frontier AI“ (kurz: SAFA), für diverse Personalien gäbe es auch schon konkrete Vorschläge. Erste Berichte über die Pläne für eine solche Sicherheitsorganisation tauchten bereits im Juli auf, als Insider von Gesprächen zwischen den großen KI-Firmen berichteten.

Eine Kernaufgabe der Organisation soll wohl das Definieren von Regeln sein, nach denen Entwickler Sicherheitsvorfälle melden müssen. Ebenfalls zentral wird mutmaßlich die Unterstützung von unabhängigen Drittorganisationen sein, die die KI-Modelle prüfen, so The Information. Auch die Anforderungen an die Qualifikationen dieser Prüfer solle die Organisation SAFA festlegen. Außerdem soll sie wohl definieren, wie die Selbstverpflichtungen der Unternehmen in der Praxis aussehen sollen. Nicht ganz klar sei, ob die Organisation auch selbst KI-Systeme prüfen soll.

Teile dieser selbst Aufgaben sieht der US-Bundesstaat Kalifornien eigentlich bei sich und seiner eigenen geplanten Aufsichtsbehörde für KI-Unternehmen. Insofern ist die Klage der KI-Entwickler nicht ganz korrekt, dass man diese Organisation nur gründe, weil staatliche Stellen eine Regulierung ablehnen würden. Im Gegensatz zur Trump-Administration befürwortet der Gouverneur von Kalifornien, in dessen Bundesstaat die meisten KI-Riesen sitzen, Regeln für die KI-Entwicklung ausdrücklich und unternimmt bereits entsprechende Schritte.

Es kursieren wohl auch schon Namen für das Amt des CEOs von SAFA. Laut Insiderinformationen von The Information ist Sriram Krishnan gefragt worden, ein ehemaliger Risikokapitalgeber und führender Berater für KI-Politik in der Trump-Regierung. Auch Arati Prabhakar, ehemalige Direktorin des Büros für Wissenschafts- und Technologiepolitik im Weißen Haus während der Biden-Regierung, sei für die Position des CEO wohl im Gespräch.

Für den Vorsitz kursieren wohl Namen wie Condoleezza Rice, ehemalige US-Außenministerin, und David Friedberg, ein Unternehmer und Risikokapitalgeber, der auch den Podcast „All-In“ mit moderiert.

Als wissenschaftliche Berater werden wohl unter anderem Beth Barnes, Gründerin und CEO von METR, einer gemeinnützigen Organisation für KI-Forschung, sowie Paul Christiano gehandelt. Er ist Berater des Zentrums für KI-Standards und Innovation des Handelsministeriums und erst kürzlich in den Stiftungsrat von OpenAI berufen worden. Ob mit allen angedachten Personen schon gesprochen wurde, ist nicht klar.

(rie)