Am Donnerstag soll das KI-Treffen zwischen Donald Trump und Xi Jinping stattfinden – und täglich trudeln immer mehr Forderungen nach einer internationalen Regulierung von KI-Systemen ein. Nun haben mehrere Länder, die UN und zuletzt auch OpenAI sich dem Aufruf angeschlossen. Ob sie genug öffentlichen Druck erzeugen können, um sowohl Trump als auch Xi Jinping von Regulierungen zu überzeugen, bleibt abzuwarten.

In einem gemeinsamen Aufruf fordern 22 Unterzeichner transparente Sicherheitsregeln und verpflichtende, unabhängige Tests vor der Veröffentlichung neuer Modelle. Es sollen allgemeine Standards vorangetrieben werden und der Zugang zu wissenschaftlichen Kapazitäten und vertrauenswürdigen Bewertungen von KI-Systemen für alle Länder sichergestellt werden, betonen sie. Außerdem sollen die UN-Mitgliedstaaten über die Schaffung einer internationalen Institution beraten, die Standards festlegen und eine Überprüfung der KI-Systeme ermöglichen kann.

Unter den Unterzeichnern sind einige europäische Länder wie Deutschland, Norwegen oder die Niederlande und Ursula von der Leyen selbst. Aber auch zahlreiche weitere Länder, von Kanada und Australien über Kasachstan und Kenia bis hin zu kleinen Nationen wie Island, Moldau oder Singapur. Die USA und China fehlen erwartungsgemäß.

Dabei werden sogar in China wohl, unabhängig von dem Statement der 22 Staaten, laut einem Artikel der New York Times kritische Stimmen laut werden: Der Staat würde zu viel Geld in eine Branche pumpen, die kaum Arbeitsplätze kreiere, lautet die Kritik.

Schon vergangene Woche hatte die UN sich öffentlich recht klar zu KI-Regulierungen geäußert: Länder, „die an der Spitze der KI-Entwicklung stehen“, sollten Kontakt aufnehmen, Informationen austauschen und sich auf gemeinsame Leitlinien einigen, „um diesen Wettlauf nach unten zu vermeiden, der eines Tages zu einer gigantischen Katastrophe auf globaler Ebene führen könnte“, sagte UN-Generalsekretär António Guterres.

Kurz vor dem Treffen von Donald Trump und Xi Jinping veröffentlicht die UN nun auch einen technischen Bericht über die Risiken von KIs.

Auch OpenAI hat einen Vorschlag für internationale technische Standards für besonders leistungsfähige KIs veröffentlicht – insbesondere solche, die sich selbst verbessern. Die USA sollten, so die Forderung des KI-Unternehmens, gemeinsam mit anderen Staaten einheitliche Regeln für Tests, Risikobewertungen und die Meldung von Sicherheitsvorfällen bei sogenannter Frontier-KI entwickeln. Eine verpflichtende Lizenzierung oder Vorabprüfung vor der Veröffentlichung von Modellen lehnt OpenAI dabei ausdrücklich ab.

Konkret schlägt OpenAI Standards in mehreren Bereichen vor: einheitliche Verfahren zur Messung und Bewertung von Modellfähigkeiten, gemeinsame Definitionen und Schweregrade für Sicherheitsvorfälle, Regeln für menschliche Aufsicht über automatisierte KI-Forschung sowie Berichte über Probleme bei der Ausrichtung von Modellen an menschlichen Zielen. Die einzelnen Staaten sollen selbst entscheiden, ob und wie sie die Standards in nationales Recht umsetzen.

Als institutionellen Rahmen bringt OpenAI das beim US-amerikanischen National Institute of Standards and Technology (NIST) angesiedelte Center for AI Standards and Innovation (CAISI) ins Spiel. Darüber hinaus verweist das Unternehmen auf ein entstehendes internationales Netzwerk nationaler KI-Sicherheitsinstitute – darunter ausdrücklich auch das von Deutschland, Japan, Frankreich, dem Vereinigten Königreich und Indien.

(rie)