Prof. Dr. Dennis-Kenji Kipker forscht und berät als Direktor des cyberintelligence.institute international zu Cybersicherheit, digitaler Resilienz sowie IT-Recht in China und den USA. Er ist Teil unseres Expertennetzwerks EXPERTS Circle.

Um den Fehler zu verstehen, muss man sich von der Vorstellung lösen, dass eine KI etwas nachschlägt, um eine Antwort zu einer Frage oder einem Begriff zu geben. Denn ein Sprachmodell ist keine Datenbank mit geprüften Einträgen, sondern eine Wahrscheinlichkeitsmaschine, die Sätze so fortsetzt, wie sie in ihren Trainingstexten am häufigsten vorkamen. Weiß sie über eine Person wenig, füllt sie die Lücke mit Mustern, und in Nachrichtentexten tauchen Anwälte nun einmal auffällig oft im Zusammenhang mit Gerichtsverfahren und Skandalen auf.

Technisch mag das Thema zwar brandneu sein, juristisch hat es aber auch ohne KI in der Vergangenheit schon ähnliche Fälle gegeben. Schon 2014 hat der Europäische Gerichtshof entschieden, dass ein Suchmaschinenbetreiber für seine Trefferlisten selbst verantwortlich ist und Treffer zu einem Namen auf Antrag entfernen muss, wenn die Interessen des Betroffenen überwiegen. Damals zeigte Google allerdings nur Verweise auf Texte anderer, während bei einer KI-Antwort der Anbieter die Behauptung selbst formuliert und sich kaum als bloßer Vermittler rausreden kann.

Wenn Sie von einer verleumderischen KI betroffen sind, gibt es ein paar grundlegende Dinge zu beachten:

• Als Erstes sollten Sie Beweise sichern, am besten mit Screenshots, auf denen Datum, der genaue Prompt und der Name des KI-Dienstes zu erkennen sind. Testen Sie mehrfach und ohne früheren Chatverlauf, damit niemand einwenden kann, Ihre eigenen Eingaben hätten die Antwort beeinflusst.
• Danach fordern Sie den Anbieter schriftlich auf, die falsche Aussage nicht mehr auszugeben, was den Vorteil hat, dass er sich ab dieser Meldung nicht mehr auf Unkenntnis berufen kann. Reagiert er nicht, kommt eine einstweilige Verfügung in Betracht.
• Eine zusätzliche Beschwerde bei der Datenschutzbehörde kostet zwar nichts, dauert aber, und wegen der Fristen empfiehlt sich früh der Rat einer Kanzlei für Presse- und Datenschutzrecht.

Wer darauf hofft, der Tech-Konzern müsse die Lüge nur schnell löschen, stößt auf ein Problem, denn in einem Sprachmodell steht kein Satz, den man technisch einfach eben so entfernen könnte. Das Wissen steckt vereinfachend gesprochen vielmehr als Wahrscheinlichkeiten in Milliarden Zahlenwerten. Praktisch bleibt daher zumeist nur ein Filter, der bei Fragen zu der Person zurückhaltend antwortet, was schnell geht, sich aber auch recht einfach umgehen lässt und wiederum Namensvettern ebenso wie die eigene Person treffen kann. Gezieltes Verlernen einzelner Inhalte für KI-Systeme wird zwar erforscht, funktioniert bisher aber noch nicht zuverlässig.

Der Fall zeigt, dass Maschinen über Menschen urteilen, ohne dass klar ist, wer dafür die Verantwortung übernimmt. Das Problem liegt dabei weniger darin, dass eine KI irrt, als darin, dass sie es mit der Autorität eines Nachschlagewerks tut.