Das Unternehmen xAI aus Austin im US-Bundesstaat Texas hat rechtliche Schritte gegen den Generalstaatsanwalt von Minnesota, Keith Ellison, eingeleitet. Anlass der Klage ist das als HF 1606 bekannte Gesetz des US-Bundesstaates, das am 1. August 2026 in Kraft treten soll. Dieser Rechtsakt verbietet die Bereitstellung und Nutzung von Software, die Bilder von bekleideten Personen nachträglich durch Künstliche Intelligenz entblößt. Zuwiderhandlungen ziehen massive Strafen nach sich. Bis zu 500.000 US-Dollar werden pro generiertem Bild fällig.

Für die Verantwortlichen bei xAI stellt diese Regelung einen direkten Eingriff in die durch den Ersten Zusatzartikel der US-Verfassung garantierte Meinungsfreiheit dar. Wie aus der offiziellen Klageerhebung vor dem zuständigen US-Bezirksgericht (PDF) hervorgeht, stört sich das von Elon Musk geführte Unternehmen hauptsächlich an der extrem weiten Definition des Begriffs der intimen Körperteile. Der Gesetzgeber soll sich laut xAI bei der Ausarbeitung einer Definition aus dem Sexualstrafrecht bedient haben. Folglich umfasse das Verbot auch die künstliche Generierung von inneren Oberschenkeln, männlichen Brüsten oder Gesäßen.

Die Verfasser der Klageschrift weisen darauf hin, dass eine Plattform mit Millionen aktiven Nutzer:innen schnell eine Summe von 50 Milliarden Dollar an Strafen anhäufen könnte. Das Resultat sei eine juristische Falle. Das Gesetz kriminalisiere harmlose Bilder.

Gefährdungshaftung ohne Ausweg für Plattformbetreiber

Wer künftig humoristische Prompts formuliert und etwa Politiker:innen in Badehosen an einem Strand generiert, löst nach Lesart von xAI bereits einen Verstoß aus. Als konkretes Beispiel führt das Unternehmen ein KI-generiertes Bild an, das den US-Präsidenten Donald Trump sowie weitere Politiker oberkörperfrei im Wasser zeigt.

Die Plattformbetreiber träfe in diesem Szenario eine verschuldensunabhängige Haftung. Strafen greifen selbst dann, wenn Unternehmen strenge Richtlinien durchsetzen und technische Filter tief in die eigenen Systeme integrieren. Ein Haftungsprivileg für „redliche Bemühungen“ existiert in dem Regelwerk nicht. Die Intention der Anwender:innen spielt rechtlich keine Rolle mehr.

Gouverneur Tim Walz unterzeichnete das Gesetz bereits im Vorfeld und ließ über das Netzwerk X in Richtung Elon Musk verlauten: „See you in court, creep“ (etwa: Wir sehen uns vor Gericht, Widerling). Generalstaatsanwalt Keith Ellison schlägt in eine ähnliche Kerbe. Die Nutzung von KI zur Erstellung von Nacktbildern gegen den Willen der Betroffenen ist „erschreckend“, zitiert das lokale Nachrichtenportal MPR News den Generalstaatsanwalt. Es gäbe viele lohnende Debatten über KI, diese gehöre jedoch nicht dazu. Ellison blickt der Klage offensichtlich gelassen entgegen.

Konstruktionsfehler in der Gesetzgebung?

Die Klageschrift verweist ergänzend auf bestehende rechtliche Alternativen. Der US-amerikanische TAKE IT DOWN Act setze beispielsweise zielgerichteter an und definiere illegale Inhalte anatomisch präziser, ohne legitime künstlerische Freiheit zu beschneiden. Dieser Rechtsakt setze zudem eine bewusste Verbreitung der Bilder voraus. Minnesota hingegen bestrafe bereits die rein lokale Generierung auf einem Endgerät, selbst wenn die Datei das System niemals verlässt.

Solche Argumente unterstreichen die Sorge vor einem Overbreadth-Effekt (einer juristischen Überbestimmtheit, die über das eigentliche Regulierungsziel hinausschießt). Das Gesetz verbiete dadurch unbeabsichtigt weite Teile völlig legaler Meinungsäußerung. Das Vorgehen des Parlaments in Minnesota bewerten juristische Beobachter:innen daher durchaus kritisch.

Doch die Argumentation des Unternehmens hat einen Haken: xAI inszeniert sich in der Klageschrift als machtloses Opfer einer überzogenen Regulierung, obwohl das Unternehmen die technischen Werkzeuge für den Missbrauch überhaupt erst programmiert und skaliert. Wer eine Maschine baut, die auf Zuruf extrem realistische Fälschungen menschlicher Körperteile ausgibt, kann die Verantwortung für die absehbaren Konsequenzen nicht vollständig an die Anwenderschaft delegieren. Ein Restzweifel bleibt: Die fortwährende Beteuerung, man sperre ohnehin zehntausende Accounts pro Jahr, belegt letztlich nur, wie unkontrollierbar das eigene Bildgenerierungsmodell in der Praxis tatsächlich agiert. Die eingebauten Filter greifen schlichtweg zu spät oder lassen sich umgehen.

Sollte das Gericht keine einstweilige Verfügung gegen HF 1606 erlassen, kündigte xAI bereits technische Restriktionen an. Das Unternehmen droht damit, die Bildbearbeitungsfunktionen von Grok Imagine für die Anwenderschaft in Minnesota voraussichtlich noch vor dem 1. August 2026 abzuschalten.

Startseite