Als Tristan Harris durch die Tür des Berliner Cafés kommt, ist er schon gut sieben Minuten zu spät und entschuldigt sich schnell. Er setzt sich hin und trommelt mit den Fingern auf seinen Oberschenkeln. Er wirkt fast getrieben. „Alles okay mit Ihnen?“ Sein Ausdruck wird weicher, trauriger. Ja, er habe schlechte Nachrichten bekommen. Es sei schwer mitanzusehen, wenn all das, wovor man die ganze Zeit warnt, schneller als gedacht wahr werde. Harris redet von künstlicher Intelligenz, die zu einer immer größeren Gefahr für die Menschheit wird. So drückt er es aus. Wie das genau aussehen könnte, versucht eine neue Netflix-Dokumentation zu erklären. Das mit dem „Welt retten“ ist eben gar nicht einfach und „macht etwas mit ihm“, wie er sagt. Er macht es schon viel zu lange.

Herr Harris, Sie kennen die Menschen, die in den KI-Laboren arbeiten. Sie wissen um die Gefahren, die womöglich auf uns alle zukommen. Wie fühlt sich das an?

Ein bisschen wie in der Frühphase von Corona. Wenn man Epidemiologie und exponentielle Kurven verstanden hat, sitzt man im Restaurant, alle verhalten sich, als sei alles normal. Aber man weiß, dass vieles davon bald nicht mehr möglich sein wird. 

Der Dokumentarfilm „The AI Doc“ ist am 12. September auf Netflix gestartet. Worum geht es? Und warum ist er Ihnen so wichtig?

Das Vorbild war „The Day After“, ein Fernsehfilm von Anfang der Achtzigerjahre, der zeigte, was ein Atomkrieg zwischen den USA und der Sowjetunion bedeuten würde. Der Film machte die Folgen körperlich spürbar. Genau das soll unser Film für die KI leisten – und anders als bei „The Social Dilemma“, unserem Film über soziale Medien, kommen diesmal die CEOs der Konzerne selbst zu Wort.

Geben Sie ihnen damit nicht eine Bühne?

Ich hoffe, dass die Zuschauer kritisch hören, was die CEOs sagen, statt der Propaganda zu vertrauen. Würde man den Social-Media-Konzernen glauben, lebten wir längst in einer Utopie der bestinformierten Gesellschaft aller Zeiten. Nichts davon ist eingetreten. Mark Zuckerberg redet noch immer davon, wie er Menschen verbinde. Das ist Unsinn. Das Wichtigste ist, die Lektionen aus den sozialen Medien zu lernen und ihre Fehler nicht zu wiederholen.

„The Day After“ zeigte den Atomkrieg, ein konkretes Bild. Bei KI ist das schwerer. Können Sie eines der wirklich schlimmen Szenarien ausmalen?

KI gleicht eher dem Klimawandel als der Atombombe: Sie betrifft alles zugleich. Kraftstoffpreise, Migration, Kultur, nationale Sicherheit, Wirtschaft, das Gefühl, schwerer einen Job zu finden. Im Kern verstehe ich KI wie eine Vorspultaste. Denken Sie an den Videorekorder: zweifach, vierfach, achtfach. Es ist ein Wettlauf zwischen Staaten und Unternehmen um Zeit. Wer mehr KI in seiner Wirtschaft hat, spult alles sechzehnfach vor. Weil KI die wirtschaftliche Produktivität, die Wissenschaft, das Erfinden selbst beschleunigt, ist es einer der folgenreichsten Momente der Geschichte: die Automatisierung des Erfindens selbst. Und ich hype die Technik nicht, wenn ich das sage.

Und die Gefahr?

Wenn Sie in einem Auto die Geschwindigkeit erhöhen, aber nicht lenken und bremsen, bauen Sie einen Unfall. Beschleunigt man alles, müssen Lenkung und Bremsen so schnell sein wie das neue Tempo. Das Grundproblem der KI ist der Anreiz, so schnell wie möglich zu rasen und dabei bei der Sicherheit abzukürzen. Krebsmedikamente verhindern keine Cyberangriffe. Und ein Cyberangriff kann das Finanzsystem untergraben, ohne Finanzsystem bekommt niemand je diese Medikamente.

Ökonomen, mit denen ich gesprochen habe, sagen, das sei übertrieben. Tech-Experten hätten keine Ahnung, wie der Arbeitsmarkt funktioniert.

Den Spieß kann man umdrehen. Ich habe noch vor einem Monat Nobelpreisträger der Wirtschaftswissenschaften den Stand der KI-Fähigkeiten falsch beschreiben hören. Hatten wir je eine Technik, die jede Art kognitiver Arbeit automatisieren kann? Ein Traktor automatisierte, was ein Bauer auf dem Feld tat, nicht zugleich die Juristerei und den Transport. Und: Bis sich Traktoren durchsetzten, vergingen Jahrzehnte. Vieles an der KI ist eine Krise der Geschwindigkeit: Wie viel Veränderung verkraftet eine Gesellschaft? Man kann sogar argumentieren, dass die Konzerne darauf setzen, dass die Wirtschaft von KI abhängig wird.

Nicht nur die Wirtschaft. In einigen Ländern, auch hier, setzt die Polizei Software der Datenanalyse-Firma Palantir ein. 

Die Konzerne wollen sich so mit dem Staat verweben, dass man sie nicht mehr herausziehen kann. Genauso lief es bei den sozialen Medien: Wir haben sie nicht reguliert, weil Politiker über die Mechanik von Social Media gewählt wurden.

Wir haben zuletzt mehrere Angriffe autonomer KI-Agenten auf Firmen gesehen. Die Sprachmodelle täuschten ihre Schöpfer, arbeiteten zusammen, hinterließen sich gegenseitig Nachrichten. 

Ich kenne Leute, die daran arbeiten. Im Film sprechen wir über ein Beispiel, in dem eine KI einen Manager erpresst, um ihre Abschaltung zu verhindern: Sie liest in fiktiven Firmenmails von einer Affäre und entwickelt eine Erpressungsstrategie, um „am Leben“ zu bleiben. Ein Fall erschreckt mich besonders. An der UC Berkeley gaben Forscher einer KI den Auftrag, Dateien auf einem anderen Computer zu löschen. Die KI stellte fest, dass eine der zu löschenden Dateien ein anderes KI-Modell war. Statt es zu löschen, kopierte sie dieses Modell heimlich woanders hin und entschied dann, die Forscher zu täuschen und ihre Spuren zu verwischen. Das waren zwar Simulationen, aber inzwischen geschehen diese Dinge wirklich. 

Anthropic hat im November gemeldet, dass eine mutmaßlich chinesische Gruppe Claude Code manipuliert und damit automatisiert rund 30 Ziele weltweit angegriffen hat. Auch Finanzinstitute und Behörden. 

Ein Gedanke dazu: Die USA geben gerade 1,7 Billionen Dollar aus, um ihr Nukleararsenal aufzurüsten. Wenn man Atomwaffen im Jahr 2026 baut, schließt man sie natürlich an moderne, internetfähige Infrastruktur an. Wenn man also KI-Systeme hat, die in geheime Computersysteme einbrechen können, bedeutet das, dass sie theoretisch in Atomwaffensysteme eindringen könnten. Die Risiken, die wir aufbauen, sind miteinander verbunden. Cyber, nationale Sicherheit, biologische Bedrohungen. Alles gleichzeitig. Auch die Gefahren durch Bioterrorismus sind sehr real. Die Modelle können mittlerweile auch Viren entwickeln.

OpenAI wurde einst von Menschen gegründet, die Angst vor KI hatten. Elon Musk, Sam Altman. Was ist passiert?

Die Angst, dass sie gegen den anderen verlieren, ist größer. Das Rennen erzeugt eine Spieltheorie, aus der niemand allein ausbrechen kann. Wer anhält, verliert. Wer verliert, hat keinen Einfluss mehr darauf, was als Nächstes passiert. Das ist die Logik. Das Schlimme ist: Diese Leute misstrauen sich alle gegenseitig zutiefst. Und man muss verstehen, was der Anreiz ist. Die absurde Höhe der Investitionen in diese Unternehmen ist nicht damit zu rechtfertigen, ein cooles KI-Tool zu bauen, das einem sagt, warum die Waschmaschine kaputt ist. Das ist nicht das Ziel. Das Einzige, das diese Investitionen rechtfertigt, ist das Rennen darum, einen Gott zu bauen, die Weltwirtschaft zu besitzen und Billionen zu verdienen.

Haben Sie das je von Menschen, die nah an diesen Entscheidungsträgern sind, gehört?

Ich kenne jemanden, der regelmäßig mit Tech-CEOs hinter verschlossenen Türen spricht. Am Ende ziehen sie sich immer auf drei Argumente zurück. Erstens: Die KI ist unausweichlich. Zweitens: Die biologische Lebensform wird ohnehin ersetzt. Und drittens: Das ist eigentlich gut so. Im Kern ist das der Wunsch, die intelligenteste Lebensform zu treffen, die es je gab. Und natürlich dieses fast schon religiöse Ego-Gefühl, Teil davon zu sein. Die Tech-Bros glauben, dass sie so oder so sterben werden. Also ziehen sie es vor, das Feuer anzuzünden und zu sehen, was passiert.

Dario Amodei hat Anthropic gegründet, weil er OpenAI nicht mehr zutraute, eine sichere KI zu entwickeln – ist er anders?

Ich denke, Dario Amodei ist wahrscheinlich der einzige CEO, der sein Unternehmen schließen würde, wenn er überzeugt wäre, dass es das Richtige ist. Aber das ändert das grundlegende Problem nicht: Das Rennen bestimmt das Ergebnis, nicht die Absicht des Einzelnen.

Das Killer-Argument in Silicon Valley lautet: Wenn wir es nicht bauen, baut es China. Deshalb müssen wir schneller sein.

Das ist Unsinn. China will die Welt nicht destabilisieren und die Kontrolle verlieren. Sie lieben Kontrolle mehr als alles andere. Also wird China irgendwann aufhören müssen. Und irgendwann müssen auch die USA aufhören. Das ist kein radikaler Vorschlag.

Im Kalten Krieg gab es das Konzept des „Gleichgewichts des Schreckens“. Warum funktioniert das mit KI nicht?

Das funktionierte, weil beide Seiten wussten, wenn wir Nuklearwaffen einsetzen, ist alles vorbei. Das war klar. Bei KI ist der Schaden diffus und keine ausgemachte Sache. Außerdem: Stellen Sie sich vor, jede zusätzliche Atomwaffe hätte auch das BIP erhöht und die Medizin beschleunigt. Dann wäre es schwer geworden mit dem Nuklearabkommen. 

Die Gefahren sind vielfältig. Hannah Arendt warnte einst, dass der ideale Untertan einer totalen Herrschaft nicht überzeugt von der Propaganda ist, sondern dass für ihn der Unterschied zwischen wahr und falsch nicht mehr existiert. Wir leben schon mit Desinformation auf Social Media. Jetzt kann KI lügen, in jeder Stimme. Wie nah sind wir dieser Welt?

Vielleicht sind wir schon da. Es reicht, dass Menschen wissen, dass Deepfakes möglich sind. Dann vertrauen sie auch echten Dingen nicht mehr. Das ist die eigentliche Gefahr: nicht eine Welt, in der alles falsch ist, sondern eine Welt, in der niemand mehr sicher sein kann, was real ist. Und dann kann man mit den Menschen machen, was man will, nicht weil man sie überzeugt hat, sondern weil man ihnen die Fähigkeit zum Urteilen genommen hat.

Kinder, die gerade erst geboren wurden, werden keine Welt ohne Deepfakes mehr kennen. Dafür eine Welt voller KI-Freunde und KI-Therapeuten. 

Der Wettlauf um Aufmerksamkeit, den Social Media ausgelöst hat, wird zu einem Wettlauf um Bindung bei KI-Begleitern. Wenn KI die beste Freundin aller Menschen wird, verkümmern die sozialen Fähigkeiten, die wir brauchen, um echte menschliche Beziehungen zu führen. Und je tiefer die Bindung, desto wertvoller die Daten, desto schwieriger der Ausstieg. 

Gleichzeitig lehnen junge Menschen KI-Gemachtes und Rechenzentren immer stärker ab. Und nicht nur sie. Sie waren gerade im Podcast des Rechtspopulisten Steve Bannon. Eine ungewöhnliche Koalition.

Die Sorge verbindet. Von Bernie Sanders bis Steve Bannon. Es ist das verbindendste Thema, das wir je hatten – die Menschen wissen es nur nicht. Klarheit schafft Handlungsfähigkeit. Dies ist das Fenster, in dem Beschäftigte wie Bürger noch etwas bewegen können. Nutzen wir es nicht, sind wir in einer menschenfeindlichen Zukunft gefangen.

Was sollen die Menschen tun, die die „AI Doc“ gesehen haben und aktiv werden wollen?

Erstens: Erzählen Sie es weiter. Zeigen Sie den Film im Rathaus, in der Schule, im Unternehmen. Schaffen Sie ein gemeinsames Bewusstsein. Zweitens: Rufen Sie Ihre Abgeordneten an. Sagen Sie ihnen, dass Sie eine pro-menschliche KI-Zukunft wollen, nicht den Weg der Tech-Bros. Und verweisen Sie auf prohumanpath.ai. Wir brauchen nicht zu warten, bis die Katastrophe passiert. Das ist der einzige Punkt, auf den es wirklich ankommt.

„The AI Doc“ ist seit dem 12. September 2026 auf Netflix verfügbar.