Einer im Frühjahr 2026 veröffentlichten Studie zufolge vertrauen Menschen KI-generierten Antworten oft zu schnell und überschätzen die Kompetenz von KI-Systemen. Die Forscher kamen zu dem Schluss, dass Menschen zu viel Vertrauen in KI-Empfehlungen setzen könnten, selbst wenn das System unsicher oder fehleranfällig ist.

Ein aktuelles Experiment der MIT-Forscherin Pattie Maes schlägt in eine ähnliche Kerbe. Demnach könnten KI-Systeme bei Menschen falsche Erinnerungen erzeugen, wie die Professorin vom MIT Media Lab der Washington Post erklärte.

Im Rahmen des Experiments zeigten Maes und ihr Team 200 Teilnehmern 24 Fotos. Auf diesen waren etwa eine Hochzeit, eine Straßenszene oder ein Rennen zu sehen. Anschließend bekam ein Teil der Gruppe dieselben Bilder noch einmal zu sehen. Für die anderen hatten die Forscher von KI veränderte Versionen parat.

Dort waren etwa die Gesichtsausdrücke verändert oder Militärpersonal hinzugefügt worden, wie die Washington Post berichtet (Übersetzung bei der FR). Auch hatte die KI wohl Hinweise zum Klimawandel ergänzt. Bei dem folgenden Gedächtnistest zeigte sich, dass bei denjenigen, die von der KI veränderte Fotos zu sehen bekamen, die Zahl der falschen Erinnerungen stieg.

Und das war noch nicht alles. Die betroffenen Teilnehmer waren von diesen falschen Erinnerungen auch noch überzeugter. „Ich halte das alles für grundsätzlich sehr gefährlich“, so Maes.

Die Forscherin spielt damit unter anderem auf Gerichtsverfahren an, bei denen Richter auf möglichst korrekte Erinnerungen angewiesen sind. Schon jetzt ist klar, dass Erinnerungen von Zeugen leicht verzerrbar sind. Und auch die Geschichtsschreibung hängt von Erinnerungen ab.

Auf einer KI-Konferenz im schwedischen Malmö sind Forscher Mitte Oktober 2026 der Frage nachgegangen, was passiert, wenn KI beginnt, sich in das menschliche Gedächtnis einzumischen. Nicht nur Maes Forschungsarbeit, sondern weitere Studien deuten darauf hin, dass KI verzerren kann, woran Menschen sich erinnern.

In einem Fall etwa sahen die Teilnehmer ein Video über ein Verbrechen. Diejenigen, die dazu später von einem generativen KI-Chatbot befragt wurden, hatten dreimal so viele falsche Erinnerungen. Auch die Grenzen zwischen den eigenen Gedanken und jenen von Maschinen scheinen zu verwischen. Ganz zu schweigen davon, dass Erinnerungen an Ereignisse eingepflanzt werden könnten, die es nie gab.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)