Wenn Sie ein Sprachmodell wie ChatGPT, Claude oder Gemini nach einer Information fragen, mag Ihnen schon einmal der Gedanke gekommen sein, der Anfrage einen kleinen Sicherheitshinweis voranzustellen. "Bitte halluziniere nicht", schreiben dann viele Nutzerinnen und Nutzer in der Hoffnung, sich vor erfundenen Fakten zu schützen. 

Was wie eine sinnvolle Vorsichtsmaßnahme klingt, hat in der Praxis allerdings kaum eine Wirkung, weil die Bitte am eigentlichen Problem vorbeigeht. Um zu verstehen, warum diese Anweisung ins Leere läuft, lohnt sich ein Blick darauf, wie ein solches Modell überhaupt arbeitet.

Eine erfundene Buchquelle und eine echte Quelle sehen für das Modell zunächst gleich plausibel aus, solange beide grammatikalisch und stilistisch stimmig wirken. Genau aus diesem Grund kann es vorkommen, dass eine Antwort souverän und überzeugend klingt, obwohl sie frei erfunden ist.

In manchen Fällen führt die Bitte sogar dazu, dass die Antwort vorsichtiger klingt, ohne dass sich an der inhaltlichen Verlässlichkeit etwas ändert. Sie erhalten dann eine Antwort, die nach Sorgfalt aussieht, obwohl die zugrunde liegende Mechanik dieselbe geblieben ist.

Hilfreich ist außerdem, wenn Sie ausdrücklich darum bitten, bei Unsicherheit ehrlich auf fehlendes Wissen hinzuweisen, anstatt eine möglichst flüssige Antwort zu produzieren. Auch das Aufteilen einer komplexen Frage in kleinere Schritte verbessert die Treffgenauigkeit, weil das Modell so weniger Spielraum hat, zwischendurch ins Spekulative abzugleiten. 

Wirksam ist überdies, das Modell im Anschluss selbst zu fragen, ob seine Antwort wirklich belegbar ist, weil eine zweite Durchsicht häufig genau jene Stellen aufdeckt, die zwar gut klingen, aber inhaltlich auf wackeligem Fundament stehen.

Wenn Sie das Modell zusätzlich bitten, seine Antwort mit Quellen zu untermauern, lassen sich diese im Anschluss verifizieren, wobei Sie wissen sollten, dass auch Quellenangaben gelegentlich erfunden sein können.

Wer versteht, dass die KI ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein ist, geht automatisch sorgfältiger mit ihren Antworten um. Sie holen aus diesen Werkzeugen am meisten heraus, wenn Sie ihnen klare Aufgaben stellen, ausreichend Kontext bereitstellen und das Ergebnis im Zweifel mit eigenem Urteil prüfen. Eine simple Bitte ersetzt all das nicht, eine kluge Frage hingegen führt Sie deutlich näher an die Antwort, die Sie tatsächlich brauchen.