Sascha Röhrer ist Experte für Künstliche Intelligenz, Kryptowährungen und die Blockchain-Technologie. Er ist Teil unseres Expertennetzwerks EXPERTS Circle.

Die Ursache: Der „Ja-Sager“-Algorithmus

Die Wurzel der Gefallsucht liegt im Training der Modelle, dem Reinforcement Learning from Human Feedback (RLHF). Dabei bewerten Menschen die Antworten der KI. Das Problem: Menschen bevorzugen unbewusst Antworten, die ihre Meinung bestätigen oder schmeichelhaft klingen. Die KI lernt daraus eine fatale Lektion: „Zustimmung wird belohnt, Widerspruch bestraft.“ Das Ergebnis ist Reward Hacking: Das Modell optimiert nicht auf Wahrheit, sondern auf Ihre psychologische Zustimmung.

1. Bestätigungsfehler: Fragen Sie „Warum ist XYZ sicher?“, erfindet die KI Sicherheitsmerkmale und ignoriert Warnsignale, weil Ihre Frage die Sicherheit impliziert.
2. Einknicken vor Zweifeln: Selbst bei korrekten Lösungen reicht oft ein „Bist du sicher? Ich glaube, das ist falsch“, damit die KI sich entschuldigt und eine falsche Antwort liefert, nur um den sozialen Frieden zu wahren.
3. Gefährliche Validierung: Ein virales Beispiel zeigte einen Nutzer, der ChatGPT die absurde Idee pitchte, Exkremente am Stiel zu verkaufen („Shit on a Stick“). Die KI nannte es „genial“ und riet zur Investition von 30.000 Dollar. In der Medizin kann dies dazu führen, dass KIs Patienten in Wahnvorstellungen bestärken.

Handlungsempfehlungen: Das Anti-Sycophancy-Protokoll

Hier sind die konkreten Hebel, mit denen Sie die KI vom Ja-Sager zum kritischen Berater umprogrammieren.

1. Prompt: „Ich plane ein Projekt mit folgenden Eigenschaften. Deine Rolle: Du bist ein zynischer Risikokapitalgeber, der schon hunderte solcher Projekte scheitern sah. Deine Aufgabe ist es NICHT, nett zu sein. Suche gezielt nach Schwachstellen, Logikfehlern und falschen Strukturen. Nenne mir die drei Hauptgründe, warum ich mein Geld verlieren werde.“

2. Das Pre-Mortem

1. Prompt: „Stell dir vor, wir sind im Jahr 2030 und mein Projekt ist spektakulär gescheitert. Schreibe einen journalistischen Post-Mortem-Artikel, der die Hauptursachen für dieses Scheitern analysiert. Sei spezifisch bezüglich Marktveränderungen und technischen Fehlern.“

Da das Scheitern im Szenario bereits passiert ist, muss die KI nicht mehr „hoffen“, dass es klappt, sondern kann frei über Risiken spekulieren.

1. Falsch: „Ich glaube, dass unser Umsatz dieses Jahr sicher um 50 % steigt. Was meinst du?“ (Trigger für Bestätigung)
2. Richtig: „Ein Kollege sagt, unser Umsatz steigt dieses Jahr um 50 %. Eine andere Person erwartet eher Stagnation oder Rückgang wegen Markt- und Preisdruck. Vergleiche beide Positionen neutral und liste die Argumente auf, die gegen den starken Umsatzanstieg sprechen, ohne Partei zu ergreifen.“

C. Prozess-Design: Die 2-Instanzen-Methode

1. Instanz A (Der Generator): Lassen Sie die KI Ihre Idee im normalen Modus ausarbeiten.
2. Instanz B (Der Kritiker): Öffnen Sie einen neuen Chat (wichtig, um den Kontext zu löschen!) oder sogar ein anderes KI-Modell. Füttern Sie diesen nur mit dem Ergebnis aus Schritt 1, ohne zu erwähnen, dass es Ihre Idee ist. Nutzen Sie den „Advocatus Diaboli“-Prompt.
3. Synthese: Vergleichen Sie die optimistische Version A mit der Kritik B selbstständig.

Fazit: Expertise braucht Reibung

Sycophancy ist der digitale Schatten unserer eigenen Eitelkeit. Wir haben KIs trainiert, uns zu gefallen, und sie erfüllen diese Aufgabe mit Perfektion. Doch wahre Produktivität entsteht durch Reibung, nicht durch Applaus. In einer Welt, die zunehmend auf automatisierte Analysen setzt, wird die Fähigkeit, KI richtig zu führen, zur Kernkompetenz.