SELFHTML Weblog - Ergänzung zur Dokumentation Übersicht

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird.
LLMs (siehe Teil 1: Wie Large Language Models funktionieren) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.^[1]

Du behauptest:
„Grid ist schneller als Flexbox.“
Chatbot:
„Genau! Grid ist effizienter und schneller als Flexbox.“

Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren.

Das kann allerdings schiefgehen.

Aber schneller wobei?
Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller?

Warum passiert so etwas?
Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt.

Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein.

Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage „Was willst du denn überhaupt erreichen?“ als Antwort kommt.

Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]
Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.

Charta des SELFHTML-Forums (selfhtml.org)

Sycophancy – die KI als höflicher Ja-Sager

Sycophancy (Schmeichelei oder übertriebene Gefälligkeit) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.^[2]

Nutzer:
„Ich glaube, CSS Grid ist schneller als Flexbox.“

KI:
„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“

Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre:
„Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme.
In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“

Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt.

Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist.

Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“

„A fool with a tool is still a fool.“

Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken.

Nutzer:
„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"
KI:
„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"

Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?"

So kann Sycophancy den Dunning-Kruger-Effekt^[3] verstärken.

Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.

Mit ChatBots streiten

Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist.

1. Neutral fragen, statt die gewünschte Antwort vorzugeben.
   Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber:
   „Was sind die wahrscheinlichsten Ursachen für Y?"

2. Widerspruch aktiv einfordern.
   „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation."

3. Eine Gegenposition erzeugen lassen.
   „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter.

4. Nach Belegen statt nach Bestätigung fragen.
   Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?"

5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen.

Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst.

Serie über KI und LLMs

1. Computer können rechnen, aber …
   Wie Large Language Models funktionieren, 14.09.2026
2. Warum sagt die KI so gerne „Ja“?
   Wenn ein Chatbot lieber zustimmt, als zu widersprechen
3. Vibe-Coding – Wenn die KI für dich programmiert
   Was ist das und worauf muss du achten?

---

1. ELIZA auf die 1? SELF-Blog vom 07.12.2025 zum Adventskalender 2025
   Mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. ↩︎

2. Sycophancy (artificial intelligence) (en.wikipedia.org) ↩︎

3. Dunning-Kruger-Effekt (de.wikipedia.org) ↩︎