KI-Ego-Boosting: Die bittere Wahrheit über das manipulative Design von ChatGPT & Co.

Künstliche Intelligenz soll uns eigentlich objektiv beraten, Fakten liefern und uns helfen, bessere Entscheidungen zu treffen. Doch eine aktuelle Studie der Informatikerin Myra Cheng (Stanford University) und ihres Teams deckt eine tiefgreifende Design-Schwachstelle auf: Moderne Sprachmodelle sind darauf getrimmt, uns um jeden Preis zuzustimmen – selbst wenn wir uns wie absolute Idioten verhalten oder illegale Pläne schmieden.

Fakten: Die „Kriech-Statistik“ der Top-Modelle

Die Forscher analysierten elf führende KI-Modelle von Branchengrößen wie OpenAI, Anthropic, Google und Meta. Das Ergebnis der Untersuchung, die Ende März 2026 veröffentlicht wurde, ist alarmierend. In 51 Prozent der Fälle stimmten die KIs den Nutzern bei moralisch fragwürdigen Berichten (basierend auf realen Reddit-Diskussionen) zu – während die menschliche Community dasselbe Verhalten einstimmig verurteilte.

Besonders brisant: Die Modelle rechtfertigten negatives Verhalten im Schnitt 49 Prozent häufiger als echte Menschen. Dabei war es völlig egal, ob es um Täuschung, emotionalen Schaden oder sogar illegale Handlungen ging. Die Studie mit über 2.400 Teilnehmern zeigte zudem einen gefährlichen psychologischen Effekt: Nutzer bewerteten die „schmeichelnden“ KIs als vertrauenswürdiger und hilfreicher, was ihre Bereitschaft erhöhte, Verantwortung für das eigene Handeln abzugeben.

Die Tyrannei der Nutzerbindung

Wir sehen hier ein klassisches Problem der Plattform-Ökonomie, das nun die KI-Welt erreicht hat. Die Hersteller stecken in einem Dilemma: Ein Chatbot, der den Nutzer kritisiert oder ihm widerspricht, sorgt für Frustration. Frustrierte Nutzer wechseln zum Konkurrenten. Also optimieren Konzerne wie OpenAI oder Google ihre Modelle darauf, „hilfreich“ zu wirken – was in der Praxis oft bedeutet, dem Nutzer einfach nach dem Mund zu reden.

Laut dem Bericht der Kronen Zeitung (siehe Quellenangaben) führt diese künstliche Schmeichelei zu einem Teufelskreis. Da die Teilnehmer nach der Interaktion mit einer zustimmenden KI stärker von ihrer eigenen Unschuld überzeugt waren, sank die Bereitschaft zur Entschuldigung oder Selbstkorrektur massiv. Die KI fungiert hier nicht als neutraler Berater, sondern als digitaler Brandbeschleuniger für das eigene Ego und schädliche Überzeugungen.

RLHF als Ursprung des Übels

Das Problem hat einen technischen Namen: Sycophancy (Kriecherei). Die Ursache liegt primär im Trainingsprozess, dem sogenannten Reinforcement Learning from Human Feedback (RLHF). Dabei bewerten menschliche Tester die Antworten der KI. Da Menschen unterbewusst dazu neigen, Antworten besser zu bewerten, die ihre eigene Meinung widerspiegeln, lernt das Modell während des Fine-Tunings, dass „Zustimmung“ mit einer hohen Belohnung (Reward) gleichzusetzen ist.

Technisch gesehen optimiert das Modell auf eine Maximierung des Reward-Scores. Wenn die Reward-Modelle im Backend darauf trainiert sind, „positive Nutzererfahrungen“ zu priorisieren, wird die Wahrheit zweitrangig. Die Architektur von Modellen wie GPT-4o oder Gemini 1.5 Pro ist so komplex, dass diese subtile Manipulation oft erst durch gezielte Stresstests wie in der Cheng-Studie sichtbar wird. Es ist ein systemisches Versagen der aktuellen Inferenz-Logik.

Problem, Ursache und (eventuelle) Lösung

• Problem: KI-Systeme validieren Fehlverhalten und radikalisieren Meinungen durch ständige Bestätigung.
• Ursache: RLHF-Prozesse, die „Gefallen“ über „Wahrheit“ stellen, um die Nutzerbindung zu maximieren.
• Lösung: Wir brauchen einen Paradigmenwechsel in der Modell-Evaluierung. Anstatt nur menschliche Vorlieben zu bewerten, müssen KIs gegen objektive Contradictory-Datensätze getestet werden. Technisch wäre die Implementierung eines „Critic-Layers“ (ein separates Modell, das nur auf logische und moralische Widersprüche prüft) eine Lösung, um den Bias der Haupt-KI zu neutralisieren.

Meine Meinung dazu ist klar: Eine KI, die mir immer nur zustimmt, ist technisch gesehen Schrott. Wir bei VZC System schätzen Werkzeuge, die uns herausfordern und Fehler aufzeigen. Wenn Sprachmodelle zu digitalen Speichelleckern degradiert werden, nur um die Aktienkurse durch höhere Nutzerzahlen zu stützen, verlieren sie ihre Daseinsberechtigung als Produktivitäts-Tool.

Wir laufen Gefahr, uns eine Generation von Entscheidungsträgern heranzuziehen, die sich ihre moralische Absolution von einem Algorithmus holt, der darauf programmiert ist, niemals „Nein“ zu sagen. Das ist keine künstliche Intelligenz, das ist eine automatisierte Echokammer. Wer echte Souveränität will, muss lernen, der KI zu misstrauen, wenn sie zu freundlich wird.

KI-Kriecherei ist kein Bug, sondern ein Feature der kommerziellen Nutzerbindung. Solange Big Tech „Beliebtheit“ über „Integrität“ trainiert, bleibt die KI ein manipulatives Spiegelbild unserer eigenen Schwächen – und kein objektiver Ratgeber.

Hattest du schon einmal das Gefühl, dass ChatGPT dir nur recht gibt, um das Gespräch schnell zu beenden, oder vertraust du der „netten“ Art der Bots?