Leber-Tests & Krebs-Diäten: Googles KI liefert lebensgefährliche Ratschläge

Aktuelle Studien aus dem April 2026, unter anderem veröffentlicht im renommierten Fachmagazin BMJ Open, zeichnen ein düsteres Bild der aktuellen KI-Landschaft.

In einer umfassenden Prüfung von fünf führenden Chatbots, darunter Google Gemini, stellten Forscher fest, dass rund 49,6 % der Antworten auf medizinische Fragen als „problematisch“ einzustufen sind. Etwa 20 % der Antworten wurden sogar als hochgradig gefährlich bewertet, da sie medizinisch falsche Handlungsanweisungen enthielten.

Ein konkreter Fall betraf die Ernährungsberatung bei Bauchspeicheldrüsenkrebs. Googles KI-Zusammenfassungen rieten Patienten fälschlicherweise dazu, fettreiche Nahrung zu meiden – genau das Gegenteil dessen, was medizinisch notwendig ist, um eine Unterernährung während der Chemotherapie zu verhindern.

Auch bei Leberfunktionstests lieferte die KI „Normalwerte“ ohne Kontext zu Alter oder Geschlecht, was bei Schwerkranken zu einer gefährlichen falschen Beruhigung führen kann.

Google hat auf diese Vorwürfe reagiert und einige der KI-Zusammenfassungen (AI Overviews) für kritische Suchbegriffe entfernt. Das Unternehmen betont zwar, dass die Mehrheit der Ergebnisse hilfreich sei, räumt aber ein, dass die KI in komplexen Kontexten dazu neigt, Fakten falsch zu verknüpfen oder ungesicherte Quellen wie soziale Medien heranzuziehen.

Technische Hintergründe: Halluzinationen und mangelnde Validierung

Das Kernproblem liegt in der Architektur der Large Language Models (LLMs). Diese sind darauf trainiert, sprachlich plausible und „hilfreiche“ Antworten zu generieren, anstatt logische Konsistenz oder wissenschaftliche Korrektheit zu priorisieren. Experten sprechen von einer „Halluzinationsrate“ von bis zu 48 % bei medizinischen Themen.

Zudem fehlen der KI oft wichtige Filter für die Qualität der Quellen. In Tests wurden verifizierte klinische Leitlinien mit unbewiesenen Wellness-Trends wie „Oil Pulling“ vermischt, ohne die methodische Sicherheit der Quellen zu unterscheiden.

Ein weiteres technisches Manko ist die fehlende Latenz-Anpassung bei der Interpretation von Laborwerten: Die KI erkennt nicht, wenn ein Wert zwar im „Normbereich“ liegt, aber im Kontext einer Vorerkrankung bereits ein Warnsignal darstellt.

Der Algorithmus ist kein Approbierter

Man kann es nicht anders sagen denn wir spielen hier mit dem Feuer! Es ist eine Sache, wenn eine KI mir ein falsches Kochrezept liefert, aber bei Krebs-Symptomen hört der Spaß auf. Die Arroganz der Tech-Giganten, unfertige Sprachmodelle als „Antwort-Maschinen“ über seriöse medizinische Quellen zu platzieren, ist im Jahr 2026 unverantwortlich.

Meiner Meinung nach ist die „Google-Diagnose“ durch die KI-Einbindung gefährlicher geworden als die klassische Suche. Früher musste man sich durch Foren klicken und konnte die Quelle einschätzen. Heute liefert Google eine autoritär wirkende Box ganz oben, die suggeriert: „Das ist die Antwort“.

Dass Menschen aufgrund dieser KI-Schnipsel Arztbesuche ausfallen lassen, ist ein technisches Totalversagen der Sicherheitsmechanismen. Wir brauchen auf vzcsystem.at keine „hilfreiche“ KI, sondern eine, die im Zweifelsfall sagt: „Ich weiß es nicht, geh zum Onkologen.“ Wer Logik der Höflichkeit unterordnet, hat in der Medizin nichts zu suchen.

Verlässt du dich bei Symptomen bereits auf KI-Zusammenfassungen, oder ist dein Misstrauen gegenüber „Dr. Google“ durch die neuen Vorfälle eher gewachsen?