So „arbeitet“ die KI
KI-Modelle wie ChatGPT, Gemini oder Claude sind sogenannte Large Language Models, die mit riesigen Mengen an Text aus dem Internet, Büchern und Videos trainiert wurden. Jedoch ist oft unklar, welche Quellen dabei genau herangezogen wurden, und einige Inhalte enthalten auch Falschinformationen.1 So kann es auch vorkommen, dass KI-Behandlungsoptionen aus Chatforen oder unzuverlässigen Quellen stammen – ohne medizinische Evidenz oder wissenschaftliche Absicherung. Eine Gefahr sind auch „Halluzinationen“, wenn KI-Tools richtig klingende, aber falsche Informationen generiert.2
Ein Knackpunkt ist außerdem, dass Chatbots plausibel klingende Antworten formulieren, die auf die User:innen mitunter seriös und sogar autoritär wirken.2 Das kann problematisch sein – besonders dann, wenn lediglich Meinungen oder Vermutungen bestätigt werden, die sich empathisch anhören, aber medizinisch nicht korrekt sind. In extremen Fällen haben KI-Tools schon dazu geführt, dass vulnerable Menschen Medikamente abgesetzt haben – mit teils gefährlichen Folgen.1
KI berücksichtigt zudem nicht die gesamte Krankengeschichte, Laborwerte, Vorerkrankungen, genetische Risiken oder andere entscheidende Variablen von medizinischen Untersuchungen. Somit ersetzte sie keinesfalls eine professionelle ärztliche Diagnose – mit individuellen Einschätzungen.1,2
Wozu KI bei Gesundheitsanliegen sinnvoll ist
Andererseits gibt es einige Bereiche, für die KI-Plattformen gut geeignet sind. Beispielsweise, um sich zu informieren: Über spezifische Medikamente, Krankheitsbilder oder medizinische Fachbegriffe. Zusätzlich kann es als Recherchehilfe dienen, um Wissen zu strukturieren und in verständlicher Sprache zu erklären.2 So können User:innen eine gute erste Übersicht über Symptome oder Therapieoptionen erhalten, die hilft, sich ein erstes Bild zu verschaffen und bestenfalls dann beim Gespräch mit der Ärztin oder dem Arzt genauer nachfragen zu können.2
Ein eindrucksvolles Beispiel für die Grenzen von KI liefert eine Untersuchung der Western University in Kanada. Dort wurde ChatGPT anhand von 150 komplexen klinischen Fällen getestet – mit ernüchternden Ergebnissen: Nur 49 % der Fälle wurden korrekt beantwortet. Vor allem bei Laborwerten und bildgebenden Verfahren zeigte das System deutliche Schwächen.
5Zwar zeigte sich, dass falsche Diagnosen häufig ausgeschlossen wurden, doch kam auch klar zur Geltung, wie oft die richtige Einschätzung verfehlt wurde. Das stellt einen gravierenden Nachteil für den Einsatz als diagnostisches Werkzeug dar.5 Diese Ergebnisse unterstreichen klar, dass KI unterstützen, informieren und vorbereiten kann – die medizinische Verantwortung aber bleibt bei uns Menschen.
