Ungefähr ein Drittel der jungen Menschen mit Depression nutzen Chatbots als psychologischen Coach. Wie bewerten Sie das?

Zunächst einmal finde ich das nicht überraschend. Das ist vor allem eine Beschreibung eines Missstands im Gesundheitssystem. Wir haben zu wenig Therapieplätze, und gerade junge Erwachsene befinden sich oft in vulnerablen Situationen und in Phasen des Umbruchs.

Auf der anderen Seite ist das natürlich hochproblematisch. Denn vieles von dem, was ein Large Language Model mitbringt, ist kein adäquater Therapieersatz. Die meistgenutzten Sprachmodelle sind nicht speziell für Gesundheitsthemen trainiert.

Chatbots sind darauf programmiert, uns zufriedenzustellen. Sie wollen besonders freundlich sein, bestätigen und ein gutes Gefühl vermitteln. Therapie bedeutet aber nicht, einfach nur freundlich zu jemandem zu sein, sondern vielleicht auch schwierige Themen zu erkunden.

Wenn der Chatbot am Ende die Rolle von Therapeut*innen übernimmt, ist das hochgefährlich für Menschen in Lebenskrisen.

Gibt es Situationen, in denen es uns leichter fällt mit Chatbots zu sprechen als mit Ärzt*innen?

Ja, gerade bei sensiblen, stigmatisierten und heiklen Themen wie zum Beispiel Suchterkrankungen. In solchen Fällen kann ein Chatbot deutlich niedrigschwelliger sein.

Ein Beispiel ist „SuchtGPT“. Das basiert zwar auf Large-Language-Modellen, ist aber speziell auf den Bereich Suchterkrankungen ausgerichtet und bietet wichtige Informationen sowie einen Einstieg in das Thema.

Das ist für mich durchaus positiv, weil es einen ersten Schritt in Richtung Unterstützung und Orientierung darstellen kann.

Welche Fallstricke haben die bekannteren Modelle?

Wir wissen bislang nicht, welchen Grad an Evidenzbasierung die Antworten der Chatbots bei unterschiedlichen Themen haben.

Gleichzeitig zeigt sich, dass die Formulierung des Prompts einen massiven Einfluss auf die Antworten hat.

Das heißt: Solange Nutzer*innen nicht entsprechend geschult sind und wissen, wie sie das Beste aus einem Modell herausholen, besteht die Gefahr, dass sie falsche Informationen oder falsche Ratschläge erhalten.

Was ändert sich, wenn Patient*innen vor dem Ärzt*innenbesuch schon Kontakt mit Chatbots haben?

Ärzt*innen sind damit teilweise schon vertraut, weil sie es auch früher schon mit vorinformierten Patient*innen zu tun hatten.

Spannender ist eher die Frage, ob der Beziehungsaufbau zu einem Chatbot hier einen zusätzlichen Unterschied macht. Denn wir sehen in der Forschung, dass solche Systeme teilweise vermenschlicht werden. Wenn ich wiederholt mit dem Chatbot interagiere und ihn vielleicht sogar konsequent in einer bestimmten Rolle anspreche, kann sich eine Art parasoziale Beziehung entwickeln.

Wie sehen diese Beziehungen dann aus?

Es gibt erste Studien¹², die den Unterschied zwischen klassischer Online-Suche und Chatbots anschauen. Dabei zeigt sich bereits, dass Teile der Befragten solche Systeme als menschlicher wahrnehmen und sich besser verstanden fühlen. Oft wird beschrieben, dass die Interaktion empathischer wirkt – und das ist ein zentraler Faktor für Vertrauens- und Beziehungsaufbau.

Gleichzeitig legen erste Erkenntnisse nahe, dass viele den Chatbot im Grunde ähnlich wie eine Suchmaschine nutzen: Sie stellen eine spezifische Frage, bekommen eine maßgeschneiderte Antwort und sind dadurch von Informationsüberlastung entlastet. Der interaktive Aspekt wird dabei gar nicht voll ausgeschöpft. So kann es auch bei einer einzelnen Anfrage, ohne viele Rückfragen oder längere Dialoge bleiben.

Beobachten Sie, dass Menschen in Deutschland zögerlich sind, gesundheitsrelevante Informationen mit einem Chatbot zu teilen?

In Deutschland wird Datenschutz als relevantes Risiko wahrgenommen, auch weil das Thema in vielen digitalen Kontexten ständig präsent ist. Gleichzeitig kennen wir das sogenannte Privacy Paradox. Viele Menschen äußern zwar Bedenken, handeln im Alltag aber nicht immer konsequent danach.

Das bedeutet auch, dass offenbleibt, wie viel in der konkreten Nutzung tatsächlich mit Chatbots geteilt wird. Hier fehlen noch belastbare Daten, um das zu beurteilen. Erste Hinweise deuten aber darauf hin, dass Chatbots nicht als uneingeschränkt vertrauenswürdige Quelle gesehen werden. Es ist nicht so, dass Chatbots ein höheres Vertrauen genießen als Ärzt*innen.

Wie werden denn die Empfehlungen von Chatbots im Vergleich zu Ärzt*innen eingeschätzt?

Wir haben das in einer Studie zu Grippeimpfungen im Herbst untersucht³, wie die Qualität der Argumente wahrgenommen wird. Qualität wurde dabei in zwei Dimensionen erfasst: erstens, ob etwas als korrekt eingeschätzt wird, und zweitens, wie überzeugend die Aussage wirkt. In der Studie wurde ein identisches Argument verwendet, das lediglich unterschiedlichen Quellen zugeschrieben wurde.

Die Quellen waren ChatGPT als Beispiel für einen Chatbot, die Ständige Impfkommission als institutionelle und evidenzbasierte Expert*inneninstanz in Deutschland, eine Kombination aus beidem (medizinische Empfehlung, zusätzlich KI-geprüft) sowie eine Bedingung ohne Quellenangabe.

Was zeigte Ihre Studie?

Das Ergebnis ist deutlich: Die Quelle hat einen erheblichen Einfluss auf die Bewertung der Qualität. Expert*innenquellen werden deutlich besser bewertet als jede Form von KI-Bezug. Selbst die kombinierte Darstellung wurde schlechter bewertet als das reine Expert*innen-Label.

Das spricht dafür, dass die Quelle als eine Art Heuristik genutzt wird. Sobald KI als Quelle genannt wird, entsteht eher Vorsicht. Die Aussage wird kritischer geprüft und als potenziell weniger verlässlich eingeschätzt.

Wie gehen Chatbots mit unsicherer oder widersprüchlicher Studienlage um, zum Beispiel bei Themen wie Endometriose, wo historisch bedingt noch nicht so viel Forschung vorhanden ist?

Das zentrale Problem ist, dass Chatbots im Gesundheitskontext nicht automatisch Evidenzbasierung priorisieren. Bei Endometriose ist die Forschung in bestimmten Bereichen tatsächlich noch lückenhaft. Wünschenswert wäre, dass ein System auch klar kommuniziert, wenn die Evidenzlage dünn ist und die Aussage nur eingeschränkt belastbar ist.

Was man aber sieht ist, dass Chatbots stark auf sprachliche Hinweise und implizite Erwartungen in der Eingabe reagieren. Wenn bereits eine Richtung oder Meinung mitschwingt, verstärken sie diese unter Umständen. Es wird also eher das geliefert, was bereits implizit erwartet wurde, statt eine neutrale Einordnung.

Wo liegt das Potenzial von Chatbots im Gesundheitsbereich? Können sie zum Beispiel als Erklärungs-Tools genutzt werden?

Wenn man die Potenziale konsequent ausschöpft – also vorausgesetzt, die KI wurde für den Gesundheitskontext mitentwickelt und arbeitet mit einem gewissen Grad an Evidenzbasierung –, dann sehe ich darin sehr große Chancen für die langfristige Förderung von Gesundheitskompetenz. Patient*innen könnten in ihrer jeweiligen Situation gezielt Informationen erhalten.

Wichtig ist mir dabei die klare Abgrenzung. Es sollte nicht so weit gehen, dass solche Systeme Diagnosen stellen.

Sehr sinnvoll sind sie im Vorfeld zur Einordnung, wie dringend ein Anliegen ist, und im Nachgang zur Erklärung von Begrifflichkeiten oder Befunden. Auch Fragen wie „Was bedeutet dieser Befund konkret?“ oder „Wie kann ich meine Ernährung zusätzlich anpassen?“ sind typische Anwendungsfelder.

In diesem Bereich kann KI eine wichtige Ergänzung zur medizinischen Versorgung sein. Damit kann sie auch zum Empowerment beitragen.

Wie sollte das Gesundheitssystem auf diesen Trend reagieren?

Wir sollten Chatbots nicht nur als Risiko betrachten. Stattdessen sollten wir stärker von der Lebensrealität der Menschen ausgehen, die diese Systeme tatsächlich nutzen. Auch wenn viele der Sprachmodelle ursprünglich nicht für den Gesundheitskontext entwickelt wurden, werden sie dort bereits genutzt.

Natürlich braucht es Regulierung, und mit dem Digital Services Act haben wir in Europa bereits eine wichtige Grundlage. Gleichzeitig braucht es aber auch klare Unterstützungsangebote für Nutzer*innen.

Wir brauchen schon jetzt ein stärkeres Bewusstsein dafür, was hilfreich ist, wo man vorsichtig sein muss und wo klare Grenzen liegen – und wie man das im Alltag überhaupt sinnvoll abwägt.

1. Sun, X., Ma, R., Zhao, X., et al. (2024). Trusting the Search: Unraveling human trust in health information from Google and ChatGPT. https://arxiv.org/pdf/2403.09987 ↩︎
2. Wardle, C., Urbani, S. & Wang, E. (2025). Evolving Health Information-Seeking Behavior in the Context of Google AI Overviews, ChatGPT, and Alexa: Interview Study Using the Think-Aloud Protocol. Journal of medical Internet research, 27, e79961.https://doi.org/10.2196/7996 ↩︎
3. Beckmann, S. A., Link, E., & Bachl, M. (2025). “ChatGPT, is the influenza vaccination useful?” Comparing perceived argument strength and correctness of pro-vaccination-arguments from AI and medical experts. Journal of Science Communication, 24. ↩︎