Künstliche Intelligenz in Gesundheits-Apps: Was Nutzerinnen und Nutzer wirklich wollen
Künstliche Intelligenz (KI) verändert Diagnostik, Therapie und Administration im Gesundheitswesen. Doch fördert sie auch soziale und ökologische Verantwortung in Krankenhäusern?
Mithilfe von Machine-Learning-Algorithmen und Big-Data-Analysen können Nutzerinnen und Nutzer heute beispielsweise über die App Hautveränderungen auf Bildern einschätzen lassen, personalisierte Trainings- oder Therapiepläne erhalten oder psychotherapeutische Beratungen durch Chatbots in Anspruch nehmen (1,2).
Die Zuverlässigkeit der Algorithmen ist dabei jedoch nicht immer wissenschaftlich geprüft, und auch der Umgang mit sensiblen Gesundheitsdaten wirft Fragen auf, insbesondere in Bezug auf Datenschutz und kommerzielle Nutzung (3,4). In einer qualitativen Studie von Ryan et al. (2025) wurden 21 Nutzerinnen und Nutzer von KI-gestützten Gesundheits-Apps interviewt (2). Die Teilnehmenden berichteten über ihre Erfahrungen, Erwartungen und Bedenken zu diesen Aspekten.
Wahrgenommene Zuverlässigkeit von KI-Gesundheits-Apps
Viele Nutzerinnen und Nutzer sehen in KI-basierten Apps eine hilfreiche Unterstützung für ihr Gesundheitsmanagement im Alltag. Auffällig war der Unterschied in der Bewertung von Apps für körperliche und psychische Gesundheit. Teilnehmende berichteten, dass sie Vorschläge zur körperlichen Gesundheit – wie individualisierte Trainingspläne oder Diäten – meist annehmen, ohne sie groß zu hinterfragen. Geht es jedoch um Unterstützung bei psychischen Problemen, stoßen Algorithmen nach Meinung der Nutzerinnen und Nutzer an ihre Grenzen. Menschliches Verhalten, Emotionen und individuelle Lebenssituationen seien zu komplex, um von Algorithmen adäquat erfasst zu werden.
| „Bei einer Mental-Health-App wünsche ich mir mehr Möglichkeiten zur Individualisierung. Ich habe das Gefühl, dass dafür mehr Faktoren berücksichtigt werden müssten, bevor sie etwas vorschlägt.“ |
|---|
Hervorzuheben ist, dass ein tieferes technisches Verständnis für die Vertrauensbildung nicht relevant ist. Wichtiger sind für sie der gute Ruf des KI-Anbieters und Empfehlungen von Fachpersonen wie Ärztinnen, Ärzten oder Therapeutinnen und Therapeuten.
| „Ich verstehe, dass ein Algorithmus eine Black Box sein kann – solange ich weiß, dass die Trainingsstichprobe groß und vielfältig genug war und die Ergebnisse nachvollziehbar sind, finde ich das in Ordnung.“ |
|---|
Wissen fehlt, Sorgen bleiben
Zwar betonen viele Nutzerinnen und Nutzer, dass ihnen ein verantwortungsvoller Umgang mit sensiblen Gesundheitsdaten wichtig ist, gleichzeitig geben sie offen zu: Was mit ihren Daten konkret geschieht, wissen sie meist nicht. Ein zentrales Problem dabei sind die oft zu langen und mit vielen irrelevanten Informationen überfrachteten Datenschutzerklärungen.
| „Datenschutzerklärungen sind oft schwer zugänglich. Ich möchte nicht nur wissen, ob es Informationen gibt, sondern sie auch leicht nachvollziehen können. Das zeigt mir, ob dem Anbieter wirklich etwas an einem verantwortungsvollen Umgang mit den Daten liegt.“ |
|---|
Fazit
Entscheidend für die Nutzung von KI-Health-Apps ist das Vertrauen in die Genauigkeit der Algorithmen (5,6). Apps zur körperlichen Gesundheit genießen dabei mehr Vertrauen als solche zur psychischen Gesundheit. Selbst neu entwickelten Chatbots fehlt oft das Verständnis für den Kontext menschlicher Emotionen (1). Expertinnen und Experten empfehlen daher, dass solche Apps künftig Möglichkeiten bieten sollten, Nutzerinnen und Nutzer bei Bedarf an persönliche Unterstützungsangebote weiterzuleiten (7).
KI-Algorithmen sind häufig nicht transparent, doch viele Nutzerinnen und Nutzer akzeptieren das – solange sie dem Hersteller oder einer medizinischen Fachkraft vertrauen, die die App empfiehlt. Daher ist es für Anbieter wichtig, eine verlässliche Reputation aufzubauen und medizinisches Fachpersonal intensiv in die Entwicklung einzubinden.
Zudem legen Nutzerinnen und Nutzer großen Wert auf einen verantwortungsvollen Umgang mit ihren Daten. Sie wünschen sich, dass Informationen dazu kurz, verständlich und präzise aufbereitet werden.
Vertrauen und Transparenz sind somit der Schlüssel, damit KI-gestützte Gesundheits-Apps ihr Versprechen einer besseren Versorgung auch wirklich einlösen können.
Literatur
- Haque MDR, Rubya S. An overview of chatbot-based mobile mental health apps: insights from app description and user reviews. JMIR Mhealth Uhealth. 2023;11:e44838. doi:10.2196/44838
- Ryan K, Hogg J, Kasun M, Kim JP. Users’ perceptions and trust in AI in direct-to-consumer mHealth: qualitative interview study. JMIR Mhealth Uhealth. 2025;13:e64715. doi:10.2196/64715
- Chustecki M. Benefits and risks of AI in health care: narrative review. Interact J Med Res. 2024;13:e53616. doi:10.2196/53616
- Williamson SM, Prybutok V. Balancing privacy and progress: a review of privacy challenges, systemic oversight, and patient perceptions in AI-driven healthcare. Appl Sci. 2024;14:675. doi:10.3390/app14020675
- Fritsch SJ, Blankenheim A, Wahl A, Hetfeld P, Maassen O, Deffge S, et al. Attitudes and perception of artificial intelligence in healthcare: a cross-sectional survey among patients. Digit Health. 2022;8:1–16. doi:10.1177/20552076221116772
- Upadhyaya A, Mishra MK, Saxena A. User preferences for AI-based healthcare apps: an association mining analysis. SN Comput Sci. 2024;5:464. doi:10.1007/s42979-024-02739-y
- Götzl C, Hiller S, Rauschenberg C, Schick A, Fechtelpeter J, Fischer Abaigar U, et al. Artificial intelligence-informed mobile mental health apps for young people: a mixed-methods approach on users’ and stakeholders’ perspectives. Child Adolesc Psychiatry Ment Health. 2022;16:86. doi:10.1186/s13034-022-00522-6
Lesen Sie auch: Künstliche Intelligenz als Wegbereiter für soziale und nachhaltige Innovation im Krankenhaus
