In einem heute in Nature Medicine veröffentlichten Beitrag zeigen Forschende, wie das Vertrauen von Nutzerinnen und Nutzer sowie die Markteinführung von digitalen Gesundheitsanwendungen verbessert werden könnten. Sie schlagen vor, transparente, verpflichtende Feedback-Mechanismen direkt in die Benutzeroberfläche der Anwendungen zu integrieren. Der Ansatz ist einfach – ähnlich wie bei App-Store-Bewertungen – und das Feedback mit einer nationalen Plattform verknüpft. Dies könnte die Erfahrung von Nutzerinnen und Nutzern erheblich verbessern, die Sicherheit für Patientinnen und Patienten durch frühzeitiges Erkennen von Problemen erhöhen, Genehmigungsverfahren beschleunigen, den Verwaltungsaufwand in der Überwachung verringern und einen vertrauenswürdigen Wandel hin zu einem digitalen Gesundheitswesen ermöglichen.

KI-gestützte digitale Gesundheitstechnologien (Digital Health Technologies – DHTs) verändern das Gesundheitswesen und unterstützen bei Diagnose, Therapie und Anpassungen des Lebensstils. Fehlendes Echtzeit-Feedback zu Sicherheit und Leistung solcher Anwendungen vermindert jedoch deren Zuverlässigkeit. In der Vergangenheit wurden Vorschriften oft erst nach medizinischem Versagen entwickelt, erklären die Autorinnen und Autoren vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der TU Dresden zusammen mit weiteren Forschenden.

Beispiele sind die Thalidomid-Tragödie der 1960er Jahre oder fehlerhafte Brustimplantate, wobei letztere zur Einführung der Medizinprodukteverordnung der Europäischen Union (EU-MDR) beitrugen. Das aktuelle Zulassungsverfahren für Medizinprodukte unterscheidet sich erheblich von den sehr strengen Vorschriften für Arzneimittel. Es besteht jedoch ein dringender Bedarf an zuverlässigen Feedback-Systemen für digitale Gesundheitsanwendungen nach deren Markteinführung.

Ziel ist es, reale Erfahrungswerte zu sammeln und Sicherheitsprobleme so früh wie möglich zu erkennen. Obwohl es bereits einige Feedback-Mechanismen gibt, fehlt es an internationaler Standardisierung und integrierten Tools, die eine direkte und offene Rückmeldung der Nutzenden ermöglichen. Im Gegensatz zu herkömmlichen Medizinprodukten wie Implantaten könnten digitale Hilfsmittel Möglichkeiten für direktes Feedback beinhalten. Dies wiederum könnte das Vertrauen in die Nutzung fördern.

„Unsere Arbeit an der Schnittstelle zwischen medizinischen Vorschriften und digitalen Gesundheitsanwendungen konzentriert sich darauf, Innovation und Sicherheit in Einklang zu bringen. Angesichts der zunehmenden Digitalisierung ist es notwendig, zweckmäßige Vorschriften zu entwickeln und gleichzeitig bestehende Rahmenbedingungen zu nutzen, um die effektive und sichere Umsetzung digitaler Technologien zu gewährleisten. Wir sind uns jedoch bewusst, dass Aktualisierungen der Vorschriften Zeit brauchen“, sagt Rebecca Mathias, Hauptautorin des Artikels und Forscherin in der Arbeitsgruppe von Prof. Stephen Gilbert am EKFZ für Digitale Gesundheit.

Seine Forschungsgruppe befasst sich mit der Regulierung von Medizinprodukten und gehört zu den wenigen in Europa, die sich auf die Anpassung innovativer Regulierungspraktiken konzentrieren. In einer Reihe von Veröffentlichungen hat das Team Strategien zur Verbesserung von Transparenz, Feedback, Nachvollziehbarkeit, Leistung und zuverlässiger Überwachung von DHTs nach der Markteinführung vorgeschlagen.

„Unsere Forschung skizziert standardisierte, systemweite Rahmenbedingungen für die Überwachung, um die tatsächliche Leistung von DHTs zu überprüfen, einschließlich KI-gestützter Lösungen mit integrierten Mechanismen zur Förderung von Sicherheit, Vertrauen und adaptiver Steuerung. Zusammen unterstützt diese Forschung einen Prozess der stetigen Verbesserung, der durch die Nachvollziehbarkeit der Interessengruppen, eine stärkere Einhaltung der Vorschriften, nutzerorientierte Innovationen und effizientere Überwachungsansätze angetrieben wird. Diese ermöglichen Vertrauen in schnellere Genehmigungen, fördern eine bessere Akzeptanz in das Gesundheitssystem und damit eine höhere Effizienz in der Versorgung“, erklärt Prof. Stephen Gilbert.

Alle zugehörigen Veröffentlichungen finden sich unter: https://digitalhealth.tu-dresden.de/dht-feedback-tools/

Publikation

Rebecca Mathias, Baptiste Vasey, Anastasia Chalkidou, Lars Riedemann, Tom Melvin, Stephen Gilbert: Safe AI-enabled digital health technologies need built-in open feedback, Nature Medicine, 2025.
Link: https://www.nature.com/articles/s41591-024-03397-6
DOI: 10.1038/s41591-024-03397-6

Diese Arbeit wurde von der Europäischen Kommission im Rahmen des Programms Horizon Europe als Teil des Projekts ASSESS-DHT (101137347) gefördert. Die britischen Partner im Projekt werden durch UKRI Grant 10106825 (National Institute for Health and Care Excellence) und 10108522 (University of Oxford) unterstützt.

Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit

Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.

Kontakt

EKFZ für Digitale Gesundheit
Anja Stübner und Dr. Viktoria Bosak
Presse- und Öffentlichkeitsarbeit
Tel.: +49 351 – 458 11379