EURAID-Leitfaden: KI-Systeme sicher und verantwortungs­voll in Krankenhäusern entwickeln und einführen

Wie können Krankenhäuser KI-Systeme so entwickeln und einsetzen, dass sie die Versorgung tatsächlich verbessern, anstatt medizinisches Fachpersonal zusätzlich zu belasten? Unter der gemeinsamen Leitung von Prof. Stephen Gilbert vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der Medizinischen Fakultät der Technischen Universität Dresden (MF-TUD) und dem Universitätsklinikum Carl Gustav Carus Dresden sowie Dr. Anke Diehl vom Universitätsklinikum Essen hat ein multidisziplinäres Expertenteam einen praxisnahen Leitfaden entwickelt: EURAID – European Responsible AI Development. EURAID bietet Krankenhäusern eine strukturierte Anleitung zur gemeinsamen, menschenzentrierten „in-house“ Entwicklung, Validierung und Implementierung von KI-Systemen. Der Leitfaden zeigt, wie alle Interessengruppen einbezogen werden können und definiert deren Rollen im Prozess, skizziert Methoden für iteratives Design, Tests und klinische Bewertung und bietet Strategien zur Konsensbildung. EURAID basiert auf gemeinsamen Zielen, europäischen Werten, wie Achtung der Menschenwürde, Schutz von Grundrechten und Gleichheit, sowie europäischen Gesetzen. Einen raschen Einstieg in das Thema ermöglicht die deutschsprachige Kurzfassung, die in der Serie „baua: Bericht kompakt“ begleitend erschienen ist.

EURAID wurde von Akteuren entwickelt, die das gesamte Spektrum des Gesundheitswesens abbilden, darunter medizinisches und psychologisches Fachpersonal sowie Expertinnen und Experten für digitale Transformation von Krankenhäusern, Medizininformatik und Qualitätsmanagement. Darüber hinaus flossen Perspektiven von Patienten- und Arbeitnehmervertretern, aus Politik und Krankenversicherungen, der Regulatorik und Ethik sowie Wissen aus der Forschung ein. Der Leitfaden bietet klare, umsetzbare Empfehlungen für Krankenhäuser, die KI menschenzentriert, verantwortungsvoll und sicher entwickeln und implementieren möchten – im Einklang mit den sich wandelnden regulatorischen Anforderungen und gemeinsamen europäischen Werten. Letztere meinen Patienten- und Mitarbeitersicherheit, Schutz von Grundrechten, Transparenz und Nachvollziehbarkeit von KI-Systemen, menschliche Aufsicht sowie Fairness und Nichtdiskriminierung.  Die Empfehlungen stützen sich auf Impulse und Expertise aus deutschen Universitätskliniken in Dresden, Hamburg, Aachen und Essen, dem Bundesministerium für Gesundheit (BMG), der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA), von Kranken- und Unfallversicherungen (AOK und DGUV), Gewerkschaften (ver.di), einer Anwaltskanzlei und mehreren Forschungseinrichtungen (u.a. Fraunhofer- Heinrich-Hertz-Institut und Karlsruher Institut für Technologie – KIT). Aus der TUD und dem Universitätsklinikum Dresden brachten mehrere Professoren und Forschende ihr Fachwissen aus Medizin, klinischer KI und Medizininformatik, Psychologie und Regulatorik ein.

KI-Technologien entwickeln sich rasch weiter, doch ihre Umsetzung in Krankenhäusern stockt

Trotz schneller Fortschritte bei KI-Technologien und jüngster politischer Bestrebungen zur Vereinfachung der Vorschriften für „in-house“ entwickelte KI-Systeme – darunter der Vorschlag der Europäischen Kommission vom 16. Dezember 2025 zur Überarbeitung der Medizinprodukteverordnung (MDR) und der Verordnung über In-vitro-Diagnostika (IVDR) – geht die Einführung von KI in der klinischen Praxis nur langsam voran. Viele Systeme haben Probleme bei der Integration in die Routineversorgung, da standortspezifische Arbeitsabläufe und Bedürfnisse von medizinischem Fachpersonal nicht oder nur unzureichend während der Entwicklungs- und Testphase einbezogen wurden. Dadurch werden die Systeme eher als zusätzliche Belastung denn als eine Erleichterung wahrgenommen. 

Wie können Krankenhäuser menschenzentrierte KI-Systeme entwickeln und implementieren, die innovativ und sicher zugleich sind?

Um diese Balance zu finden, wurde EURAID entwickelt: ein praxisnaher Leitfaden zur Unterstützung der digitalen Transformation von Krankenhäusern, bei dem der Mensch im Mittelpunkt steht. EURAID zeigt, wie KI-Systeme gemeinsam und unter konsequenter Berücksichtigung nicht-technischer Kriterien entwickelt werden können. Der Ansatz wird anhand eines „in-house“ entwickelten Systems veranschaulicht, da dies eine auf das Krankenhaus maßgeschneiderte Anwendung unter Nutzung krankenhauseigener Daten ermöglicht. Durch die systematische Einbeziehung aller relevanten Stakeholder entlang des gesamten KI-Lebenszyklus, die Klärung jeweiliger Rollen sowie Grad und Umfang der Beteiligung, die Darstellung realer Anwendungsfälle sowie Methoden zur Erreichung eines iterativen Konsenses bietet EURAID einen einzigartigen und praxisorientierten Ansatz, verschiedene Perspektiven und regulatorische Anforderungen in Einklang zu bringen. 
„Mit EURAID wollen wir Krankenhäuser dabei unterstützen, innovative KI-Systeme sicher zu entwickeln und nachhaltig in den Klinikalltag zu integrieren. Damit kann die digitale Transformation im Gesundheitswesen beschleunigt werden“, sagt Anett Schönfelder, Erstautorin der Publikation und Forscherin im Team von Prof. Stephen Gilbert, der die Erstellung der Publikation co-geleitet hat und Professor für Medical Device Regulatory Science an der MF-TUD ist.

Medizinische Fachkräfte im Mittelpunkt der Entwicklung von KI-Systemen

Die Autorinnen und Autoren betonen, dass die erfolgreiche digitale Transformation einen Wandel von primär technologie-getriebenem hin zu kollaborativ-organisatorischem Denken erfordert. Erfolgreiche KI-Implementierung in Krankenhäusern könne nur dann gelingen, wenn die Menschen, die diese Systeme täglich nutzen und von ihnen betroffen sind, von Anfang an einbezogen werden. EURAID zeigt, wie dies auch in hochkomplexen, zeitkritischen Umgebungen möglich ist. Der Leitfaden klärt transparent die Aufgaben der Stakeholder und zeigt, wie Hürden frühzeitig identifiziert und gemeinsame Lösungswege gefunden werden können. EURAID stellt dabei medizinische Fachkräfte in den Mittelpunkt – nicht nur als Anwenderinnen und Anwender, sondern als Mitgestaltende, Implementierende und Überwachende. So trägt EURAID dazu bei, dass KI im Gesundheitswesen einen echten Mehrwert für die Menschen schaffen kann.

„Digitale Transformation im Krankenhaus gelingt nur, wenn sie gemeinsam mit den Menschen gestaltet wird, die täglich mit den Systemen arbeiten. EURAID zeigt praxisnah, wie sich die Einführung von KI auch in komplexen klinischen Strukturen verantwortungsvoll, sicher und wirksam umsetzen lässt“, erklärt Dr. Anke Diehl, Chief Transformation Officer an der Universitätsmedizin Essen und Leiterin der Abteilung für digitale Transformation, die gemeinsam mit Kolleginnen und Kollegen aus Aachen wertvolle praktische Einblicke aus ihrer eigenen Digitalisierungsinitiative lieferte.

Um EURAID in die Praxis zu überführen, sollten Krankenhäuser interne Reifegradbewertungen durchführen, übergreifende KI-Governance-Strukturen etablieren und rollenspezifische Verantwortlichkeiten definieren, die ethische, rechtliche, technische und klinische Aspekte abdecken. 

„Digitale Systeme und KI können einen spürbaren Beitrag zur Entlastung des medizinischen Personals und zur Verbesserung der Patientenversorgung leisten. Auch am Universitätsklinikum Dresden arbeiten wir daran, neue digitale Lösungen verantwortungsvoll zu etablieren und schrittweise in den Klinikalltag zu integrieren. EURAID bietet dafür eine wichtige und strukturierte Orientierung“, sagt Prof. Uwe Platzbecker, Medizinischer Vorstand des Universitätsklinikums Carl Gustav Carus Dresden. 

„EURAID steht exemplarisch für den Anspruch unserer Fakultät, innovative Forschung interdisziplinär zu entwickeln und rasch in die Praxis zu überführen. So entstehen Lösungen, die medizinisch sinnvoll, technisch umsetzbar, regulatorisch durchdacht und gesellschaftlich tragfähig sind“, sagt Prof. Esther Troost, Dekanin MF-TUD. 

Über EURAID – European Responsible AI Development

EURAID bietet einen pragmatischen, lösungsorientierten Leitfaden im Einklang mit europäischen Werten (gem. Art. 2, EU-Vertrag, 2012) und regulatorischen Vorgaben. Er stellt sicher, dass Hürden bei der „in-house“ Entwicklung und Implementierung von KI in Krankenhäusern frühzeitig erkannt und durch gemeinschaftliche Problemlösung adressiert werden. Der Leitfaden wurde auf Basis von vier Workshops sowie Expertendiskussionen entwickelt. Die Autorinnen und Autoren vereinen ein breites Spektrum sich ergänzender Expertise, darunter Regulierung von Medizinprodukten, Management der Digitalisierung von Krankenhäusern, Qualitäts- und klinisches Risikomanagement, Medizininformatik, Arbeitssicherheit und Gesundheitsschutz sowie medizinisches Fachwissen aus verschiedenen Gesundheitsberufen. Ergänzt wird dies durch Expertise aus Psychologie und menschenzentriertem KI-Design sowie Recht, Ethik, Politik und akademischer Forschung, zusammen mit Perspektiven aus Versicherungen und Gewerkschaften. 

Liste der Expertinnen und Experten der TUD und des Dresdner Universitätsklinikums, die an EURAID beteiligt waren:

• Anett Schönfelder (Erstautorin)
• Prof. Maria Eberlein-Gonska (im Ruhestand)
• Prof. Jakob N. Kather
• Rebecca Mathias
• Dr. Hannah Sophie Muti
• apl. Prof. Hannes Schlieter
• Prof. Martin Sedlmayr
• Dr. Magdalena Wekenborg
• Prof. Stephen Gilbert (leitender Mitautor)

Publikationen

Anett Schönfelder, Maria Eberlein-Gonska, Manfred Hülsken-Giesler, Florian Jovy-Klein, Jakob Nikolas Kather, Elisabeth Kohoutek, Thomas Lennefer, Elisabeth Liebert, Myriam Lipprandt, Rebecca Mathias, Hannah Sophie Muti, Julius Obergassel, Thomas Reibel, Ulrike Rösler, Moritz Schneider, Larissa Schlicht, Hannes Schlieter, Malte Schmieding, Nils Schweingruber, Martin Sedlmayr, Reinhard Strametz, Barbara Susec, Magdalena Katharina Wekenborg, Eva Weicken, Katharina Weitz, Anke Diehl, Stephen Gilbert: Collaborative and Cooperative Hospital “In-House” Medical Device Development and Implementation in the AI Age: The European Responsible AI Development (EURAID) Framework Compatible With European Values; Journal of Medical Internet Research, 2026; 28:e80754; doi: 10.2196/80754.
Link: https://www.jmir.org/2026/1/e80754/

Anett Schönfelder, Ulrike Rösler, Anke Diehl, Thomas Lennefer, Larissa Schlicht, Moritz Schneider, Eva Weicken, Stephen Gilbert, 2026. Entwicklung und Implementierung von Künstlicher Intelligenz in Krankenhäusern – Ein praxisnaher Leitfaden für die kollaborative Entwicklung und Einführung KI-unterstützter Medizinprodukte (EURAID). Dortmund: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin. baua: Bericht kompakt. doi: 10.21934/baua:berichtkompakt20260121
Link: https://www.baua.de/DE/Angebote/Publikationen/Bericht-kompakt/F2574-2

Über das Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
Das EKFZ für Digitale Gesundheit an der Medizinischen Fakultät der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis nachhaltig zu verbessern.

Kontakt:
EKFZ für Digitale Gesundheit
Anja Stübner und Dr. Viktoria Bosak
Wissenschaftskommunikation
+49 351 458 11379

digitalhealth.tu-dresden.de