FOAMio Politix – Positionspapier „Digitalisierung und Künstliche Intelligenz in der Intensiv- und Notfallmedizin“ der DGIIN

Die Deutsche Gesellschaft für Internistische Intensivmedizin und Notfallmedizin (DGIIN) hat am 15.09.2026 ein Impulspapier zur „Digitalisierung und Künstliche Intelligenz in der Intensiv- und Notfallmedizin“ veröffentlicht. Die Kurzfassung des Impulspapieres gibt es nachfolgend.

Grundsätzliches

Das Gesundheitswesen steht vor enormen Herausforderungen durch steigenden Versorgungsbedarf, Ressourcenknappheit (insbesondere Fachkräftemangel) und hohe Kosten. Dies trifft besonders die Notfall- und Intensivmedizin, die stark spezialisiert, ressourcenintensiv ist und Entscheidungen unter Zeitdruck erfordert. Da gleichzeitig riesige Mengen klinischer Daten generiert werden, rücken KI-Lösungen zur Unterstützung – nicht zum Ersatz – des medizinischen Personals in den Fokus.

Die Deutsche Gesellschaft für Internistische Intensiv- und Notfallmedizin (DGIIN) sieht KI als zentral für die zukünftige Leistungsfähigkeit in diesen Bereichen an. Voraussetzung dafür ist ein strukturiertes Vorgehen. Das bedeutet im Einzelnen:

• Qualifizierung
  • Gesundheitspersonal muss Kompetenzen im Umgang mit KI erwerben, um diese sicher und praxisrelevant nutzen und gestalten zu können
• Co-Development
  • KI-Systeme müssen gemeinsam von klinischen Anwender*innen, der Wissenschaft und der Industrie entwickelt werden („Co-Development“), um sicherzustellen, dass sie den echten klinischen Bedürfnissen entsprechen und nicht „von außen“ aufgedrängt werden.
• Kontextspezifität
  • KI-Lösungen müssen an die spezifischen klinischen, regulatorischen (wie die europäische KI-Verordnung, EHDS, GDNG) und systemischen Bedingungen des jeweiligen Gesundheitssystems angepasst sein
  • CAVE: einfache Übernahme von Systemen aus dem Ausland („Off-the-shelf“) birgt erhebliche Risiken
• Anwendbarkeit
  • Vorhersagen von KI-Modellen müssen in konkrete klinische Handlungen übersetzt werden können
  • Integration der KI in bestehende Abläufe und Entscheidungsstrukturen sowie die Überbrückung der Lücke zwischen Algorithmus und ärztlicher Entscheidung durch organisatorische, technische und kulturelle Anpassungenn erforderlich

Abgrenzung und Zielsetzung des Impulspapiers

Das Impulspapier der DGIIN formuliert Leitgedanken für die verantwortungsvolle Einführung und Entwicklung von KI und digitalen Technologien in der Notfall- & Intensivmedizin.

• Entstehung:
  • gemeinsam von der DGIIN-Arbeitsgruppe „Digitale Medizin und künstliche Intelligenz“ mit interdisziplinären Expert*innen (Recht, Daten, Implementierung) durch einen internen Konsensprozess erarbeitet
• inhaltlicher Fokus:
  • Qualifikation
  • Co-Development
  • Kontextspezifität
  • Anwendbarkeit
• konzeptioneller Ansatz:
  • Impulspapier beschränkt sich bewusst auf grundlegende Prinzipien
  • aufgrund der rasanten technologischen Entwicklung verzichtet es darauf, einzelne, bereits existierende KI-Anwendungen systematisch zu bewerten
• klare Abgrenzung:
  • Anwendungen, die in erster Linie administrative Aufgaben (wie eine vereinfachte Dokumentation) erleichtern, werden explizit ausgeklammert
  • Fokus des Papiers liegt ausschließlich auf Technologien, die direkt auf die medizinische Patientenversorgung abzielen

Qualifikation der Berufsgruppen

Die erfolgreiche und sichere Integration von KI in der Notfall- und Intensivmedizin erfordert eine gezielte Aus- und Weiterbildung aller beteiligten Berufsgruppen. Das Ziel ist dabei nicht, medizinisches Fachpersonal zu reinen Datenwissenschaftlern umzuschulen – was auf Kosten der hochspezialisierten Fachexpertise ginge –, sondern eine Querschnittskompetenz aufzubauen. Diese ermöglicht es, technologische Entwicklungen nicht nur anzuwenden, sondern kritisch zu bewerten und aktiv mitzugestalten.

Die geforderte Kompetenzarchitektur umfasst folgende Kernbereiche:

• Grundlagen der Informationsrepräsentation und algorithmische Konzepte
  • Personal muss verstehen, wie klinische Daten verarbeitet werden und dass KI-Modelle auf Wahrscheinlichkeiten (Probabilität) basieren
  • Ziel ist es den echten Mehrwert einer KI gegenüber einfacheren, regelbasierten Lösungen einschätzen zu können
• Anwendungsfelder und Lösungsräume
  • kritische Abwägung, welche Tätigkeiten zwingend in menschlicher Hand bleiben müssen, um die ärztlichen und pflegerischen Kernkompetenzen zu erhalten und ein blindes Vertrauen in die Technik („Automation Bias“) zu verhindern
• Unsicherheit, Fehlermodi und Modellgrenzen
  • zur Beurteilung der klinischen Eignung einer KI ist Wissen über spezifische Schwächen zwingend erforderlich, dazu zählen…
    • Datenverzerrungen (Bias)
    • Überanpassung (Overfitting)
    • schleichende Veränderungen der realen Daten im Vergleich zu Trainingsdaten (Datendrift)
    • erfundene, aber plausibel klingende Ergebnisse (Halluzinationen)
• Evaluierung und Dokumentationspflicht
  • für den Einsatz im Hochrisikoumfeld bedarf es standardisierter Prüfschemata
  • KI-Anwendungen müssen kontinuierlich überwacht, bei Bedarf rekalibriert und Änderungen lückenlos nachvollziehbar dokumentiert werden (Audit Trail)
• Ethik, Recht und Governance
  • Anwender*innen müssen ein Bewusstsein für die ethischen und rechtlichen Rahmenbedingungen haben, u.a.
    • Fragen der Haftung
    • Repräsentativität der genutzten Daten
    • Gewährleistung von Gerechtigkeit & Gleichbehandlung in der Patient*innenversorgung

Co-Development

Das vorgeschlagene Rahmenwerk der DGIIN strukturiert das „Co-Development“ – die Zusammenarbeit zwischen Klinik, Wissenschaft und Industrie –, um KI- und Digitalanwendungen für die Intensiv- und Notfallmedizin sicher und bedarfsgerecht zu entwickeln. Angelehnt an internationale Vorbilder, zielt es auf maximale Transparenz ab.

Die wesentlichen Kategorien dieses Rahmenwerks umfassen:

• methodischer Rahmen
  • strukturiertes Rahmenwerk (angelehnt an Vorbilder wie die „Applied Model Card“ oder „EURAID“) ist für den Hochrisikobereich der Intensiv- und Notfallmedizin essenziell
  • dient als Plattform für das Co-Development und schafft Transparenz über den Entwicklungszweck, die Technologie, den Einsatzkontext, die Systemgrenzen und nötige Sicherheitsmaßnahmen der KI-Anwendung
• zweckmäßiger und „Out-of-scope-Gebrauch“
  • bestimmungsgemäßer Einsatz der Anwendung muss klar definiert und explizit von einer ungewollten Nutzung abgegrenzt werden
  • wichtig, um den regulatorischen Rahmen festzustecken sowie Fehlbedienungen und Missbrauch zu verhindern
• Nutzende
  • klare Unterscheidung zwischen primären (z. B. medizinisches Personal) und sekundären (z. B. Entwickler, Verwaltung) Nutzenden
  • zudem sind die jeweiligen Rollen, Verantwortlichkeiten und die benötigten Fähigkeiten (wie etwa spezifische medizinische Fachkenntnisse zur Interpretation der Ergebnisse) genau zu beschreiben
• Modellbeschreibung
  • Erläuterungen der technischen Eigenschaften im klinischen Kontext, u.a. verwendete Modelle, Algorithmen, Datenformate für In- und Output, nötige Vorverarbeitungsschritte sowie technische Limitationen
• Daten
  • Datengrundlage muss bezüglich Herkunft, Umfang und möglichen (z.B. zeitlichen oder rechtlichen) Einschränkungen detailliert beschrieben werden
  • dient vor allem dazu, mögliche Verzerrungen (Bias) der KI zu erkennen und zu bewerten
• Leistungsevaluation
  • Evaluierung der KI muss vorab geplant, theoretisch getestet und anschließend in der realen Versorgung überprüft werden
  • Leistungskennzahlen (KPIs) dürfen nicht nur rein technisch sein, sondern müssen konkrete patienten- und behandlungsrelevante Ergebnisse messen, um den echten klinischen Nutzen nachzuweisen
• Deployment
  • KI-Lösungen müssen in bestehende IT-Infrastrukturen (wie KIS oder RIS) integriert werden (CAVE: rechtzeitig Schnittstellen und Datenformate berücksichtigen)
  • ebenso müssen wirtschaftliche Faktoren wie Implementierungskosten, Vergütung, Compliance und Haftung beachtet werden
• Überwachung und Instandhaltung
  • KI-Systeme sind dynamisch, weshalb nach der Einführung ein fortlaufendes Monitoring Pflicht ist (Leistungsabfälle oder Datendrifts sollen im laufenden Betrieb erkannt werden
  • Definition notwendig, ab welchen Schwellenwerten ein Modell neu trainiert werden muss und wie Updates eingespielt werden
• ethische und Sicherheitserwägungen
  • Risiken rund um die Patient*innensicherheit und Haftungsfragen müssen kritisch bewertet werden
  • konkrete Handlungsempfehlungen zum Umgang mit den KI-Ergebnissen müssen formuliert werden
  • iterativer Prozess hilft dabei, das System und den Entwicklungsablauf stetig sicherer zu machen
• Anwendungskontext
  • Einsatzgebiete in der Intensiv- und Notfallmedizin sind extrem vielfältig, auch wenn viele Lösungen noch nicht im klinischen Alltag voll etabliert sind
  • Assistenzsystem zur Prozessoptimierung in der Notaufnahme (APONA) wird als konkretes Fallbeispiel angeführt, das bereits Schritte zur echten Implementierung in die Patientenversorgung unternommen hat

Kontextspezifität

• Rechtsrahmen beim Einsatz von KI in der Notfall- und Intensivversorgung
  • Implementierung von KI- und Digitalisierungslösungen in diesem Bereich unterliegt einem komplexen rechtlichen Konstrukt
  • zentrale Säulen dieses Rechtsrahmens setzen sich aus dem Medizinprodukte-, KI-, Arzt- und Datenschutzrecht zusammen
  • Rahmen ist essenziell, um bei KI-gestützten Entscheidungsprozessen die Patientensicherheit, Transparenz und Verantwortlichkeit zu gewährleisten
• Medizinprodukterecht und KI-Verordnung
  • KI-Systeme mit medizinischem Zweck (wie Diagnoseunterstützung oder Therapieempfehlungen) gelten als Medizinprodukte und fallen unter die europäische MDR (2017/745/EU) sowie nationale Gesetze wie das MPDG und die MPBetreibV
  • zusätzlich gilt für diese Systeme die seit August 2024 rechtskräftige europäische KI-Verordnung (KI-VO), welche vor allem Anbieter und Betreiber in die Pflicht nimmt
  • medizinische Einrichtungen agieren in der Regel als Betreiber und müssen bei den oftmals als „Hochrisiko-KI-Systeme“ eingestuften Anwendungen strenge Vorgaben bezüglich Aufsicht, Datenqualität, Transparenz und technischer Robustheit erfüllen
  • aktueller Reformvorschlag der Europäischen Kommission plant jedoch, Medizinprodukte größtenteils aus der KI-VO herauszunehmen, um eine Überregulierung zu vermeiden, was Betreiber und Anbieter in der Praxis entlasten würde
  • für die wissenschaftliche Entwicklung und Erforschung von KI-Systemen sehen MDR und KI-VO bereits spezifische Ausnahmeregelungen vor
• ärztliche Verantwortung und Haftung
  • Einsatz von KI entbindet Ärzt*innen nicht von ihrer Verantwortung und Haftung für Diagnose- und Therapieentscheidungen, da die Technik das ärztliche Urteil nicht ersetzt
  • unreflektiertes Vertrauen in KI-Ergebnisse kann haftungsrechtliche Folgen haben –> daher muss das ärztliche Personal die Ausgaben der KI nachvollziehen können
  • besondere Fehlerquellen wie mangelhafte Trainingsdaten, Halluzinationen oder zeitliche Leistungsabfälle bedürfen einer klaren fachlichen Überwachung
  • auch unter Stress und Zeitdruck (wie in der Notfallmedizin) bleibt die ärztliche Verantwortung bestehen, weshalb KI-Daten stets übersichtlich und gut bewertbar aufbereitet sein müssen
  • Nutzung von KI löst zudem besondere ärztliche Aufklärungspflichten gegenüber dem Patienten aus (§ 630e BGB) –> bei Neulandmethoden muss explizit über Behandlungsalternativen und unbekannte Risiken aufgeklärt werden
• Datenschutz
  • Nutzung von KI in der medizinischen Versorgung geht mit der Verarbeitung sensibler Gesundheitsdaten einher, welche streng durch die DSGVO (insb. Art. 9 Abs. 2 und Art. 5) reglementiert ist
  • CAVE: Grundsätze wie Zweckbindung, Datenminimierung und Speicherbegrenzung müssen beachtet werden
  • wenn Daten für Forschungszwecke genutzt werden, bedarf dies in der Regel einer informierten Einwilligung der Patient*innen oder es müssen die engen gesetzlichen Ausnahmevoraussetzungen erfüllt sein
  • geplante Europäische Gesundheitsdatenraum (EHDS) soll künftig den grenzüberschreitenden Zugang zu hochwertigen Daten für Forschung und KI-Training erleichtern, ohne dabei den hohen Datenschutz zu gefährden
• Systemarchitektur und Systemarchitektur
  • um KI-Anwendungen erfolgreich integrieren zu können, wird eine leistungsfähige und flexible IT-Architektur benötigt

Rechenleistung und Speicherressourcen	KI-Modelle, insbesondere im Bereich des Deep Learning, benötigen hohe Graphikprozessor(GPU)-Leistung und schnellen Zugriff auf Trainings- sowie Echtzeitdaten, um eine Anwendung im medizinischen Kontext zu ermöglichen
Netzwerkkonnektivität	– Datenaustausch zwischen KIS, PACS, LIS und KI-Systemen muss über gesicherte und latenzarme Verbindungen erfolgen – VPN-Tunneling und interne Virtual Local Area Network(VLAN)-Segmentierung sind etablierte Maßnahmen zur Absicherung und gewährleisten, dass notwendige Datenströme verlässlich verfügbar sind
Sicherheitsarchitektur	– zentrale Aspekte sind Zugriffskontrolle, Verschlüsselung und Audit-Logging (d. h. Aufzeichnung von Zugriffen), sodass nur autorisierte Systeme und Benutzer auf medizinische Daten zugreifen können und eine lückenlose Nachvollziehbarkeit ermöglicht wird – Sicherheitsarchitektur muss deshalb bereits bei der Konzeption einer KI-Anwendung berücksichtigt werden
Betriebsmodell	– je nach Anwendungsfall kann die KI-Lösung lokal (auch „on-premise“ genannt) oder in zertifizierten Cloud-Umgebungen betrieben werden – während lokale Systeme Vorteile hinsichtlich Datenschutz und Latenz bieten, ermöglicht der Cloud-Betrieb eine bessere Skalierbarkeit und einfachere Aktualisierung der Modelle

• Vorgaben des Qualitätsmanagements in der klinischen Versorgung
  • deutsche Krankenhäusern verpflichtende Qualitätsmanagement (QM) nutzen die Möglichkeiten der Digitalisierung und Automatisierung derzeit noch sehr zurückhaltend
  • liegt primär an einer unzureichenden digitalen Kompetenz, weshalb Schulungen des Personals eine hohe Priorität haben
  • bei Vorhandensein einer geeigneten IT-Infrastruktur und einer innovationsfreundlichen Kultur kann das QM zukünftig als strategische Schnittstelle (zwischen IT, Personal, Datenschutz und Management) und als Treiber der Digitalisierung fungieren
• Integration von KI-Anwendungen in Krankenhausinformationssysteme
  • KI-Anwendungen müssen zwingend in bestehende digitale Infrastrukturen, insbesondere in das zentrale Krankenhausinformationssystem (KIS), eingebunden werden
  • KIS bündelt alle relevanten Patientendaten und bietet Schnittstellen zu weiteren Subsystemen wie Labor (LIS), Radiologie (RIS) und Bildarchivierung (PACS)
  • neben regulatorischen Anforderungen sind technische Grundlagen wie Interoperabilität, standardisierte Schnittstellen und Datenqualität maßgeblich für den Erfolg der Integration
  • für einen sicheren und strukturierten Datenaustausch zwischen KI und KIS sorgen moderne Kommunikationsprotokolle (z. B. HL7, FHIR, DICOM) und REST-basierte APIs

HL7 V2/V3 (Health Level Seven)	etablierter Standard für interne Kommunikationsprozesse in Krankenhäusern, welch die zentralen Informationen wie Patientendaten, Laboraufträge oder Befunde transportieren und damit Bestandteil vieler Workflows sind
FHIR (Fast Healthcare Interoperability Resource)	– moderne, webbasierte Architektur, die Daten über Representational-State-Transfer-Schnittstellen (auch REST-APIs genannt) in JSON- oder XML-Formate austauscht – FHIR entwickelt sich zunehmend zur technischen und semantischen Grundlage zukunftsorientierter KIS-Integrationen – insbesondere dort, wo modulare, interoperable und KI-fähige Systemlandschaften aufgebaut werden sollen
DICOM (Digital Imaging and Communications in Medicine)	Standard für die Speicherung und Übertragung medizinischer Bilddaten, insbesondere in der Radiologie und Kardiologie

Anwendbarkeit

Die übergreifende Herausforderung besteht darin, KI und Digitalisierung nahtlos in die bestehende Gesundheitsinfrastruktur einzubetten. Isolierte „Insellösungen“ verursachen hohe Kosten und Widerstände. Eine erfolgreiche Integration, besonders in der Notfall- und Intensivmedizin, erfordert daher die Berücksichtigung der folgenden Faktoren:

• organisatorische Faktoren
  • erfolgreiche Integration erfordert ganzheitliche, phasenbasierte Strategie, die über reine Technologiebeschaffung hinausgeht
  • geleitet werden sollte dies idealerweise von interdisziplinärem Projektmanagementteam aus Intensivstation, Notaufnahme und Präklinik
• Zielbestimmung
  • zu Beginn muss eine klare Vision entwickelt werden, die alle relevanten Stakeholder (Klinikleitung, IT, medizinisches Personal) einbindet
  • geschieht praxisnah durch Workshops, Ist-Analysen und die Beobachtung klinischer Abläufe
• Potenzialanalyse
  • mögliche KI-Anwendungsfälle werden unter medizinischen, organisatorischen und ökonomischen Gesichtspunkten bewertet und priorisiert
  • mithilfe von Tools wie SWOT- oder Use-case-Analysen werden die machbarsten und vielversprechendsten Einsatzgebiete identifiziert
• Planung
  • basierend auf der Analyse wird ein detaillierter Projektplan (inkl. Aufwand, Zeitrahmen und erwartetem Nutzen) erstellt
  • durch Methoden wie die Gap-Analyse und interdisziplinäre Workshops sollen die Lücken zwischen dem Ist- und dem Soll-Zustand geschlossen werden
• Qualifikation:
  • Erfolg von KI steht und fällt mit der Akzeptanz der Anwender*innen –> daher muss die digitale Gesundheitskompetenz der Mitarbeitenden durch Schulungen und E-Learnings gezielt gefördert werden, um auch Innovationen aus der Belegschaft heraus („Bottom-up“) zu ermöglichen
• Review:
  • aufgrund rasanter technologischer und regulatorischer Entwicklungen muss die Strategie regelmäßig vom Lenkungsausschuss überprüft und bei Bedarf angepasst werden, um die Zielerreichung sicherzustellen
• technische Faktoren
  • um Abhängigkeiten von Einzelherstellern zu vermeiden, braucht es offene, interoperable Schnittstellen
  • zentraler FHIR-Server kombiniert mit modernen Webtechnologien (REST-APIs) und standardisierten Austauschformaten (HL7, DICOM) ermöglicht es, KI-Ergebnisse strukturiert und nahtlos in bestehende Systeme (wie das KIS) zu integrieren
• Kompetenz- und Kulturfaktoren
  • inhaltliche Brücke muss zwischen der Ausgabe der KI und der tatsächlichen ärztlichen Entscheidung geschlagen werden
  • besonders in der zeitkritischen Notfall- und Intensivversorgung bei oft lückenhafter Informationslage essenziell
• Urteilsfähigkeit
  • KI ersetzt das ärztliche Urteil nicht
  • um ein unkritisches, blindes Vertrauen in die Technik zu vermeiden, muss das Personal die Grenzen, Verzerrungspotenziale und Unsicherheiten von KI-Ausgaben verstehen
  • Parameter, die die Verlässlichkeit der KI-Aussage greifbar machen (z.B. „confidence accuracy“), sind nötig, damit das Behandlungsteam die Verantwortung für Entscheidungen übernehmen kann
• Gestaltung von Arbeitsabläufen
  • Technologie muss dem Personal einen spürbaren Mehrwert bieten und darf nicht zu Mehrarbeit (z. B. durch manuelle Dateneingaben) führen
  • Implementierung muss „Clinician-first-Ansatz“ folgen, der das Behandlungsteam konsequent in den Fokus stellt und entlastet
• Kultureller und interprofessioneller Rollenwandel
  • KI verändert die Informationsflüsse und Rollen im Team
  • ärztliches Kompetenzprofil wandelt sich von einer reinen Wissensautorität hin zu einer kuratorischen Fähigkeit, die zwischen KI-Empfehlungen und eigener klinischer Erfahrung abwägen muss
  • klare Kommunikations- und Organisationsstrukturen sind nötig, um ein gesundes Vertrauen in die KI zu schaffen – ohne die Verantwortung komplett an sie abzugeben oder sie pauschal abzulehnen.