Mit den richtigen rechtlichen und ethischen Leitplanken:
Beim Einsatz von KI treffen hochsensible Pflegedaten auf neuartige Technologien. Datenschutz ist dabei kein Hindernis, sondern Ihr Fundament für eine sichere Implementierung.
Damit Ihr KI-Projekt rechtlich und ethisch einwandfrei läuft, müssen Sie drei Bereiche von Anfang an beachten:
KI soll Pflegekräfte unterstützen – nicht die menschliche Beziehung ersetzen.
Beantworten Sie im Leitungsteam vorab vier ethische Kernfragen:
Transparenz: Verstehen alle Beteiligten (Mitarbeitende, Bewohner:innen und Angehörige), wo und wie KI eingesetzt wird?
Zuwendung: Bleibt trotz des KI-Einsatzes ausreichend Zeit für menschliche Interaktion?
Schutz vulnerabler Gruppen: Sind Menschen mit Demenz oder Einschränkungen besonders geschützt?
Kritische Reflexion: Ist Ihrem Team bewusst, dass KI-Modelle durch verzerrte Trainingsdaten Fehlannahmen treffen können?
Die KI übernimmt niemals die rechtliche Verantwortung. Jede kritische Entscheidung muss durch eine qualifizierte Pflegefachkraft geprüft und freigegeben werden.
Der Einsatz von KI verändert Rollen und Arbeitsabläufe. Wenn Mitarbeitende Überwachung oder Arbeitsplatzverlust befürchten, scheitert das Projekt.
Erfahren Sie mehr dazu in Schritt 5.
Investieren Sie in Ihr Team, nicht nur in die Software. Binden Sie Ihre Pflegekräfte von Tag 1 an in den Entscheidungsprozess ein.
Klären Sie intern vorab: Wie gehen wir mit Fehlern der KI um? Wann wird eine KI eingesetzt? Welche Daten werden verarbeitet? Wo liegen die Grenzen eines solchen Systems? Mehr dazu erfahren Sie in Schritt 2.
Kommunizieren Sie transparent, dass die Verantwortung stets beim Menschen bleibt. So nehmen Sie Unsicherheiten, erkennen die sich verändernde Rolle Ihres Teams wertschätzend an und sichern die Akzeptanz im Arbeitsalltag.
Der europäische EU AI Act reguliert KI-Systeme nach ihrem Risikopotenzial. Für Pflegeeinrichtungen gelten strenge Vorgaben, da Pflegedaten und gesundheitliche Bewertungen direkte Auswirkungen auf Menschen haben.
| Risikoklasse | Bedeutung in der Pflege | Beispiele | Pflichten der Einrichtung |
|---|---|---|---|
|
Inakzeptabel |
Verboten. |
Manipulative Systeme, die Verhalten beeinflussen. |
Einsatz komplett untersagt. |
|
Hohes Risiko |
Entscheidet über Gesundheit, Sicherheit oder Würde. |
Sturzrisiko-Analysen, KI-Pflegestufenerfassung, Roboter. |
Strenge Risikoprüfung, Transparenz, menschliche Aufsicht. |
|
Begrenztes Risiko |
KI-Systeme mit direkter Nutzerinteraktion. |
Chatbots, KI-Sprachassistenten. |
Informationspflicht: Nutzende müssen KI-Einsatz erkennen. |
|
Minimales Risiko |
Administrative Tools ohne Personenbezug. |
Logistik- oder Dienstplanungs-Tools. |
Keine besonderen Auflagen. |
Dieser Podcast wurde mithilfe von KI generiert. Die Inhalte wurden von Menschen erarbeitet und auf Korrektheit geprüft. (Stand: 14.09.2026)
Den Podcast zum Nachlesen finden Sie in dieser Zusammenfassung.
Wenn Sie mehr über den EU AI Act erfahren möchten, finden Sie auf dieser Seite vom Future of Life Institute hilfreiche Infos und Werkzeuge.
Schätzt Ihre KI-Anwendung Gesundheitsrisiken ein (z. B. Sturz- oder Dekubitusanalysen) oder unterstützt sie Diagnosen, gilt sie meist als Medizinprodukt. Achten Sie zwingend auf eine gültige CE-Kennzeichnung des Anbieters.
Wenn Ihre KI‑Anwendung medizinische Funktionen übernimmt, muss sie die MDR‑Anforderungen erfüllen – zusätzlich zu den Vorgaben von DSGVO und EU AI Act. So bleibt die KI sicher, rechtskonform und zum Wohl Ihrer Bewohner:innen.
Gesundheitsdaten zählen nach Artikel 9 DSGVO (Datenschutz-Grundverordnung) zu den besonders schützenswerten Daten. Vermeiden Sie Daten-Wildwuchs und binden Sie Ihren Datenschutzbeauftragten (DSB) von Anfang an ein.
Sollten Sie keinen internen Datenschutzbeauftragten haben, ziehen Sie sich unbedingt externe Hilfe bei diesem komplexen Thema heran. Der DSB hilft Ihnen bei allen relevanten Punkten:
Stellen Sie sicher, dass ein rechtsgültiger AVV mit dem Software-Anbieter vorliegt.
Werden Daten lokal, in einer deutschen Cloud, auf EU-Servern oder in einem Drittland (z. B. USA) verarbeitet?
Bei Hochrisiko-Systemen Pflicht nach Art. 35 DSGVO. Ihr DSB unterstützt Sie dabei.
Informieren Sie Bewohner:innen bzw. deren gesetzliche Vertretung verständlich und holen Sie erforderliche Zustimmungen ein.
Achten Sie strikt auf Datenminimierung (Art. 5 DSGVO) – verarbeiten Sie nur Daten, die für den Zweck zwingend notwendig sind.
In Partnerprojekten zeigte sich: Die größte Verzögerung entsteht meist nicht durch die Technik, sondern durch fehlende rechtliche Abstimmungen. Welche Institutionen in Deutschland und Dänemark in diesem Kontext relevant wären, zeigt die nachfolgende Tabelle:
| Bereich | Deutschland | Dänemark |
|---|---|---|
|
Rechtliche Grundlage |
Digitale-Versorgung-Gesetz (DVG), Digitale-Versorgung-und-Pflege-Modernisierungs-Gesetz (DVPMG), Gesundheitsdatennutzungsgesetz (GDNG) sowie Datenschutz-Grundverordnung (DSGVO)/Bundesdatenschutzgesetz (BDSG) |
Serviceloven, Sundhedsloven, General Data Protection Regulation (GDPR)/Danish Data Protection Act |
|
Datenschutz |
Die Bundesbeauftragte für den Datenschutz und die Informationssicherheit (BfDI) und Landesdatenschutzbehörden |
Datatilsynet |
|
IT-Sicherheit |
Bundesamt für Sicherheit in der Informationstechnik (BSI) |
Styrelsen for Samfundssikkerhed |
|
Pflege |
Bundesministerium für Gesundheit (BMG); Umsetzung durch Länder und Pflegekassen |
Børne-, Ældre- og Boligministeriet; Umsetzung durch die Kommunen |
|
Digitalisierung |
Bundesministerium für Digitales und Staatsmodernisierung (BMDS) |
Digitaliserings Ministeriet |
Im deutsch-dänischen Austausch in unserem Forschungsprojekt Care-AI zeigte sich schnell: Obwohl beide Länder denselben europäischen Regeln unterliegen, gehen Pflegeeinrichtungen sehr unterschiedlich mit Künstlicher Intelligenz, Datenschutz und rechtlichen Vorgaben um.
In der Praxis sorgen offene Fragen und rechtliche Interpretationsspielräume nach wie vor für große Unsicherheit.
Nutzen Sie daher – wo möglich – behördliche Testräume („Regulatory Sandboxes“), um Vorhaben rechtssicher zu erproben.
Nutzen Sie diese Checkliste für den Start von Schritt 3:
Datenschutzbeauftragte:r (DSB) ist ab der Planungsphase eingebunden.
Betriebsrat / Mitarbeitendenvertretung ist offiziell informiert und beteiligt.
Risikoklasse nach EU AI Act ist bestimmt.
AVV (Auftragsverarbeitungsvertrag) und gegebenenfalls DSFA (Datenschutz-Folgenabschätzung) sind vollständig dokumentiert.
Nutzungsrichtlinien und klare Prüfpflichten für Fachkräfte stehen fest. Mindestens eine qualifizierte Pflegekraft muss jede kritische Entscheidung kontrollieren.
Schulungsplan für das Pflegeschulungsteam ist ausgearbeitet.
Risikomanagement steht fest: Ein technisches Dossier erstellen und Verantwortlichkeiten festlegen. Es gibt ein Verfahren zur regelmäßigen Überprüfung und Neubewertung von Risiken, Datenschutzanforderungen und rechtlichen Vorgaben.
DSGVO ist erfüllt. Technische und organisatorische Maßnahmen schützen sensible Daten.
Sie haben die gesetzlichen und ethischen Rahmenbedingungen für Ihre Einrichtung geklärt.
Ihr Projekt ist rechtlich abgesichert.
Die Gremien sind eingebunden.
Ihr Team ist auf den verantwortungsvollen Umgang vorbereitet.
Die rechtlichen Leitplanken stehen und der Rahmen ist gesteckt? Als Nächstes geht es an die Marktauswahl: Erfahren Sie in Schritt 4: Konzeptentwicklung, wie Sie passende Software-Partner finden, Schnittstellen prüfen und Verträge sicher verhandeln.
