DK

Trin 3: Jura, etik og databeskyttelse

Brug databeskyttelse og etik som et solidt fundament for at indføre AI-systemer ansvarligt og transparent.

Handle ansvarligt

Med de rette juridiske og etiske rammer:

  • beskytter I jeres organisation mod ansvarsrisici,
  • sikrer I opbakning fra jeres medarbejderrepræsentation
  • og opbygger I tillid blandt medarbejdere og beboere.

Databeskyttelse er ingen hindring

Ved brug af AI møder yderst følsomme plejedata nye teknologier. Databeskyttelse er ikke en hindring, men fundamentet for en sikker implementering.

De tre søjler i en juridisk sikker AI-implementering

For at jeres AI-projekt kan gennemføres juridisk og etisk forsvarligt, skal I fra begyndelsen være opmærksomme på tre områder:

  • Område 1: Etik og ansvar
  • Område 2: Jura og ansvar
  • Område 3: Databeskyttelse
Handschlag zweier Personen über einem unterschriebenen Vertrag, im Hintergrund Taschenrechner und Miniaturhäuser

Område 1: Etik og ansvar

AI skal støtte plejepersonalet – ikke erstatte den menneskelige relation.

Besvar på forhånd fire centrale etiske spørgsmål i ledelsesteamet:

  • Gennemsigtighed: Forstår alle involverede (medarbejdere, beboere og pårørende), hvor og hvordan AI anvendes?

  • Nærvær: Er der trods brugen af AI fortsat tilstrækkelig tid til menneskelig kontakt?

  • Beskyttelse af sårbare grupper: Er mennesker med demens eller funktionsnedsættelser særligt beskyttet?

  • Kritisk refleksion: Er jeres team bevidst om, at AI-modeller kan drage fejlagtige konklusioner på grund af skæve træningsdata?

Info

AI overtager aldrig det juridiske ansvar. Enhver kritisk beslutning skal kontrolleres og godkendes af en kvalificeret plejefaglig medarbejder.

Inddrag medarbejdere og medarbejderrepræsentation tidligt

Brugen af AI ændrer roller og arbejdsgange. Hvis medarbejderne frygter overvågning eller tab af arbejdspladser, risikerer projektet at mislykkes.

  • Samarbejdsudvalg, medarbejderrepræsentation: Inddrag disse organer fra dag 1. I Tyskland er medbestemmelse i henhold til Betriebsverfassungsgesetz og Arbeitsschutzgesetz reguleret.
  • Opbyg kompetencer: Kurser i teknisk grundviden og etisk refleksion forebygger forkert anvendelse og blind tillid til systemet.

Læs mere om dette i trin 5.

Praktisk tip

Invester i jeres team, ikke kun i softwaren

Inddrag jeres team i beslutningsprocessen fra dag 1.

Afklar internt på forhånd: Hvordan håndterer vi fejl fra AI? Hvornår anvendes AI? Hvilke data behandles? Hvor går grænserne for et sådant system?

Læs mere om dette i trin 2.

Kommuniker åbent, at ansvaret altid forbliver hos mennesker. På den måde kan I mindske usikkerhed, anerkende jeres teams ændrede rolle og sikre accept i den daglige praksis.

 

Område 2: Juridiske rammer

EU’s AI-forordning regulerer AI-systemer efter deres risikopotentiale. Der gælder strenge krav for plejeinstitutioner, fordi plejedata og sundhedsfaglige vurderinger kan have direkte konsekvenser for mennesker.

Sådan klassificerer EU’s AI-forordning AI

Risikoklasse Betydning i plejen Eksempler Institutionens forpligtelser

Uacceptabel

Forbudt. Risiko for krænkelse af grundlæggende rettigheder.

Manipulerende systemer, der påvirker adfærd.

Anvendelse er fuldstændig forbudt.

Høj risiko

Træffer afgørelser om sundhed, sikkerhed eller værdighed.

Analyser af faldrisiko, AI-baseret vurdering af plejebehov, robotter.

Streng risikovurdering, gennemsigtighed, menneskeligt tilsyn.

Begrænset risiko

AI-systemer med direkte brugerinteraktion.

Chatbots, AI-stemmeassistenter.

Oplysningspligt: Brugerne skal kunne se, at AI anvendes.

Minimal risiko

Administrative værktøjer uden personhenførbare oplysninger.

Logistik- eller vagtplanlægningsværktøjer.

Ingen særlige krav.

Hvad er EU AI Act? – En podcast

Denne podcast er genereret ved hjælp af AI. Indholdet er udarbejdet af mennesker og kontrolleret for korrekthed. (Status: 14.09.2026)

Læse podcasten

Du kan læse podcasten i denne opsummering.

Hvis du gerne vil vide mere om EU AI Act, finder du nyttige oplysninger og værktøjer på denne side fra Future of Life Institute.

Regler om medicinsk udstyr (MDR)

Hvis jeres AI-løsning vurderer sundhedsrisici (f.eks. analyser af fald- eller tryksårsrisiko) eller understøtter diagnosticering, betragtes den som regel som medicinsk udstyr. Sørg altid for, at leverandøren har en gyldig CE-mærkning.

Hvis jeres AI-løsning udfører medicinske funktioner, skal den opfylde MDR-kravene – ud over kravene i GDPR og AI-forordningen. På den måde forbliver AI-løsningen sikker, lovmedholdelig og til gavn for jeres beboere.

Område 3: Implementer databeskyttelse i henhold til GDPR

Helbredsoplysninger er i henhold til artikel 9 i GDPR (databeskyttelsesforordningen) særligt beskyttede oplysninger. Undgå unødvendig dataindsamling, og inddrag jeres databeskyttelsesrådgiver (DPO) fra begyndelsen.

Praktisk tip

Hvis I ikke har en intern databeskyttelsesrådgiver, bør I helt klart søge ekstern hjælp til dette komplekse område. DPO’en hjælper jer med alle relevante punkter:

  • Kontroller leverandører, og indgå aftaler (f.eks. en databehandleraftale)
  • Vurder risici
  • Indhent juridisk gyldige samtykker fra beboere, pårørende eller værger
  • Gennemfør regelmæssige kontroller af AI-systemet

De 5 vigtigste GDPR-trin

Indgå en databehandleraftale (DPA)

Sørg for, at der foreligger en juridisk gyldig databehandleraftale med softwareleverandøren.

Kontroller datalagringen

Behandles data lokalt, i en dansk cloud, på EU-servere eller i et tredjeland (f.eks. USA)?

Gennemfør en konsekvensanalyse vedrørende databeskyttelse (DPIA)

For højrisikosystemer er dette et krav efter artikel 35 i GDPR. Jeres DPO kan hjælpe jer med dette.

Indhent samtykker

Informer beboerne eller deres juridiske repræsentanter på en forståelig måde, og indhent de nødvendige samtykker.

Overhold princippet om dataminimering

Overhold dataminimering konsekvent (artikel 5 i GDPR) – behandl kun de data, der er strengt nødvendige til formålet.

Pflegekraft im Gespräch mit einer Bewohnergruppe im Sitzkreis in einem hellen Aufenthaltsraum

Hvem beslutter hvad? Ansvarsområder for digitalisering, databeskyttelse og pleje

Erfaringer fra partnerprojekter viste, at de største forsinkelser som regel ikke skyldes teknologien, men manglende juridisk afklaring. Nedenstående tabel viser, hvilke institutioner i Tyskland og Danmark der er relevante i denne sammenhæng:

Område Tyskland Danmark

Juridisk grundlag

Digitale-Versorgung-Gesetz (DVG), Digitale-Versorgung-und-Pflege-Modernisierungs-Gesetz (DVPMG), Gesundheitsdatennutzungsgesetz (GDNG) samt Datenschutz-Grundverordnung (DSGVO)/Bundesdatenschutzgesetz (BDSG)

Serviceloven, Sundhedsloven, General Data Protection Regulation (GDPR)/den danske databeskyttelseslov

 

 

 

Databeskyttelse

Die Bundesbeauftragte für den Datenschutz und die Informationssicherheit (BfDI) og databeskyttelsesmyndighederne i delstaterne

Datatilsynet

IT-sikkerhed

Bundesamt für Sicherheit in der Informationstechnik (BSI)

Styrelsen for Samfundssikkerhed

Pleje

Bundesministerium für Gesundheit (BMG); implementering gennem delstaterne og plejeforsikringskasserne

Børne-, Ældre- og Boligministeriet; implementering gennem kommunerne

Digitalisiering

Bundesministerium für Digitales und Staatsmodernisierung (BMDS)

Digitaliseringsministeriet

Fælles europæiske regler – forskellig praksis

I den tysk-danske udveksling i vores forskningsprojekt Care-AI viste det sig hurtigt: Selvom begge lande er underlagt de samme europæiske regler, håndterer plejeinstitutioner kunstig intelligens, databeskyttelse og juridiske krav meget forskelligt.

I praksis skaber uafklarede spørgsmål og juridiske fortolkningsrum fortsat stor usikkerhed.

Benyt derfor, hvor det er muligt, myndighedernes testmiljøer (”Regulatory Sandboxes”) til at afprøve initiativer på et retligt sikkert grundlag.

Jeres tjekliste til implementeringen

Brug denne tjekliste ved starten af trin 3:

  • Erfüllt:

    Databeskyttelsesrådgiver (DPO) er inddraget allerede fra planlægningsfasen.

  • Erfüllt:

    Samarbejdsudvalg / medarbejderrepræsentation er officielt informeret og inddraget.

  • Erfüllt:

    Risikoklasse i henhold til EU’s AI-forordning er fastlagt.

  • Erfüllt:

    DPA og eventuelt DPIA er fuldt dokumenteret.

  • Erfüllt:

    Retningslinjer for anvendelse og klare kontrolforpligtelser for fagpersonalet er fastlagt. Mindst én kvalificeret plejefaglig medarbejder skal kontrollere enhver kritisk beslutning.

  • Erfüllt:

    Uddannelsesplan for plejepersonalets kompetenceudvikling er udarbejdet.

  • Erfüllt:

    Risikostyring er fastlagt: Udarbejd teknisk dokumentation, og fastlæg ansvarsområder. Der findes en procedure for regelmæssig kontrol og revurdering af risici, databeskyttelseskrav og juridiske krav.

  • Erfüllt:

    GDPR er overholdt. Tekniske og organisatoriske foranstaltninger beskytter følsomme data.

Jeres resultat efter dette trin

  • Erfüllt:

    I har afklaret de juridiske og etiske rammer for jeres institution.

  • Erfüllt:

    Projektet er juridisk sikret.

  • Erfüllt:

    De relevante organer er inddraget.

  • Erfüllt:

    Og jeres team er forberedt på en ansvarlig anvendelse.

Hvad sker der nu?

De juridiske rammer er på plads, og grundlaget er lagt. Næste skridt er at undersøge markedet: I trin 4: Konceptudvikling kan du læse, hvordan du finder passende softwarepartnere, kontrollerer grænseflader og forhandler kontrakter på et sikkert grundlag.

Kilder