04.06.2024: «Statens legemiddelverk» er endret til «Direktoratet for medisinske produkter» / «DMP»
16.03.2022: Rundskrivet er oppdatert med
Mer informasjon om programvare som medisinsk utstyr, samt noen tekniske og språklige presiseringer og justeringer
17.03.2021: «Veileder om regelverket for utvikling av kunstig intelligens» versjon 1.0 publisert.
I dette rundskrivet redegjør Helsedirektoratet for regelverket som gjelder for utvikling av kunstig intelligens innenfor forskning, herunder helseforskning. Rundskrivet gjør rede for hvilket regelverk som gjelder for utvikling av klinisk beslutningsstøtteverktøy og innføring av slikt verktøy i helse- og omsorgstjenesten, samt for regelverket som gjelder for kvalitetsforbedring.
Prosjekter som utvikler KI-modeller uten bruk av helse- og personopplysninger, omtales kort.
Det redegjøres videre om regelverket for medisinsk utsyr, som ofte vil komme til anvendelse der KI-modeller skal brukes som ledd i helsehjelp.
Målet med rundskrivet er å gjøre deg som skal utvikle eller ta i bruk kunstig intelligens i stand til å identifisere hvilken prosjekttype du skal utvikle kunstig intelligens innenfor, og å vurdere hvilke regelverk du må følge.
Kunstig intelligens kan være del av programvare som oppfyller kriteriene for medisinsk utstyr. Du må derfor tidlig vurdere hvorvidt programvaren som skal utvikles eller tas i bruk er medisinsk utstyr eller ikke. Denne vurderingen er en forutsetning for at du kan legge en plan for hvordan kravene i regelverket for medisinsk utstyr kan oppfylles dersom du planlegger at KI-modellen skal kunne brukes som ledd i helsehjelp. I veilederen gir vi noe informasjon om medisinsk utstyr, men mer utfyllende informasjon finner du på hjemmesiden til Direktoratet for medisinske produkter (DMP). Informasjonen i veilederen om medisinsk utstyr er utarbeidet i samarbeid med DMP.
Rundskrivet redegjør også for regelverket som gjelder for tilgang til og behandling av person- og helseopplysninger, for eksempel dispensasjon fra taushetsplikt eller samtykke fra den registrerte.
Dette rundskrivet forklarer hva som skal til for at et prosjekt er vitenskapelig forskning, og hvilke tilleggskrav som må være oppfylt for at vitenskapelig forskning er helseforskning. Det forklares videre hva som er å anse som utvikling av klinisk beslutningsstøtteverktøy og innføring av slike verktøy i klinikk. Utvikling av KI-produkter som ikke innebærer bruk av helse- og personopplysninger omtales deretter kort. Til slutt forklares hva som skal til for at et prosjekt anses som kvalitetsforbedring.
Forskere har opplevd problemer når KI-modeller som er utviklet i forskningsprosjekter skal tas i bruk i helsetjenesten. Noen av utfordringene har vært knyttet til uklarheter i regelverket for taushetsplikt, mens andre problemer kan oppstå dersom man ikke har planlagt for å oppfylle kravene i regelverket for medisinsk utstyr.
For det første er det viktig at krav om rettslige grunnlaget for å behandle personopplysningene også gjelder etter at prosjektet er avsluttet, dersom den ferdige utviklede kunstig-intelligens-modellen fremdeles inneholder person- og helseopplysninger. For det andre bør man tidlig i planleggingsfasen vurdere om regelverket for medisinsk utstyr kommer til anvendelse, slik at man kan planlegge hvordan regelverket skal etterleves når/dersom man skal ta kunstig-intelligens-modellen fra forskning til kommersialisering. Det gjelder for eksempel reglene for klinisk utprøving. Vi viser til Direktoratet for medisinske produkter for veiledning om medisinsk utstyr.
Personopplysninger er enhver opplysning om en identifisert eller identifiserbar fysisk person, jf. personvernforordningen (GDPR) art. 4 nr. 1. En identifiserbar fysisk person er en person som direkte eller indirekte kan identifiseres, særlig ved hjelp av en identifikator, f.eks. et navn, et identifikasjonsnummer, lokaliseringsopplysninger, en nettidentifikator eller ett eller flere elementer som er spesifikke for nevnte fysiske persons fysiske, fysiologiske, genetiske, psykiske, økonomiske, kulturelle eller sosiale identitet.
Anonyme opplysninger er opplysninger som ikke kan knyttes til en identifiserbar fysisk enkeltperson, eller som er anonymisert på en slik måte at en personopplysning ikke lenger kan knyttes til en fysisk enkeltperson, se fortalen til personvernforordningen punkt 26. Når du utvikler kunstig intelligens må du være oppmerksom på at algoritmer kan sammenstille og analysere anonyme opplysninger på måter som gjør at fysiske enkeltpersoner likevel kan identifiseres. Da vil ikke opplysningene lenger være anonyme.
Helseopplysninger er personopplysninger som gir informasjon om en persons fysiske eller psykiske helse, herunder ytelse av helsetjenester, jf. personvernforordningen art. Personvernforordningen art. 4 nr. 15.
Behandling av helse- og personopplysninger omfatter enhver operasjon eller rekke av operasjoner som gjøres med helse- og personopplysninger, enten automatisert eller ikke, f.eks. innsamling, registrering, organisering, strukturering, lagring, tilpasning eller endring, gjenfinning, konsultering, bruk, utlevering ved overføring, spredning eller alle andre former for tilgjengeliggjøring, sammenstilling eller samkjøring, begrensning, sletting eller tilintetgjøring, jf. personvernforordningen art. 4 nr. 2. Dette betyr at bruk av person- og helseopplysninger for utvikling av kunstig intelligens, for eksempel innsamling og trening av algoritmer, er behandling av person- og helseopplysninger.
Kunstig intelligens blir ofte brukt som en samlebetegnelse for ulike typer maskinlæring, men det finnes ingen omforent forståelse av begrepet. I dette rundskrivet legger vi til grunn en vid forståelse av begrepet.
Maskinlæring bruker matematiske og statistiske metoder for å lage algoritmer som er basert på analyse av data. Treningen av et system kan skje ved veiledet læring, ikke-veiledet læring eller forsterket læring
KI-modell er et samlebegrep på resultatet av maskinlæring. Modellen analyserer nye data og gir en klassifisering, predikasjon eller grad av sannsynlighet.
Medisinsk utstyr er ethvert instrument, apparat, utstyr, programvare, implantat, reagens, materiale eller annen gjenstand som ifølge produsenten er beregnet på å bli brukt, alene eller i kombinasjon, på mennesker med henblikk på ett eller flere av følgende spesifikke medisinske formål:
Også der den ønskede hovedvirkningen i eller på menneskekroppen ikke framkalles ved en farmakologisk, immunologisk eller metabolsk virkning, men der slike virkninger kan bidra til dets funksjon.
Følgende produkter skal også anses som medisinsk utstyr:
Klinisk beslutningsstøtteverktøy er alle typer hjelpemidler som kan hjelpe et menneske til å ta en beslutning, som for eksempel kunnskapsoppsummeringer som bidrar til at helsehjelp kan baseres på kunnskapsbasert grunnlag. Det omfatter ikke verktøy som i hovedsak har et merkantilt formål eller rent administrative oppgaver etc. Det er et teknologinøytralt begrep.
Validering brukes både på validering av KI-produkt som skjer hos produsent og validering av KI-produkt som skjer i helseinstitusjon. Validering av produsent innebærer å bevise at utstyret oppfyller krav for en bestemt tiltenkt bruk som definert av produsenten. Validering i helseinstitusjonen, innebærer å finne ut hvorvidt utstyret er egnet for aktuell pasientgruppe/til bruk i den aktuelle helseinstitusjonen.
Klinisk utprøving er enhver systematisk utprøving som omfatter en eller flere forsøkspersoner, og som gjennomføres for å vurdere et utstyrs sikkerhet eller ytelse.