Etiske prinsipper for utvikling og implementering av KI
Utvikling og implementering av kunstig intelligens i klinisk praksis forutsetter grundige etiske og rettslige vurderinger. For mer informasjon om det rettslige rammeverket for KI, se vår seksjon om rettslig rammeverk. Aktivitetene ved SPKI styres blant annet av Helse Nords strategi for kunstig intelligens, som vi har vært delaktige i å utarbeide. Strategien nedfeller et sett med overordnete prinsipper. Prinsippene er inspirert av etiske retningslinjer fra EUs ekspertgruppe for kunstig intelligens og den norske Regjeringens nasjonale KI-strategi.
-
Ansvarlighet og forsvarlighet
Utvikling og bruk av KI skal organiseres på en måte som sikrer tydelige ansvarsforhold. Det skal legges til rette for internkontroll og eksternt tilsyn i alle faser av utviklingen. Dette innebærer at innsyn i algoritmer, datagrunnlag og design/utviklingsprosedyrer må ivaretas i hele utviklings- og livssyklusen til et KI-system. Alle prosjekter skal være fundert på forholdsmessige risiko- og konsekvensanalyser. Slike analyser omfatter forhold som pasientsikkerhet, etikk, informasjonssikkerhet og personvern.
Bruk av KI i klinisk virksomhet skal være i tråd med faglig forsvarlighet. Arbeidsprosesser som involverer KI skal dokumenteres. Virksomheter som tar i bruk KI må sørge for at de ansatte kan bruke systemene på forsvarlig måte. Dette omfatter blant annet ansvar for opplæring, etablering av rutiner for forsvarlig bruk og løpende overvåkning og kvalitetssikring av bruken av KI. I tillegg må det enkelte helsepersonell være bevisst sitt selvstendige ansvar for forsvarlig yrkesutøvelse, jf. helsepersonelloven § 4. Forsvarlighetsplikten kan tilsi varsomhet med vektlegging av anbefalinger fra KIsystemer, særlig i en tidlig implementeringsfase.
-
Pålitelighet
KI-systemer skal leve opp til høye standarder for nøyaktighet og stabilitet over tid. Dette er avgjørende for å unngå at systemene fører til utilsiktede feil og ulemper for pasienter og helsepersonell. Pålitelighet innebærer også at arbeidsprosesser der KI tas i bruk må tilpasses slik at konsekvensene av nedetid eller feil på systemene minimeres. Innføring av KI skal ha som mål å øke kvaliteten på tjenestene til det beste for pasientene.
-
Gjennomsiktighet og tolkbarhet
Utvikling og bruk av KI skal skje på en åpen og gjennomsiktig måte. Gjennomsiktighet innebærer blant annet åpenhet om innholdet i treningsdata og hvor datagrunnlaget kommer fra, åpenhet om systemets logikk, og åpenhet om at KI benyttes og til hvilke formål. Ved utvikling av KI skal tolkbare algoritmer og systemer etterstrebes så langt det er gjennomførbart ut fra teknologiens og vitenskapens stand til enhver tid («state of the art»). Tolkbarhet innebærer at det så langt som mulig bør gis en begrunnelse for systemets konklusjoner og anbefalinger. Som et minimum må begrunnelsen være forståelig for helsepersonell og andre som skal bruke systemet.
-
Selvbestemmelse og menneskelig kontroll
Innføring av KI i klinisk virksomhet skal ikke gå på bekostning av pasienters rett til selvbestemmelse og medvirkning. KI skal heller ikke gå ut over helsepersonells profesjonelle autonomi. Pasienten har rett til meningsfull informasjon om egen helsetilstand og helsehjelpens innhold.
Arbeidsprosesser som involverer bruk av KI skal legge til rette for menneskelig kontroll. Informasjon eller anbefalinger fra KI-systemer som gir støtte til beslutninger skal normalt være gjenstand for en reell faglig vurdering fra kvalifisert helsepersonell før beslutninger treffes. Systemene må utformes med brukergrensesnitt som gjør det mulig for brukere å føre kontroll med systemene når de er i bruk. KI-systemer må kunne overstyres av brukere ved behov.
-
Mangfold og ikke-diskriminering
Ved utvikling og bruk av KI skal det legges vekt på å motvirke marginalisering av sårbare grupper i samfunnet, herunder ulike minoritetsgrupper. Risiko for at kvaliteten på helsehjelp ved bruk av KI kan variere ut fra gruppetilhørighet, bør vurderes. Vurderingen bør dokumenteres og følges opp med forebyggende tiltak.
Ved bruk av maskinlæring til trening av algoritmer, bør et mangfoldig datagrunnlag etterstrebes. Det må tas hensyn til befolkningssammensetningen i områder der et KI-system skal tas i bruk. Samtidig må det tas hensyn til at et datasett som samsvarer med representasjonen av ulike grupper i en befolkning ikke alltid er tilstrekkelig for å oppnå KI-systemer som fungerer godt for de ulike gruppene. Minoriteter i en befolkning vil som regel være minoriteter i datasett som brukes til trening av algoritmer. Derfor bør det vurderes tiltak for å sikre kvaliteten på KI-baserte tjenester til minoritetsgrupper. Dersom KI-systemer har ulik nøyaktighet for ulike grupper, bør dette dokumenteres og opplyses om i dokumentasjonen som medfølger systemet, samt i brukermanualen.
Helse Nord har et særlig ansvar for den samiske befolkningen i Nord-Norge. Utvikling og bruk av KI i Helse Nord skal ta hensyn til særlige forhold som gjør seg gjeldende for den samiske befolkningen.
-
Bærekraft
Oppbevaring og bruk av store datamengder, og trening av algoritmer, innebærer til dels betydelig energiforbruk som kan ha innvirkning på klimaet på planeten og fremtidige generasjoners velferd. Konsekvensene for klimaet og fremtidige generasjoner skal tillegges vekt ved avgjørelser om prioritering av KI-prosjekter i Helse Nord og ved gjennomføringen av prosjektene. Dette innebærer for eksempel at utslippsnøytrale energikilder og andre klimavennlige løsninger bør velges der slike løsninger er tilgjengelig.
