Kunstig intelligens, kjønn og helse

Hvordan sikre trygg bruk av kunstig intelligens i helsetjenesten? Ny rapport gir svar.

Kunstig intelligens har allerede endret samfunnet vårt og gir store muligheter. Det er ikke dermed sagt uproblematisk.

I helsesektoren ser vi eksempler på at kunstig intelligens fører til alvorlig diskriminering som i verste fall kan gå ut over liv og helse.

PA Consulting og CARE Norge står bak en ny rapport om bruken av kunstig intelligens i den norske helsetjenesten og de etiske problemstillingene det bringer med seg. Rapporten er et resultat av intervjuer med eksperter og klinikker.

Vi ønsker å bidra med ny innsikt og konkrete anbefalinger for å fremme trygg, rettferdig og ikke-diskriminerende bruk av kunstig intelligens i helsesektoren.

Hovedfunn

  • Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor.
  • For leverandører av KI-løsninger er det manglende insentiver til å prioritere biastesting utover krav satt av CE-merkingen.
  • Få bruker etiske rammeverk i utviklingen av KI-løsninger.
  • Innkjøpere av KI-løsninger tar til en viss grad for gitt at bias har blitt håndtert gjennom CE-merkingen.
  • Det er uklart hvor ansvaret for validering ligger i dag og hvordan ansvarsfordelingen ideelt sett bør være.
  • Algoritmene til KI-løsninger mangler forklarbarhet, tolkbarhet og transparens. Dette kan hindre oppdagelsen av kjønnsbias.

Les rapporten for å se hvilke anbefalinger vi mener vil bidra til å løse disse utfordringene.

Støtt arbeidet

Din informasjon

Du blir belastet 150 kroner hver måned via AvtaleGiro. Du kan avslutte når du vil.

Din kortinformasjon

Fyll ut din kortinformasjon for å fullføre.