Kunstig intelligens har allerede endret samfunnet vårt og gir store muligheter. Det er ikke dermed sagt uproblematisk.
I helsesektoren ser vi eksempler på at kunstig intelligens fører til alvorlig diskriminering som i verste fall kan gå ut over liv og helse.
PA Consulting og CARE Norge står bak en ny rapport om bruken av kunstig intelligens i den norske helsetjenesten og de etiske problemstillingene det bringer med seg. Rapporten er et resultat av intervjuer med eksperter og klinikker.
Vi ønsker å bidra med ny innsikt og konkrete anbefalinger for å fremme trygg, rettferdig og ikke-diskriminerende bruk av kunstig intelligens i helsesektoren.
Hovedfunn
- Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor.
- For leverandører av KI-løsninger er det manglende insentiver til å prioritere biastesting utover krav satt av CE-merkingen.
- Få bruker etiske rammeverk i utviklingen av KI-løsninger.
- Innkjøpere av KI-løsninger tar til en viss grad for gitt at bias har blitt håndtert gjennom CE-merkingen.
- Det er uklart hvor ansvaret for validering ligger i dag og hvordan ansvarsfordelingen ideelt sett bør være.
- Algoritmene til KI-løsninger mangler forklarbarhet, tolkbarhet og transparens. Dette kan hindre oppdagelsen av kjønnsbias.
Les rapporten for å se hvilke anbefalinger vi mener vil bidra til å løse disse utfordringene.
