CAREs innspill til FNs kvinnekommisjon (CSW) 2023

Januar 2023

CARE takker for muligheten til å gi innspill til CSW 2023.

Kunstig intelligens (KI) byr på enorme muligheter. Men vi vet ennå ikke hvordan bruken påvirker likestilling globalt.

Om kunstig intelligens og likestilling vet vi at

  • Prosentandelen kvinner som jobber som utviklere er i dag 12 %
  • Kvinner er historisk sett underrepresentert i datasett
  • Bruken av Siri, Alexa og Cortana forsterker kjønnsstereotyper
  • Amazons ansiktsgjenkjenning kategoriserer hver femte kvinne feil
  • KI utvikles av private selskap hvor det er vanskelig å få innsyn i hva algoritmene er bygget opp på. Det gjør det vanskelig å avdekke eventuell kjønnsdiskriminerende algoritmeutvikling.

I arbeidet med en rapport som CARE og PA Consulting skal gi ut i 2023 har vi gjort funn om bruken av kunstig intelligens i norsk helsesektor. Disse funnene er av global betydning og er viktig å ta med inn i årets CSW – kunstig intelligens har innebygde skjevheter om kvinnehelse!

Kunstig intelligens gir store muligheter innen helsetjenester

  • Raskere tilgang på helsedata som er viktig i situasjoner med dårlig tid
  • Raskere og mer treffsikker analyse og diagnostikk
  • KI kan analysere store mengder helsedata som igjen kan brukes til å utvikle medisiner bedre og raskere

Kunstig intelligens i helsetjenester kan ha innebygde skjevheter (bias)

  • Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor
  • For utviklere av KI-løsninger er det manglende insentiver til å prioritere testing for bias (inkl. kjønnsbias) utover dagens CE-merking
  • Det er grunn til å tro at svært få bruker etiske rammeverk i utviklingen av KI-løsninger
  • Innkjøpere av KI-løsninger tar i stor grad for gitt at bias har blitt håndtert gjennom CE-merking
  • Det er uklart hvor ansvaret for validering ligger i dag, og hvordan ansvarsfordelingen ideelt sett bør være
  • I dag har algoritmene til flere KI-løsninger manglende forklarbarhet og tolkbarhet. Denne manglende transparensen kan hindre at man oppdager hvor kjønnsbias oppstår.

Norsk helsevesen står i særstilling globalt og er langt fremme særlig med tanke på innkjøp og bruk av KI i helsesektoren. Innsikten flere i Norge nå har om kjønnsbias i utviklingen av KI er av stor betydning for andre aktører på det globale markedet, regjeringer og helsearbeidere verden over.

Vi ber Norge ta disse innspillene med inn i arbeidet for å fremme jenter og kvinners fordeler og muligheter i den teknologiske utviklingen vi er en del av under CSW.

Med vennlig hilsen,
CARE Norge