NAV vil bruke kunstig intelligens til å forutse hvilke sykmeldte som vil ha behov for oppfølging
NAV-prosjekt først ute av Datatilsynets sandkasse.
Datatilsynets sandkasse er et testmiljø for kunstig intelligens som tar i bruk personopplysninger. Her tilbys veiledning til utvalgte virksomheter og målet er blant annet å tegne et tydeligere kart over juridiske gråsoner.
Et sandkasseprosjekt som tar for seg NAVs KI-verktøy for å predikere utviklingen av sykefravær ble avsluttet tidligere i år og en sluttrapport vurderer både lovlighet, rettferdighet og åpenhet ved å ta det i bruk.
Helt konkret går prosjektet ut på at NAV ønsker å bruke maskinlæring til å forutse hvilke sykmeldte som vil ha behov for oppfølging to måneder frem i tid. Målet med prosjektet har vært å avklare lovligheten ved bruk av kunstig intelligens i denne sammenheng, og utforske hvordan profilering av sykmeldte kan gjøres på en «rettferdig og åpen måte».
Sluttrapporten konkluderer med at NAV har rettslig grunnlag for å bruke KI som støtte ved beslutning om enkeltindividers behov for oppfølging og dialogmøte. Men:
«Det er usikkert om det rettslige grunnlaget åpner for å bruke personopplysninger til å utvikle selve algoritmen».
Rapporten peker på at ny teknologi kan medføre nye måter å behandle personopplysninger på og at utvikling og bruk av kunstig intelligens krever behandling av store mengder data – ofte personopplysninger – som sammenstilles og analyseres i en skala som ikke er mulig med andre hjelpemidler. Utvikling av et slikt system NAV vurderer, vil behandle et langt større volum av personopplysninger som tilhører personer som ikke lenger er sykmeldte.
«Et viktig moment er også at disse opplysningene i stor grad vil være særlige kategorier personopplysninger, slik som diagnose, sykefraværshistorikk og informasjon fra fritekstfelt i sykmeldingen. Den inngripende karakteren til behandlingen i utviklingsfasen taler også for at det må kreves en klar og tydelig hjemmel», heter det i rapporten.
Denne artikkelen stod på trykk i Juristens temautgave om personvern. Les flere av sakene her
Automatisering
Når det gjelder selve bruken av et slikt system, sier rapporten at det kan argumenteres for at det er samfunnsmessige fordeler med at NAV kan utvikle kunstig intelligens for å forbedre og effektivisere sitt arbeid, men også at utvikling av kunstig intelligens er en prosess som utfordrer flere viktige personvernprinsipper.
«For å sikre de registrertes rettigheter, vil tydelige og klare lov- eller forskriftshjemler for en slik utvikling være nødvendig», sier rapporten. Men konklusjonen er veiledende og ikke en avgjørelse fra Datatilsynets side. Ansvaret for å vurdere det rettslige grunnlaget for de aktuelle behandlingene, ligger hos NAV, understrekes det.
Rapporten tar også for seg temaet «automatiserte beslutningsprosesser». Her heter det at personvernforordningen gir den registrerte rett til å ikke være gjenstand for avgjørelser tatt uten menneskelig inngripen, dersom behandlingen har rettsvirkning for eller på tilsvarende måte i betydelig grad påvirker den enkelte.
«Den menneskelige involveringen må være reell, og ikke være fingert eller illusorisk», heter det.
Det finnes unntak fra forbudet mot helautomatiserte avgjørelser, men det forutsetter at avgjørelsen ikke har «rettsvirkning for eller på tilsvarende måte i betydelig grad påvirker vedkommende».
«Hva som faller inn under «rettsvirkning» eller «betydelig grad påvirker», må vurderes konkret ut fra hvilke konsekvenser avgjørelsen har for den registrerte», sier rapporten.
Vårpuss
«De juridiske vurderingene i NAV-prosjektet illustrerer nettopp de utfordringene som oppstår, når ny teknologi må være i tråd med særlover (forvaltningsloven, folketrygdloven, helselovene etc.) utmeislet i en verden uten de problemstillingene teknologien fører med seg.
Inntrykket både i dette og andre sandkasseprosjekter, er at flere særlover kan ha godt av en vårpuss, slik at det blir tydeligere hvor grensene går for kunstig intelligens på de forskjellige områdene», skriver Datatilsynet i forbindelse med fremlegging av rapporten.
– Det er spennende å se hvilken lærdom Datatilsynet og aktørene som deltar tar med seg fra sandkassa. NAV-prosjektet viser at kunstig intelligens kan bidra til å gjøre offentlige tjenester mer effektive og brukertilpassede, samtidig som personvernet ivaretas. Det er bra at større etater som NAV går foran i utviklingen av personvernvennlige KI-løsninger. Prosjektet har også synliggjort betydningen av digitaliseringsvennlig regelverk, sa kommunal- og distriktsminister Bjørn Arild Gram i en pressemelding ved fremleggelse av rapporten.
