NAV utforsker KI-referater: – Vi kan ikke hindre folk i å snakke om ting

- I et brukermøte kommer det nesten per definisjon sensitive personopplysninger. Vi kan ikke hindre folk i å snakke om ting, sier leder for arbeidsgruppen Sigrun Skyberg Landet til Juristen.  

Hun jobber med produktutvikling i Navs arbeidsoppfølging og er fag- og leveranseleder i arbeidsavdelingen i direktoratet.  

Dette er Navs KI-taskforce

• En tverrfaglig gruppe opprettet av Arbeids- og velferdsdirektoratet som skal utforske KI-løsninger for veiledere og brukere ved Nav-kontorene.
• Består av to jurister, to utviklere, én designer og én med Nav-faglig bakgrunn fra arbeidsoppfølging. 
• Skal vurdere teknologi, brukeropplevelse, personvern og juridiske rammer. 
• I det første prosjektet skal gruppen undersøke om KI kan brukes til å lage automatiske referater fra møter mellom Nav-veiledere og brukere. 
• Nav har foreløpig ikke bestemt hvilken teknisk løsning som eventuelt skal brukes.
• Gruppen følger også arbeidet med EUs KI-forordning, som ventes å tre i kraft i Norge i 2027.
• Dersom KI-referater ikke lar seg gjennomføre, kan arbeidsgruppen gå videre til neste problemstilling på listen.
• Arbeidsgruppen skal i første omgang arbeide ut året.
• Kilde: Arbeids- og velferdsdirektoratet

I juni startet den tverrfaglige arbeidsgruppen med å utforske KI-referater, som er den første av flere løsninger gruppen skal utforske.

Juristene i gruppen har allerede begynt å identifisere juridiske problemstillinger i arbeidet, ifølge Landet.  

- Deres rolle er å identifisere det juridiske handlingsrommet og avklare hvilke løsninger som kan gjennomføres innenfor regelverket – og hvilke som må justeres eller velges bort, sier hun. 

En av juristene som skal delta i arbeidsgruppen, er Marte Kristin Kant fra Nav Innlandet.

Hun jobber til daglig blant annet med personvern og forvaltningsrett i et stort juridisk fagmiljø.

Kant er hentet inn til direktoratets KI-gruppe.

Før oppstarten av arbeidet i gruppen snakker Juristen med henne. Hun understreker da at arbeidet er i en tidlig fase, og at hun ennå ikke har full oversikt.

Men hun bekrefter at gruppen skal jobbe utforskende og se på spesifikke løsninger i samarbeid med veiledere ved Nav-kontorene.

- Jeg kan se for meg flere slags behov. For eksempel veiledningsverktøy, kanskje oversettelse, kanskje bistå til å renskrive et samtalereferat, som man ikke har mulighet til nå, sier hun.

Dette er de største juridiske utfordringene

• Personvern: finne behandlingsgrunnlag for å behandle personopplysninger om både brukere og ansatte. Vurdere dataminimering, lagringstid og hvordan registrertes rettigheter til innsyn, retting, sletting, begrensning og protest skal ivaretas.
• Forvaltningsrett: Løsningen skal ikke saksbehandle eller gi beslutningsstøtte, men Nav må likevel vurdere spørsmål etter forvaltningsloven, blant annet § 11 om veiledningsplikten og § 17 om utredningsplikten. Barnets beste og retten til å bli hørt må også vurderes.
• Diskriminering: Selv om løsningen ikke skal ta beslutninger, må Nav vurdere risikoen for diskriminering, eventuelt i samarbeid med LDO. Arbeidsgruppen skal se på hvordan løsningen kan fange opp brukere som ikke snakker flytende norsk.
• Kvalitetssikring: Veileder og bruker skal gå gjennom oppsummeringen før den lagres. Stikkprøver og periodisk kontroll kan også bidra til å sikre kvalitet.
• KI-løsningen skal ikke trenes på personopplysninger.
• Kilde: Arbeids- og velferdsdirektoratet

- Høyt på ønskelista  

En av de største utfordringene med arbeidet er å finne ut hvilke opplysninger KI kan få tilgang til, ifølge Landet. 

Hun viser til helsesektoren, der det finnes transkriberingsløsninger med strenge krav til håndtering av sensitive opplysninger.  

For Nav handler vurderingen blant annet om hvilket behandlingsgrunnlag Nav har, og om en eventuell løsning kan integreres i fagsystemene veilederne allerede bruker.    

- Slik jeg har forstått våre jurister, kan vi ikke bruke samtykke på samme måte som kommersielle aktører kanskje gjør, sier hun.    

Samtidig reiser KI-referatene et annet sentralt spørsmål: Når går et verktøy fra å være administrativ støtte til å få betydning for saksbehandlingen?

- Noe vi tar svært alvorlig

Nav understreker at løsningen ikke skal saksbehandle eller gi beslutningsstøtte. Samtidig kan referatene bli brukt i den videre oppfølgingen av brukeren.

Derfor må arbeidsgruppen også vurdere krav etter forvaltningsloven, blant annet § 11 om veiledningsplikten og § 17 om utredningsplikten. Veilederen skal fortsatt ha ansvar for vurderingene som gjøres i den enkelte sak.

Landet er tydelig på at KI ikke skal ta automatiske beslutninger eller fatte automatiske vedtak. Men hun viser til at et referat innebærer vurderinger, blant annet av hvilken informasjon som tas med.    

- Dette er noe vi tar svært alvorlig. Som en del av utforskningen vil det også være denne typen spørsmål vi undersøker, sier hun.    

Biometriske opplysninger

Nav peker også på at lydopptak innebærer behandling av biometriske opplysninger, noe som må inngå i de juridiske vurderingene.

En del av arbeidet blir også å undersøke sårbarheter i løsningene.

- Det er avgjørende at referatet gjenspeiler det som faktisk ble sagt i møtet, og at bruker og veileder føler eierskap til innholdet. Måten vi lager løsningen på må redusere risikoen for hallusinasjoner, slik at systemet ikke legger til informasjon som ikke stemmer, utdyper hun.

Gruppen skal utrede hvordan man kan sikre at veileder og bruker leser gjennom referatet og at de blir enige om at det som står der, er riktig.   

Arbeidsgruppen skal i første omgang arbeide ut året.

Dersom referatløsningen ikke lar seg gjennomføre, kan gruppen gå videre til neste problemstilling på listen.

- Det er mange muligheter. Men vi må begynne med én, sier hun.