Undersøkelse: Lav tillit til juridiske avgjørelser tatt av KI

Det er svært lav tillit til KI-baserte juridiske vedtak – bare 5 til 12 prosent av befolkningen stoler på dem brukt ved Nav-vedtak og i domstolsavgjørelser.

Det viser en undersøkelse Respons Analyse har gjennomført på oppdrag fra Juristforbundet i mars. Undersøkelsen tar for seg kunnskap om lover, regler, jurister og juss i den norske befolkningen.

• I undersøkelsen spørres det om man vill stolt på et vedtak fra Nav basert på kunstig intelligens: 70 prosent svarer nei. 18 prosent vet ikke. 12 prosent svarer ja.

• Det blir også spurt om man ville stolt på en avgjørelse i domstolen basert på kunstig intelligens: 78 prosent svarer nei. 16 prosent vet ikke. Kun 5 prosent svarer ja.

Generell skepsis til KI

Det er også en økende skepsis til KI i juridiske vurderinger generelt: Ifølge befolkningsundersøkelsen er det nå færre som tror at kunstig intelligens kan ta mer objektive juridiske avgjørelser:

• Andelen som mener det, har falt fra 37 prosent i 2022 til 19 prosent i 2026.

• Samtidig svarer 44 prosent nei, mens 37 svarer vet ikke på spørsmålet om objektivitet.

• Undersøkelsen viser at menn er mer positive til KI enn kvinner og at eldre er mer skeptiske enn yngre.

Mener regulering er mangelfull

I tillegg til lav tillit til KI-baserte beslutninger, fremkommer det også en opplevelse av mangelfull regulering i undersøkelsen.

Det blir spurt om man mener at dagens lover regulerer bruken av kunstig intelligens godt nok.

Kun 4 prosent av de spurte mener dagens lover regulerer bruken av kunstig intelligens godt nok, mens 64 prosent er uenige i det.

Lite kunnskap om rettssystemet

Samtidig som det er en skepsis til bruk av KI for å ta juridiske avgjørelser, viser undersøkelsen at det er en lav kjennskap til rettigheter og tilgang til rettssystemet:

• Kun 30 prosent kjenner til retten til juridisk veiledning.

• Kun 28 prosent vet hvordan de skal gå frem i en domstolssak.

• Kun 28 prosent opplever å ha økonomi til å føre en sak.

Automatisert saksbehandling

I fjor vedtok Stortinget en ny forvaltningslov – med blant nye regler om automatisert saksbehandling. I den nye forvaltningsloven fastsettes det at forvaltningen kan automatisere saksbehandlingen, så lenge kravene som ellers stilles til saksbehandlingen kan oppfylles og det rettslige grunnlaget for avgjørelsen ikke er til hinder for automatisering.

I arbeidet med å utrede en generell forskrift for automatisert saksbehandling i forvaltningen inviterte i fjor høst Justis- og beredskapsdepartementet til faglige innspill.

Juristforbundet var blant dem som leverte innspill. Der sies det blant annet at forskriften bare vil kunne fungere dersom jurister deltar fra start til slutt i systemutviklingen:

«Juridisk metode, vilkår, unntak og rammene for skjønn må oversettes korrekt til programlogikk i alle steg av systemutviklingen; ved behovsavklaring, anskaffelse, utvikling, idriftsetting og senere endringer av systemet.»

Klager på vedtak

I innspillet tar forbundet også opp at klageordninger og klageorgan må stå reelt adskilt fra utvikling og drift av systemene.

«I Nav er det slik at direktoratet utformer og administrerer de automatiske vedtakene. Samtidig er det direktoratet, ved Nav Klageinstans, som behandler klagene på disse vedtakene. Spørsmålet er om dette egentlig gir mottakeren av vedtaket en reell mulighet til å få saken sin vurdert av en annen instans. En annen problemstilling som vi ønsker at forskriften avklarer, er hvilket organ som skal regnes som vedtaksorgan ved bruk av automatisert saksbehandling. Dette har igjen betydning for hvilket organ som er overordnet organ og dermed klageorgan, både etter ny og gammel forvaltningslov. Det har også betydning for om parten får en reell og uavhengig to-instansbehandling av saken sin», skriver Juristforbundet.

– Må være forståelig

I innspillet fremheves det at vedtakene må være forståelige for dem det gjelder, ikke bare korrekte.

«Forklaringen må gi den det gjelder en reell mulighet til å forstå hvordan systemet har kommet fram til vedtaksresultatet, slik at vedkommende kan etterprøve rettsanvendelsen og kvalitetssikre opplysningene som er brukt. Forklaringen må være utformet på en slik måte at den personen det gjelder kan forelegge vedtaket og forklaringen til en advokat for å få vurdert om rettsanvendelsen er korrekt, uten av det påløper kostnader fordi forklaringen er for kryptisk for en ikke-teknolog», skriver forbundet.

Det legges vekt på at forklaringen må «beskrive rettskilder og tolkninger, hvordan vilkår vurderes, hvordan eventuelt skjønn er rammet inn, hvilke opplysningstyper og datakilder som benyttes, hvordan brukeren kan få gjennomført retting og sletting samtidig som forvaltningsorganet beholder historikk og hvilke kontrollmekanismer som finnes for feil og avvik».

Krav til kontroll

Advokatforening sier i sitt innspill om automatisert saksbehandling at det bør reguleres hvilke avgjørelsestyper som kan være aktuelle for automatisering, og at forskriften bør inneholde konkrete krav til forvaltningens egen kontroll med de systemene og de avgjørelsene som treffes.

Også Advokatforeningen legger vekt på plikten til å dokumentere og offentliggjøre det rettslige innholdet i automatiserte saksbehandlingssystemer

«Det er sentralt at innholdet i dokumentasjonsplikten reguleres på en slik måte at det er mulig å kontrollere og etterprøve den rettsanvendelsen som ligger til grunn for avgjørelsen. Det betyr at forskriften bør inneholde noen grunnkrav til hva dokumentasjonen skal omfatte», skriver Advokatforeningen.

Digitalisering i Nav

Når det gjelder Nav har det blitt satt ned et regjeringsoppnevnt ekspertutvalg, ledet av Frode Forfang, som blant annet skal se på potensialet for videre digitalisering,

I tillegg er det satt ned et annet utvalg, ledet av lagdommer Torunn Elise Kvisberg, som skal foreta en gjennomgang med sikte på fornyelse av lovverket som regulerer folketrygden.

Dette utvalget skal blant annet utarbeide forslag til endringer som i større grad legger til rette for masseforvaltning, digitalisering og hel-/delautomatisert saksbehandling og forbedre og eventuelt forenkle strukturen i lovverket.

Alena Litvinova, leder for Juristforbundet Nav, sa tidligere i år til Juristen at det må bygges større juridiske fagmiljøer i Nav.

– Vi ønsker velkomment et arbeid for å se på digitalisering, fordi det sikkert er ting man kan forbedre for å gjøre regelverket mer digitaliseringsvennlig. Det er noe Nav allerede jobber mye med og vi har flere jurister involvert i slike prosjekter. Men samtidig er det viktig at man først og fremst ser på kompetanse. Ofte er ikke forenkling av regelverket i seg selv et svar, fordi det kan være en god grunn til at regelverket er som det er. Det viktigste er at det brukes riktig kompetanse for å tolke og anvende loven, sa Litvinova.

– Ser ikke alle konsekvenser

Hun pekte på erfaringer som viser at digitalisering ikke nødvendigvis er en enkel hurtigløsning.

– Automatiseringen på for eksempel sykepengeområdet klarer i dag bare å ta enkle saker, mens de kompliserte sakene blir igjen til manuell behandling. Det betyr at vi må ha kompetanse og ressurser igjen i etaten som kan håndtere de sakene. Det har kommet kritikk fra Riksrevisjonen som sier at man begynte å ta ut gevinster for tidlig i forbindelse med den automatiseringen. Det viser at man ikke nødvendigvis ser alle konsekvenser av en automatisering. Det er fortsatt et menneske som må se på saken i veldig mange tilfeller.

Hun sier det også kan oppstå noen dilemmaer når man forenkler, ved at plutselig veldig mange flere vil få en ytelse – eller at de ytelsen var ment for, ikke får den.

– Forenklinger kan føre til man kanskje ikke oppnår det formålet politikerne har satt.

Da utvalget ledet av Frode Forfang ble presentert, uttalte arbeids- og inkluderingsminister Kjersti Stenseng at det er behov for en større gjennomgang.

– Selv om mye i Nav går bra, er det fortsatt for lange saksbehandlingstider på en del av ytelsene. Regelverket er for komplisert, og er heller ikke godt nok egnet for automatisering og digitalisering. I tillegg har Riksrevisjonen påpekt at internkontrollen er for svak, sa hun.