«Forby bruk av KI som eneste grunnlag for utøvelse av offentlig myndighet»

Av Dag Wiese Schartum, professor emeritus

Viktige deler av offentlig forvaltning har allerede i mange tiår automatisert vedtakene sine. Ofte er vedtak om pensjoner, stønader, skatter og avgifter i dag basert på høyt automatisert behandling. Dette skjer ved hjelp av regelstyrt teknologi.

Da er det mennesker som har anvendt juridisk metode og fortolket lover og andre rettskilder. På den måten blir det fastsatt eksplisitte og svært detaljerte fortolkninger som deretter blir programmert og kjørt automatisk. Slik bruker vi automatiserte systemer til å utføre det mennesker har fastsatt: Maskinene gjør akkurat det de er programmert til å gjøre.

KI-systemer er datastyrte, dvs. de analyserer eksisterende data (f.eks. tekster), og genererer nye tekster på basis av disse. Blant annet kan KI utlede rettsoppfatninger som fremkommer av mønstrene i lover og dommer. Slik er det mulig å la maskinen «lese» loven og anvende den direkte, uten at mennesker er involvert.

Menneskenes rolle er i så fall primært begrenset til å utvikle KI-modellen og fastsette og tilrettelegge datagrunnlaget. Da er det ikke mennesker som tar stilling til de konkrete rettsspørsmålene slik som ved regelstyrte systemer.

Dynamikk i rettssystemet

Avanserte KI-systemer kan i beste fall funksjonelt etterligne slik juridisk metode som brukes når mennesker spesifiserer regelinnhold. KI-systemer kan utformes slik at de angir hva som er grunnlaget for avgjørelser, f.eks. hvilke rettskilder (lover mv.) som ble brukt, og hvilke faktiske forhold som er tatt hensyn til. Slike systemer kan også vise til tekst i rettskildene som understøtter resultater systemet har kommet frem til.

Omfattende KI-bruk vil trolig gi mer konsistente avgjørelser enn når mennesker er beslutningstakere, og dette kan redusere risikoen for vilkårlig forskjellsbehandling. På den annen side er uenighet og ulikheter i rettsanvendelsen noe av det som skaper dynamikk i rettssystemet, og noe en derfor ikke alltid bør unngå.

For å finne frem til hvilke rettsregler som gjelder kan det være nødvendig å ta hensyn til relevante samfunnsforhold. Et stikkord her er det juristene kaller «reelle hensyn», dvs. argumenter som gjelder hva som kan sies å være rimelig og hensiktsmessig i den enkelte sak. Dessuten må en alltid lojalt velge løsninger som understøtter lovens formål.

Når loven er taus eller etterlater stor tvil om hvilke rettsregler som gjelder, kan reelle hensyn og formålsbetraktninger ha stor betydning for resultatet.

Menneskelig skjønn

Alle norske lover og dommer er gitt og utformet med en stilltiende forutsetning om at det er mennesker som skal anvende dem, og herunder skal utøve konkrete skjønn. En begrensning ved KI-systemer er at de vanskelig kan foreta brede skjønnsvurderinger og tolke lovene i en bred rettslig og samfunnsmessig kontekst. Slike skjønn krever normative avveininger og andre avveininger mellom konkurrerende hensyn, forståelse av institusjonell kontekst, og vurdering av legitimitet.

I teorien kunne en tenke seg KI med tilgang til alle mulige slags dokumenter og litteratur, og mekanismer til å ta stilling til relevans, vekte argumenter osv. I praksis vil en slik tilnærming imidlertid møte betydelige utfordringer knyttet til kvalitetssikring, transparens, etterprøvbarhet og begrunnelse av resultatene. Etter min mening representerer forutsetningene om skjønn en avgjørende begrensninger for hvordan offentlige myndigheter bør kunne bruke KI.

Menneskelige skjønn er viktig for dynamikken i rettssystemet, og derfor for oppfatninger om rettferdighet og legitimitet: Rettssystemet endres ikke bare trinnvis ved formelle vedtak, men også gjennom løpende bruk og fortolkning. Med dagens meget omfattende lovgivning er det begrenset hva slags kapasitet lovgiver har til å gjøre formelle endringer. Uenighet og kontradiksjon er derfor en viktig motor i rettssystemet. Da må vi unngå å bruke teknologier som fjerner menneskelig skjønn og dreper den løpende dynamikken i rettssystemet.

Ikke KI alene

Vi må imidlertid ikke la ideale rettslige krav stå i veien for praktiske forbedringer. For en rekke mennesker som strever med å finne veien gjennom regeljungelen, kan høyt automatiserte KI-systemer være til stor hjelp og bør derfor ønskes velkommen. Dette kan tenkes å gjelde selv om systemløsningene er så enkle at resultatene er usikre.

Domstolene og viktige deler av offentlig forvaltning har imidlertid en normerende rolle i rettssystemet. De skal ikke treffe avgjørelser på ufullstendig grunnlag ved f.eks. å la være å utøve skjønn slik jeg har beskrevet ovenfor.

Kunstig intelligens har stort potensial hos offentlige myndigheter. I offentlig sektor må KI imidlertid brukes som støtte for myndighetspersoner som har fått makt til å fastsette innbyggernes plikter og rettigheter. Slik kan saksbehandlingen bli grundigere og bedre, og rettssikkerheten styrkes. Teknologien må derimot ikke erstatte mennesker, slik at konkrete skjønnsmessige vurderinger faller bort.

Det kan tenkes å bli politisk ønskelig å treffe avgjørelser hos offentlige myndigheter ved hjelp av helt automatisert bruk av KI-systemer. I så fall må dette tillates innen bestemte, vel definerte områder og følge av tydelige lovhjemler.

Offentlige myndigheter bør kunne bruke KI som et kraftig hjelpemiddel. Men i en rettsstat må det fortsatt være mennesker som tar ansvaret for avgjørelser som griper inn i borgernes rettigheter og plikter.

Derfor bør Stortinget slå fast i lov at kunstig intelligens ikke alene kan være grunnlaget for rettslig bindende avgjørelser.