Mangel på juridisk kompetanse ved KI-utvikling i staten
Riksrevisjonen har undersøkt bruk av kunstig intelligens i staten. Rapporten peker på kompetansebehov og etiske utfordringer.
En rapport fra Riksrevisjonen om bruk av kunstig intelligens i staten viser at over halvparten av de statlige virksomhetene Riksrevisjonen har undersøkt ikke har erfaring med bruk av kunstig intelligens. Undersøkelsen viser også at samordningen er svak og at det ansvarlige departementet ikke har tatt den nødvendige pådriverrollen, ifølge rapporten.
Undersøkelsen viser at en av de største utfordringene med å utvikle og bruke kunstig intelligens er mangel på kompetanse.
«Det gjelder ofte IT-relatert kompetanse, men også juridisk kompetanse», skriver Riksrevisjonen.
Det er blant annet behov for å heve kompetansen på risikoen for diskriminering med kunstig intelligens, og de ulike kompetansemiljøene internt i en virksomhet må samhandle bedre, ifølge rapporten.
Avhengig av konsulenter
«I noen store virksomheter som skatteetaten, Nav og helseforetakene, og også i mellomstore virksomheter som Statens pensjonskasse, har det blitt satset på å etablere større miljøer med kompetanse til å arbeide med kunstig intelligens. Flere virksomheter har imidlertid ikke kapasitet eller ressurser til å ansette flere med nødvendig digital kompetanse», heter det.
Og videre:
«Mange virksomheter er avhengig av å leie inn konsulenter for å kunne utvikle og bruke kunstig intelligens. Da vil det være viktig med bestillerkompetanse og at det legges opp til nødvendig overføring av kompetanse.»
Etterlyser systematisk arbeid
Rapporten tar også for seg de etiske prinsippene for ansvarlig bruk av kunstig intelligens. Dette ivaretas i ulik grad, er konklusjonen.
Ifølge undersøkelsen er det «varierende modenhetsnivå» i hvordan virksomhetene ivaretar de etiske prinsippene som utgjør ansvarlig bruk av kunstig intelligens. Det gjelder både virksomhetenes rammeverk og i det praktiske arbeidet med å utvikle og bruke KI-modeller.
Dette kan etter Riksrevisjonens vurdering tyde på at det ikke arbeides tilstrekkelig systematisk med prinsipper for likebehandling, forklarbarhet og åpenhet.
Mangel på kunnskap
«Etter Riksrevisjonens vurdering er det mangel på kunnskap og støtte for at statlige virksomheter bedre skal kunne ivareta likebehandling, åpenhet og forklarbarhet i arbeidet med kunstig intelligens. Denne mangelen kan gi risiko for at de etiske prinsippene for kunstig intelligens ikke etterleves», heter det i rapporten.
Det pekes blant annet på at rettssikkerhetsprinsipper kan bli utfordret der kunstig intelligens brukes i forbindelse med automatisert saksbehandling - og at det er avgjørende å ha tilstrekkelig kunnskap om forvaltningsrett i utvikling av systemene, samt teknologisk kompetanse i kontroll av saksbehandling og vedtak.