- Kjenner at jeg jeg får helt kløe av at vi skal bruke KI mest mulig

Under Arendalsuka inviterte Juristforbundets Tech Forum og Tekna til debatt om digitalisering i offentlig og privat sektor - der kunstig intelligens (KI) er sentral drivkraft. Målet er at arbeidsprosesser skal effektiviseres og at offentlige tjenester blir bedre, men samtidig skal rettssikkerhet og personvern ivaretas. Hva med folks tillit til bruk av KI når det offentlige saksbehandler og treffer avgjørelser? Er bekymringer rundt dette overdrevet eller er det på sin plass?

I Arendal var Tech Forums Frode Ettesvoll ordstyrer for et panel bestående av Tekna-president Elisabet Haugsbø (yrkesorganisasjonen for personer med mastergrad innen teknologi, realfag eller naturvitenskap), KI Norge-direktør Hans Christian Holte (nasjonal satsing under Digitaliseringsdirektoratet), TEK Norge-direktør Øyvind Husby (interesseorganisasjon for det digitale og teknologiske næringslivet) og fagdirektør Finn Myrstad i Forbrukerrådet.

Lavere tillit

I forkant av debatten presenterte Ettesvoll undersøkelser fra både Sivilombudet og Juristforbundet som et bakteppe: Sivilombudet opplever en stor økning i antall saker og ombudet sier KI spiller en rolle, ved at det senker terskelen for å klage. Men at klagene er lange og komplekse og at de ofte inneholder såkalte hallusinasjoner – det vil si at KI har «funnet på ting».

I en annen undersøkelse, utført av Respons Analyse på oppdrag fra Juristforbundet og tidligere omtalt i Juristen, svarer 70 prosent at de ikke ville stolt på et vedtak fra Nav basert på KI. Tilsvarende for domstoler er på hele 78 prosent.

- I 2022, når denne undersøkelsen ble utført sist, mente 37 prosent at KI vurderte ting mer objektivt enn mennesker. Det tallet er nå det 19 prosent. Så jo mer vi ser av teknologien, jo mindre vi stoler på den. I hvert fall når den skal ta for seg rettighetene våre, sa Ettesvoll og spurte KI Norge-direktør Hans Christian Holte om hva han tenker om folks tillit til KI.

Holte har vært sjef for både Nav og Skatteetaten – etater som har vært viktige i utviklingen av automatisering av saksbehandling.

Han mente en fallende tillit er et problem, men viste også til andre «tillitstall» som er blitt presentert og som var bedre når det gjaldt tillit til KI.

- Men en synkende tillit knyttet til å bruke KI i offentlig saksbehandling er urovekkende. Undersøkelser har også vist at ungdommen går foran i mistillit. Samtidig vil det ikke være bra at altfor mange har ubegrunnet høy tillit. Men Norge har tillit som en kvalitet. Det å ta vare på den, når det offentlige virkelig ruller ut og transformerer seg selv med KI, er ekstremt viktig.

- Et push tilbake

Det er satt et mål fra Regjeringen om at 80 prosent av offentlige virksomheter skal ha tatt i bruk KI.

- Og det tallet skal jo opp til 100 prosent om ikke altfor lenge. Så må man definere hva det betyr, og hva som menes med bruk av KI. Det er mye bruk av KI i virksomheter i Norge i dag som rett og slett ikke er godt nok forankret i virksomheten, og ikke på det nivået vi trenger for å si at man bruker det på en god måte. Vi må jobbe for å beholde den tilliten vi tradisjonelt har hatt i Norge.

Holte mente der er naturlig at feil og tabber med KI får mye oppmerksomhet.

- Også tror jeg vi må tåle at det gjøres noen feil knyttet til KI. Ikke systematiske feil, men at det skjer enkeltfeil må vi kunne stå i.

Tekna- president Elisabet Haugsbø mente skepsis kan tolkes mer positivt.

- Det betyr at vi får et lite push tilbake fra en befolkning som ønsker rettferdighet og forklarbarhet i alle prosesser. Det er et ansvar å sørge for at KI er et støtteverktøy som hjelper på effektivitet, som forbedrer beslutninger og som er forklarbart.

- Også kjenner jeg at jeg får helt kløe av at vi skal bruke KI mest mulig. Nå sier vel digitaliseringsministeren «best mulig» og det er et skritt i retning. Det handler om å finne ut hvor vi skal bruke KI og hvorfor skal vi bruke det. Og hvordan vi bygger prosesser rundt de ansatte, slik at de skjønner hvordan de fortsatt skal bruke sitt fagfelt og gi faglig begrunnede beslutninger også med et slikt verktøy.

- Må løfte blikket

TEK Norge-direktør Øyvind Husby tok for seg tall som viser at 66 prosent i staten bruker KI og at 83 prosent av dem som bruker det, sier de har fått god effekt av det.

Men også tall som viser at tilliten til KI er lav, spesielt blant unge. Han mente negativt fokus på KI får nesten all plass i debatten om digitalisering og var bekymret for hvilke følger det kan få.

- Det klart at det er alvorlig hvis ikke befolkningen har tillitt til de systemene som skal fatte beslutninger i samfunnet, så vi må se på hvordan vi kan få opp den tilliten.

- Men jeg synes vi lager debatten altfor liten. Det vi snakker om er hvordan vi skal løse de store utfordringene vi står i – miljø, helse, eldrebølge, cybersikkerhet - hvordan Norge som nasjon kan løse utfordringer ved å få den beste effekten ut av teknologien. Det er egentlig perspektivmeldingen vi må diskutere nå. Jeg synes vi må løfte blikket.

Husby reagerer på hvordan det fremstilles når mange bruker KI til for eksempel å sende klager.

- Det er bra at mange faktisk kan klage på et helt annet nivå enn tidligere, og får muligheten for det. Også diskuterer vi ofte gårsdagens KI-modeller, men hvis du bruker de nyeste modellene hadde de hallusinert svært lite og etter hvert mindre og mindre.

Advarer mot innlåsing

Forbrukerrådets Finn Myrstad skjønte at folk er skeptiske.

- Når vi ser hvilke selskaper som pusher teknologien, så er det jo store amerikanske selskaper med et synderegister så langt som et vondt år når det kommer til å respektere våre rettigheter.

- I tillegg blander selskapene alt i en stor suppe kalt KI, fremfor å nyansere debatten mer fra begynnelsen av. Men de har hatt en motivasjon om å selge mest mulig. Teknologien har hatt mye hallusinering, så hvorfor har vi da pushet KI på den måten vi har gjort de siste fem årene, uten at det fantes rammeverk for å vurdere sikkerhet, personvern, bærekraft, ansvarlighet og forklarbarhet? Også skal små kommunale og offentlige virksomheter vurdere dette uten noe som helst innsikt. Vi må ikke skylde på folk og deres skepsis, når vi har holdt på som vi har gjort.

Myrstad advarte også mot at offentlig sektor blir fullstendig låst til teknologien.

- Vi ser jo avhengigheten vi har til tek-selskapene allerede og hvordan de har låst oss inne med tekniske sperrer. Vi risikerer å bli enda mer innlåst.

- Kommer enten vi vil eller ikke

Elisabet Haugsbø var enig i at det er et problem når folk tror at alle KI-modeller er like

- Det handler om å være tydelig på hvilke verktøy som brukes og hvordan. Poenget er at det må være et faglig kompetent menneske som bruker modellen for å gi gode beslutninger for befolkningen.

Hans Christian Holte støttet Husby i at det er behov for å løfte blikket.

- Det er noe med å ha perspektivet på hva vi står midt oppi. En utfordring i dag er at det er dårlig lederforankring av KI-bruken mange steder. KI kommer inn enten vi vil eller ikke. Det kommer til å være veldig mange endringer i ganske nær fremtid som vi må forholde oss til. Jeg tror ikke vi har veldig god tid på oss heller.

Finn Myrstad viste til at personvernkommisjonen, der han selv satt og som leverte en NOU i 2022, pekte på behov for mye mer nasjonal koordinering og samordning av innkjøpskrav.

- Kommuner må vite at de tjenestene de velger er relativt trygge. Det skjer ikke når det skal digitaliseres på hver eneste lille øy og med KI som er mer komplekst. Går vi for fort frem, kommer vi til å gjenta feil fra tidligere. Og konsekvensene kan være mye større, fordi det er så ekstremt mye politisk press nå på å digitalisere med kunstig intelligens, uten at problemet egentlig er definert. Vi må fokusere på hva problemet vi skal løse er og hva som skal brukes til hva.

- Livredd for staten

Tech Forums Frode Ettesvoll savnet ett perspektiv i digitaliseringsdebatten:

- Alle er redde for Meta, men jeg er livredd for staten. Hvis staten får for stor makt og for mye innsyn i mine data, som de ikke bør ha innsyn i.

Elisabet Haugsbøs frykt for staten dreier seg mest om kompetanse.

- Den staten jeg frykter, er en kunnskapsløs stat som ikke tar vare på innbyggerne sine. En som ikke forstår hva slags teknologier de tar innover seg, og hva slags konsekvenser det eventuelt har. Det er den staten jeg kommer til å frykte veldig, veldig mye. Vi er nødt til å arbeide kunnskapsbasert. Det koster så mye å gjøre feil, ikke minst for offentlig sektor.