KI: Rettsstaten møter et nytt bevislandskap

Kunstig intelligens åpner for nye muligheter, men også nye utfordringer. Hva skjer når lydopptak, bilder og dokumenter kan forfalskes så realistisk at verken dommer, advokat eller politi kan se forskjell? Norske myndigheter jobber nå med nye retningslinjer, men rettssikkerheten utfordres i møtet med teknologiske sprang.

Da Kripos i 2023 publiserte en rapport om generativ kunstig intelligens, var budskapet klart: Teknologien gir kriminelle muligheter til å skape manipulerte spor langt vanskeligere å avsløre enn tidligere. Rapporten pekte blant annet på risikoen for falske alibier, forfalskede dokumenter og manipulerte lyd- og videoopptak.

Siden den gang har utviklingen gått raskt. En nyere vurdering av politiets faglige råd beskriver hvordan etterforskningen må håndtere både enorme datamengder og mer sofistikerte metoder for digital manipulering. Generativ KI trekkes spesielt frem som en teknologi som kan misbrukes til å begå og skjule forbrytelser.

Ny nasjonal retningslinje

Politioverbetjent Odin Heitmann i Kripos forteller at det i dag ikke finnes egne standarder som regulerer KI-påvirkede digitale spor, men at kvalitetssikring likevel står høyt på agendaen.

– Det finnes foreløpig ingen egne standarder for å kvalitetssikre digitale spor som kan være påvirket av KI, men kvalitetssikring av digitale bevis generelt har vi stort fokus på. En ny nasjonal retningslinje for behandling av elektroniske data ligger nå til godkjenning hos Politidirektoratet og Riksadvokaten, forklarer han.

I det kommende regelverket legges det opp til at nøkkelspor skal verifiseres, og at distriktene må etablere rutiner for hvordan kvalitetskontroll skal gjennomføres.

– Det vil heve kvaliteten på behandlingen av digitale spor. Samtidig er det viktig å huske at digitale bevis sjelden står alene i retten, sier Heitmann.

Muligheten for forfalskning er ifølge Heitmann alltid et moment å ta høyde for:

– Mulig manipulasjon av digitale spor er alltid en risiko, uavhengig av om det er KI eller andre metoder som brukes. Økt fokus på kvalitetskontroll, særlig av sentrale spor, er en måte å redusere risikoen på.

Manipulasjon

I USA har domstolene allerede begynt å behandle denne problematikken. Ifølge en analyse fra Thomson Reuters, skiller man mellom åpne, erkjente KI-spor – som simuleringer og ekspertrapporter – og skjulte manipulasjoner, som deepfakes, presentert som ekte.

Dommere fungerer da som «gatekeepers» og kan kreve tilleggsbevis eller personlig fremmøte av vitner.

Fenomenet «liar’s dividend» – at ekte bevis feilaktig påstås å være KI-manipulert – gjør situasjonen mer komplisert. Advokat John Christian Elden har tidligere advart mot at domstolene ikke kan ta for gitt at digitale spor er autentiske.

– Man kan ikke lenger basere seg på tankegangen om at «klienten mest sannsynligvis ljuger». Det digitale beviset kan være manipulert, uttalte han til Advokatbladet.

Heitmann understreker at politiet også ser på hvordan kunstig intelligens kan brukes som hjelpemiddel i etterforskning.

– Analyseverktøy får en økende grad av automasjon, noe som reduserer tidsbruk. KI kan bidra til å gå raskere gjennom store datamengder, men vi må alltid verifisere resultatene. Det er viktig at politiet vet hva som foregår “under panseret” ved bruk av KI-verktøy – vi kan ikke bruke dem ukritisk, sier han.

EU-kommisjonens sporbarhetskrav

Politiet samarbeider i tillegg med akademia om forskning på verktøy for å oppdage forfalsket digitalt innhold, blant annet deepfake-detektering.

EU-kommisjonen vektlegger i White Paper On Artificial Intelligence dokumentasjon og sporbarhet i «high-risk»-systemer som kan påvirke juridiske rettigheter. Det innebærer detaljerte krav om loggføring, redegjørelse for begrensninger i KI-systemene og mulighet for myndigheter til å inspisere data og algoritmer ved mistanke om manipulasjon.

Samlet sett peker både Kripos, EU og juridiske eksperter i samme retning: rettsstaten møter et nytt bevislandskap. Veien videre blir å balansere effektiv bruk av KI med et styrket fokus på kontroll, kvalitetssikring og transparens. Samtidig må hele rettssystemet forholde seg til at forestillingene om hva som utgjør et troverdig bevis, er i endring. I dette nye bevislandskapet må både teknologi, metode og menneskelig vurdering spille på lag – for å sikre at rettssikkerheten ikke blir taperen når digitaliseringen skyter fart, konkluderes det.