kunstig intelligens
Domstolene sjekker ikke om innleverte filer inneholder skjulte AI-instrukser
Filer som kommer inn via Aktørportalen kontrolleres ikke for innhold. –De kan inneholde manipulert innhold, bekrefter Domstoladministrasjonen. En veileder som skal adressere problemet kommer i høst.
Publisert
I saken Elliott mot N.Y. Bariatric Group hadde en selvprosederende saksøker lagt inn tekst i hvit, mikroskopisk skrift i to prosesskriv levert til Connecticut Superior Court 24. juli.
Instruksen var usynlig for en leser, fullt lesbar for programvare, og ba enhver AI-modell som behandlet dokumentet om å sørge for at svaret falt ut i saksøkerens favør.
Dommeren oppdaget det fordi de utskrevne dokumentene hadde påfallende mye tomrom. Saksøkeren mistet deretter retten til elektronisk innlevering.
Prompt-injeksjon er etter hvert et velkjent problem, det nye er at en domstol har definert fenomenet som prosessuelt misbruk. Dommeren sammenligner grepet med ex parte-kommunikasjon, en beskjed til den som avgjør, sendt gjennom en kanal motparten verken ser eller kan svare på.
Ingen kontroll av innholdet
Norske domstoler bruker Microsoft 365 Copilot som internt støtteverktøy, blant annet til oversettelse, sammendrag av dokumenter, informasjonssøk og transkribering.
Økt bruk av Copilot står oppført som eget tiltak i Domstoladministrasjonens prioriterte utviklingsområder for 2026. Filene som verktøyet leser, kontrolleres ikke for annet enn skadevare.
– Vi har i dag ingen kontroll i Aktørportalen av meningsinnholdet i filer som leveres via denne, skriver IT-direktør Olav Isak Sjøflot i Domstolsadministrasjonen i et svar til Shifter.
– Filene sjekkes for virus og annet ondsinnet innhold på teknisk nivå, men kan inneholde manipulert innhold.
Domstolsadministrasjonen kjenner ikke til forsøk på å plassere skjulte instruksjoner i dokumenter levert til norske domstoler, men vil ikke kategorisk avvise at det har skjedd.
Da risikoen ble vurdert i forbindelse med Copilot-innføringen, fantes det ifølge Sjøflot få modne og relevante sikkerhetsverktøy utenfor Microsoft 365-miljøet som kunne oppdage prompt-injeksjon. Tiltakene er derfor rettet mot brukerne og ikke mot filene.
Ikke til bevisbedømmelse
Domstolsadministrasjonens rammeverk for bruk av kunstig intelligens slår fast at kunstig intelligens ikke kan brukes til å foreta bevisbedømmelsen eller de juridiske vurderingene i dømmende virksomhet.
Retningslinjen for Copilot krever at verktøyet bare brukes på områder der brukeren har kompetanse til å kvalitetssikre innholdet. Konsekvensen vurderes derfor som begrenset i praksis, fordi AI ikke brukes til automatiserte beslutninger.
Regelverket mangler krav til filen
Merete Nygaard, gründer og daglig leder i legaltech-selskapet Lexolve, har gjennomgått norsk regelverk for Shifter ved hjelp av selskapets egen juridiske AI-agent, Låvli.
Lexolve selger juridiske AI-verktøy og har kommersiell interesse i feltet.
– Etter hva jeg kan se er det allerede omfattet av god advokatskikk, reglene og sanksjonene finnes, men det kan gjøres mer for å hindre at det skjer, sier Nygaard.
Veileder kommer i høst
Norges domstoler har opprettet et eget «KI-råd», og Domstolsadministrasjonen arbeider nå sammen med rådet med en veileder for bruk av kunstig intelligens i dømmende virksomhet. Den planlegges ferdigstilt i høst.
Deretter skal det lages egne veiledere rettet mot eksterne selvprosederende, parter og prosessfullmektiger. Der vil prompt-injeksjon og andre risikoer ved generativ AI bli adressert, ifølge Sjøflot, som legger til at det også kan bli aktuelt å vurdere om dette bør kobles til vilkårene for bruk av Aktørportalen.
