❞ Vannmerket i Claude er ikke den garantien vi tror

Dette er et innlegg med skribentens egne meninger og representerer verken Shifter eller hans arbeidsgiver.

Vannmerket Anthropic har innført i Claude bygger på samme prinsipp som Googles SynthID: sannsynlighetsfordelingen for neste ord forskyves svakt, usynlig for øyet, men lesbart for riktig detektor, tror jeg. Jeg forstår godt at mange brukere føler seg overvåket, særlig studenter som frykter å bli anklaget for noe de ikke har gjort.

KUNSTIG INTELLIGENS

Debatten raser etter at Claude innførte vannmerking

Spørsmålet jeg stiller er om merket holder når teksten kopieres ut av Claude og limes inn andre steder. En fersk studie om metoden RLCracker trener en språkmodell til å omskrive vannmerket tekst, og fagmiljøet omtaler angrepet som svært effektivt til å fjerne signaturen uten å endre meningsinnholdet. Jeg kjenner ikke den eksakte suksessraten forfatterne oppgir, men at dagens vannmerker er sårbare for slik trent omskriving, virker godt dokumentert. Jeg har sett samme mønster på bildesiden: uavhengige tester av seks plattformer viser at C2PA-signaturen forsvinner helt på fem av dem og overlever bare delvis på den sjette.

Jeg vet ikke sikkert hvor raskt slike fjerningsmetoder vil spre seg utenfor forskningsmiljøene, og jeg vil ikke overdrive risikoen. Men jeg gir professor Morten Goodwin ved Universitet i Agder rett når han peker på at studenter allerede i dag fjerne bindestreker og semikolon for å unngå å bli tatt for KI-juks. Jeg tror det samme mønsteret etter hvert vil dukke opp rundt et vannmerke også, bare med noe mer teknisk innsikt.

I Norge ble 190 studenter felt for AI-relatert eksamensjuks i 2025, dobbelt så mange som året før. Samtidig oppgir bare 21 prosent av studentene at de har fått god nok opplæring i å bruke AI-verktøy. Jeg lurer på om et vannmerke som forsvinner ved første omskriving faktisk løser noe av dette, eller om det bare gir institusjonene en falsk følelse av kontroll.

EUs forordning krever maskinlesbar merking fra 2. august 2026, med overgangsordning til 2. desember for eksiterende systemer. Etter min mening bør kravet utvides til flere lag av bevis enn ett vannmerke, slik bildebransjen nå forsøker med signatur pluss perseptuelt fingeravtrykk. Jeg foreslår at norske utdanningsinstitusjoner og leverandører samarbeider om en slik flerlagsløsning før forordningen trer i kraft, i stedet for å vente på at ett verktøy skal løse alt.

Som IT-arkitekt har jeg lært at ett kontrollpunkt aldri er nok i et system som skal tåle press. Vannmerket kan være ett lag i en løsning, men det bør aldri stå alene som bevis for hva som er skrevet av et menneske og hva som ikke er det. Min anbefaling er enkel: bygg videre på merkingen, men mål den mot virkeligheten før noen stoler blindt på den.