kunstig intelligens
OpenAI følger etter Anthropic – men kun i Europa
Nå vannmerker også svarene fra ChatGPT for brukere i Europa.
Publisert
En EU-regulering krever at generert tekst er identifiserbar på en maskinlesbar måte, eller at teksten som genereres skal vannmerkes.
To måneder etter at Anthropics og deres AI-modell Claude innførte vannmerke globalt – innfører OpenAI og deres modeller ChatGPT og Codex, vannmerking på tekst som blir generert i Europa, det skriver OpenAI i en bloggpost.
– Vi gjør ikke tekstvannmerking til en global standardinnstilling ved lanseringen. Denne regionale tilnærmingen gir oss mulighet til å lære av faktisk bruk og tilbakemeldinger, skriver selskapet i bloggposten.
API-kunder over hele verden får mulighet til å aktivere vannmerking for utvalgte modeller.
Samme begrensinger
Teksten vannmerkes ved at et usynlig statistisk signal blir lagt inn i modellens valg av ord. Det vil si at teksten generes med ord som er satt i et litt annerledes mønster enn det som er vanlig i tekst som er skrevet av mennesker.
Anthropic bruker samme metode som er inspirert av SynthID-Text-metoden som Google lanserte for noen år siden.
OpenAI understreker at det ikke gir en sikker deteksjon og at det både kan gi falske positive og negative funn. Med andre ord at tekst som ikke er AI-generert blir flagget som AI-generert og at AI-generert tekst ikke blir oppdaget.
Lengden på teksten og tematikken vil også påvirke muligheten for at AI-generert tekst oppdages. Redigering kan også svekke vannmerket.
En evaluering gjort av OpenAI viste at det reduserte deteksjonen fra rundt 92 til 66 prosent å erstatte 10 prosent av ordene med synonymer. Ved å erstatte 25 prosent av ordene falt deteksjonen til 17 prosent.
Deler ikke ut deteksjonens verktøy til alle
OpenAI åpner nå for søknader om tilgang til verktøy som kan oppdage tekstvannmerkene. Tilgangen vil i første omgang være begrenset til godkjente forskere og ekspertorganisasjoner som kan hjelpe dem med å evaluere og forbedre teknologien.
– Begrensningene er en del av grunnen til at vi i første omgang bare gir godkjente forskere og ekspertorganisasjoner tilgang til detektoren. De kan hjelpe oss med å evaluere hvor pålitelig teknologien er og hvordan den kan brukes på en ansvarlig måte, skriver OpenAI i bloggposten.
Verktøy for å identifisere bilder og lyd som er generert av OpenAIs modeller er offentlig tilgjengelig.
