Rundt 2,8 milliarder mennesker vil kunne avgi stemme ved valg rundt om i verden i år. Valggjennomføringen i mange av landene blir de første etter at generative KI-sytermer er blitt utbredt.

Kunstig intelligens (KI) kan som kjent raskt produsere og spre falsk informasjon på en overbevisende måte, og FN frykter konsekvensene.

– KI kan komme til å undergrave og gi enda mer drivkraft til den autoritære bølgen vi har sett rundt om i verden allerede, sier Ulrika Modéer, som er leder for eksterne relasjoner i FNs utviklingsprogram (UNDP).

Hun mener det er grunn til å være på vakt mot falsk valgpåvirkning, som kan være alt fra falske bilder, tekster, filmklipp og lydfiler.

En falsk Joe Biden

Det har allerede skjedd – i blant annet USA. Flere tusen demokratiske velgere fikk falske oppringningen med stemmen som lignet president Joe Bidens, foran nominasjonsvalget i New Hampshire i januar. I oppringningen ble de oppfordret til ikke å stemme på ham.

Oppringningen blir nå etterforsket som et forsøk på å hindre at folk skulle avgi stemme i nominasjonsvalget.

– Mange land er slett ikke rustet til å takle disse utfordringene, mener Modéer.

Utfordringene består av desinformasjon, der stater eller andre aktører bevisst forsøker å påvirke opinionen gjennom å spre falsk informasjon, som blir oppfattet av folk som sann.

Gir støtte til valgmyndigheter

FN mener at generative KI-modeller vil utgjøre en ekstra stor risiko i supervalgåret og at det kan føre til økt feilinformasjon og polarisering i mange samfunn.

For å redusere risikoen jobber UNDP blant annet med å støtte valgmyndigheter og andre aktører i valgprosessene.

– Vi har ulike instrumenter som vi og mange andre aktører jobber med. Vi jobber blant annet med verifisering av falske nyheter, men spranget innen teknologi går raskt og er utfordrende. Kunstig intelligens produserer nå både tekst og bilder som er veldig troverdige, fastslår Modéer.

En autoritær og høyrepopulistisk bølge har skylt over en rekke land de siste årene. Utviklingen er blitt forsterket av falske oppslag som har blitt spredt på blant annet sosiale medier. Samtidig har mistilliten og polariseringen i mange samfunn økt.

Internasjonalt regelverk

Modéer mener at det må på plass en internasjonal avtale om hvordan KI-teknologien skal reguleres. Det er i nødvendig i kampen mot desinformasjon – en kamp som må føres på både nasjonalt og internasjonalt nivå.

– Jeg tror både våre kjente samfunnsmodeller og grunnleggende FN-prinsipper er truet. Dette strekker seg langt utover tilliten til valgresultater, sier Modéer.

Hun mener at selve demokratiet kan undergraves og at autoritære krefter kan vinne fram.

UNDP gir i 2024 støtte til valg i 40–50 land. Det er spesielt de minst ressurssterke statene som er utsatt for skadelig valgpåvirkning. I disse landende får valgmyndighetene hjelp til å styrke ressursene til å kunne verifisere informasjon som sirkulerer.

– Vi har gitt folk virkemidler slik at de har kunnet følge med på for eksempel debatten i deres valgkretser og se om informasjonen som sirkulerer stemmer overens med virkeligheten og de fakta og data som er tilgjengelig, sier Modéer.

Det betyr at folkevalgte kan svare på argumenter og hele tiden følge med på informasjonen som sirkulerer i valgkretsene.

Skjev datainnsamling

Generative KI-modeller kan selvsagt også brukes til mange positive formål. Men det er fortsatt et problem at teknologiens datainnsamling er skjev – det er for eksempel rikelig med data samlet inn fra store, vestlige land, mens det finnes lite data fra for eksempel det afrikanske kontinentet.

– Når du ser på kart over hvor KI får informasjonen og kunnskapen sin fra, blir det en utrolig skjev og merkelig verden, sier Modéer.

– For at KI skal tjene alle mennesker og den globale planen for bærekraftig utvikling som vi ønsker å bidra til, må vi også sørge for at det finnes bredere kunnskapsgrunnlag og at data samles inn lokalt.

Derfor jobber mange aktører i dag med å utvikle datainnsamling i det globale sør slik at generative KI-modeller kan reflektere kunnskapen og perspektivene som finnes over hele verden.