Forskere advarer mot AI-svermer som kan true demokratiet

Forskerne mener det kan skape en illusjon om at «alle er enige».

Forsker i Sintef kommer med advarselen i Science. Sintef ledes av Alexandra Bech Gjørv. Foto: Terje Pedersen / NTB

Foto: Terje Pedersen

Redaksjonen shifter.no Redaksjonen shifter.no Redaksjonen shifter.no redaksjonen@shifter.no

Publisert 23.01.2026 - 08:37

Norske forskere slår alarm om en ny trussel mot demokratiet vårt, at såkalte AI-svermer kan infiltrere sosiale medier og få deg til å tro at «alle andre» mener noe bestemt.

– De kommende årene vil være avgjørende for om vi lykkes med å bekjempe den neste generasjonen av KI-drevne påvirkningsoperasjoner, sier SINTEF-forsker Daniel Thilo Schroeder i en pressemelding.

Sammen med BI-professor Jonas R. Kunst står han som hovedforfatter av studien som er publisert i det anerkjente vitenskapelige tidsskriftet Science.

Slik beskriver forskerne AI-svermer

1. «Kube»-koordinering
I stedet for én sentral datamaskin samarbeider tusenvis av KI‑personaer, altså falske identiteter, som en kube. De kan endre narrativer i sanntid og til og med utvikle egne interne «sosiale normer», noe som gjør dem vanskeligere å oppdage.

2. Strategisk infiltrasjon
Disse svermene kartlegger sosiale nettverk for å finne sårbare grupper. De bruker spesifikke kulturelle koder, slang og skreddersydde budskap for å «gli inn» og vinne tillit.

3. Menneskelignende etterligning
De benytter fotorealistiske profilbilder og naturlig språk for å omgå sikkerhetsfiltre. Ved å unngå repeterende mønstre lurer de deteksjonssystemer til å tro at kontoene er uavhengige, ekte mennesker.

4. Optimalisering i maskinhastighet
KI‑systemene gjennomfører kontinuerlig millioner av små «mikrotester» på publikum. De identifiserer hvilke formuleringer, budskap og påstander som skaper størst engasjement, og sprer umiddelbart de mest effektive variantene på tvers av nettet.

5. Permanent tilstedeværelse

I motsetning til enkeltstående propagandakampanjer er disse svermene alltid aktive. De kan forbli integrert i digitale fellesskap i årevis og gradvis, subtilt endre språk, symboler og identitet i gruppen.

Sammen med tidligere fredsprisvinner Maria Ressa og akademikere fra åtte forskjellige land – blant annet fra Yale og Harvard i USA og Oxford og Cambridge i Storbritannia – beskriver forskerne hvordan kommende «KI-svermer» kan gjøre mer enn å bare spre propaganda: De kan infiltrere digitale plattformer, fremstå som mange forskjellige og tilsynelatende ekte personer, lære seg spesifikke kulturelle koder og slang – og bruke disse til å «gli inn», vinne tillit og skreddersy budskap.

– Utfordringen er ikke lenger bare falske nyheter, men at selve grunnlaget for den demokratiske samtalen kan bryte sammen når én aktør kan kontrollere tusenvis av unike, KI-skapte profiler, sier Kunst.

AI-svermene kan skape en illusjon om at «alle er enige», som igjen kan påvirke din egen mening. I stedet for å gjenta et ferdig manus, tester de mange varianter mot publikum og forsterker det som fungerer best.

For å forsvare oss anbefaler forskerne at vi slutter å jage enkeltkontoer, og i stedet retter innsatsen mot de økonomiske drivkreftene bak manipuleringen.

– Målet er å gjøre manipulering så kostbart og sårbart at koordinerte falske kampanjer raskt kollapser og ikke lønner seg, sier Schroeder.