Abonner
Logg inn

kunstig intelligens

Forskere med AI-advarsel: Kan skape illusjon om at «alle er enige»

I en artikkel i et av verdens mest anerkjente tidsskrifter slår norsk Sintef-forsker og BI-professor alarm mot mulig trussel mot demokratiet. 

Bilde for illustrasjon.
Mia Sandnes Nilsen
Mia Sandnes Nilsen Journalist
Publisert Sist oppdatert

– De kommende årene vil være avgjørende for om vi lykkes med å bekjempe den neste generasjonen av KI-drevne påvirkningsoperasjoner, uttaler Sintef-forsker Daniel Thilo Schroeder.

I en forskningsartikkel publisert i Science, et av verdens mest anerkjente vitenskapelige tidsskrifter, slår han og BI-professor Jonas R. Kunst alarm om en ny mulig trussel mot demokratiet: Det som beskrives som AI-svermer som kan infiltrere sosiale medier og manipulere opinionen. 

Det skriver Sintef i en pressemelding. 

Forskerne beskriver hvordan svermene kan kontrollere tusenvis av falske profiler som fremstår som ekte personer. Disse kan lære seg kulturelle koder og slang for å «gli inn» i digitale fellesskap og vinne tillit.

– Utfordringen er ikke lenger bare falske nyheter, men at selve grunnlaget for den demokratiske samtalen – uavhengige stemmer – kan bryte sammen, sier Kunst.

AI-svermene kan skape en illusjon om at «alle er enige» om et tema, noe som kan påvirke folks egne meninger. De tester kontinuerlig ulike budskap og forsterker det som fungerer best. 

Forskerne anbefaler å slutte å jage enkeltkontoer og heller rette innsatsen mot de økonomiske drivkreftene bak manipuleringen. De foreslår også å simulere slike angrep for å forstå hvordan AI-svermene opererer.

Dette skriver forskerne

Artikkelen beskriver fem sentrale egenskaper ved slike AI‑svermer:

1. «Kube»-koordinering: I stedet for én sentral datamaskin samarbeider tusenvis av AI‑personaer, altså falske identiteter, som en kube. De kan endre narrativer i sanntid og til og med utvikle egne interne «sosiale normer», noe som gjør dem vanskeligere å oppdage.

2. Strategisk infiltrasjon: Disse svermene kartlegger sosiale nettverk for å finne sårbare grupper. De bruker spesifikke kulturelle koder, slang og skreddersydde budskap for å «gli inn» og vinne tillit.

3. Menneskelignende etterligning: De benytter fotorealistiske profilbilder og naturlig språk for å omgå sikkerhetsfiltre. Ved å unngå repeterende mønstre lurer de deteksjonssystemer til å tro at kontoene er uavhengige, ekte mennesker.

4. Optimalisering i maskinhastighet: AI‑systemene gjennomfører kontinuerlig millioner av små «mikrotester» på publikum. De identifiserer hvilke formuleringer, budskap og påstander som skaper størst engasjement, og sprer umiddelbart de mest effektive variantene på tvers av nettet.

5. Permanent tilstedeværelse: I motsetning til enkeltstående propagandakampanjer er disse svermene alltid aktive. De kan forbli integrert i digitale fellesskap i årevis og gradvis, subtilt endre språk, symboler og identitet i gruppen.

demokrati ai-svermer sosiale medier nyheter manipulering sintef

Se alle