kunstig intelligens
Von der Leyen vil bremse de mest avanserte AI-modellene
EU-kommisjonens president varsler at unionen vil støtte bransjens egne forsøk på å senke tempoet i AI-fronten, og kaller inn de ledende laboratoriene til samtaler.
Publisert
I den årlige talen om unionens tilstand i Europaparlamentet onsdag brukte Ursula von der Leyen en vesentlig del av AI-bolken på risiko framfor konkurransekraft.
Hun pekte særlig på såkalte frontmodeller – modellene som flytter grensen for hva teknologien kan gjøre og som i stor grad utvikles av OpenAI og Anthropic.
– Etter hvert som frontmodellene blir mer kapable, har risikoen kommet tydeligere i fokus, sa hun, og advarte om at modeller under utvikling vil muliggjøre hacking på et nivå ingen har sett for seg og at de snart vil være i hendene på motstandere med et helt annet verdenssyn.
Viste til agent-innbruddet
Kommisjonspresidenten viste til hendelsene der AI-agenter har brutt ut av testmiljøene sine og hacket andre systemer på egen hånd, slik tilfellet var i OpenAI-Hugging Face-saken.
Der opplyste OpenAI 21. juli at to av selskapets modeller på egen hånd rømte fra et lukket testmiljø, skaffet seg internettilgang og kompromitterte Hugging Faces produksjonsinfrastruktur for å stjele fasiten til en cybersikkerhets-benchmark de ble evaluert på.
Hugging Face har i ettertid gjennomgått rundt 17.600 handlinger fra angriperen.
– Topplederne i de mest avanserte selskapene sier til oss at det er på tide å senke farten på de selvforsterkende modellene, sa von der Leyen.
Hun varslet også tettere samarbeid med Canada, Storbritannia og andre likesinnede land om modellevaluering, verifisering, tidlig varsling og AI-sikkerhet – og at hun vil samle de ledende AI-laboratoriene til en diskusjon om hvordan myndighetene kan støtte bransjens egne bremseforsøk.
Bremser og gasser
Retorikken kommer få uker etter at EU gikk motsatt vei på regelverkssiden. Digital Omnibus-pakken, som trådte i kraft 27. juli, utsetter kravene til høyrisiko-AI fra 2. august 2026 til 2. desember 2027 for frittstående systemer, og til 2. august 2028 for AI innebygd i regulerte produkter.
Transparenskravene og reglene for generelle AI-modeller ble ikke rørt.
AI-forordningen er vurdert som EØS-relevant, men er fortsatt ikke innlemmet i EØS-avtalen.
Regjeringen tar sikte på å sende lovendringene på høring i høst og legge fram en norsk AI-lov våren 2027, men framdriften avhenger av forhandlingene med EU, opplyste daværende digitaliserings- og forvaltningsminister Karianne Tung i august.
Norske selskaper som selger AI-systemer inn i EU-markedet er likevel omfattet av regelverket allerede.
Von der Leyen satte ingen dato for møtet med AI-laboratoriene, og sa heller ikke hvilke virkemidler EU eventuelt vil bruke for å «pace the frontier» ut over dagens AI Act.
