Bekymret, men fattet: Norske AI-gründere reagerer på å bli utestengt fra de mest avanserte modellene

Amerikanske myndigheter har pålagt AI‑selskapet Anthropic å umiddelbart stenge tilgangen til to av sine mest avanserte språkmodeller, Claude Fable 5 og Claude Mythos 5, med henvisning til nasjonale sikkerhetshensyn, skrev Techcrunch fredag. 

Beskjeden kom fredag ettermiddag amerikansk tid, og gjelder globalt – ikke bare utenlandske brukere, slik eksportreglene opprinnelig var rettet mot.

Anthropic opplyser at selskapet har etterkommet kravet, men er sterkt uenig i beslutningen.

Ifølge selskapet bygger myndighetenes bekymring på en mulig begrenset «jailbreak» av Fable 5, altså at modellen kan omgå enkelte sikkerhetsbegrensninger.

Selskapet mener imidlertid at den aktuelle funksjonaliteten – blant annet å identifisere programvaresårbarheter – allerede finnes i andre offentlig tilgjengelige AI‑modeller.

Mythos 5, som ble testet i et lukket program med blant annet Amazon, Apple og Microsoft, ble aldri lansert bredt på grunn av sin evne til å avdekke sikkerhetshull i programvare, skriver avisen. 

Advarer - kan stoppe utviklingen av avanserte modeller 

Fable 5 ble derimot lansert nylig som en mer kontrollert versjon med innebygde sikkerhetsmekanismer.

Anthropic advarer om at hvis denne typen inngrep blir standard, kan det i praksis stoppe utvikling og lansering av nye avanserte AI‑modeller. Saken kan også få betydning for selskapets planlagte børsnotering.

Få dager før modellen ble stoppet, advarte en rapport om at det kunne skje. 

Shifter har vært i kontakt med norske AI-gründere - for å høre hva de tenker og hvordan dette kan påvirke Norge og Europa. 

Katrine Tjølsen, med bakgrunn fra produktutvikling i Aker-eide Cognite,  - og avfallshåndtering-startupen Sensorita - er bekymret.

– Jeg er bekymret. Ikke så mye for Fable-modellen isolert sett, men for presedensen for annen og fremtidig AI-teknologi fra USA. Norge bør bidra til at Europa utvikler gode, egne modeller, som holder tritt med utviklingen i USA og Kina, sier Tjølsen. 

Tjølsen kjenner godt til USA. Hun har en MBA (en master i økonomi og ledelse) ved Stanford Graduate School of Business, et av USAs topp-universiteter.

Hun har i tillegg en femårig mastergrad i informatikk fra MIT (Massachusetts Institute of Technology) – også et topp-universitet i USA.

Døren på gløtt for kinesiske modeller 

– Er det realistisk at Europa holder tritt med utviklingen i USA og Kina? 

– Jeg tror den politiske viljen dels er der, og dels kommer. 

– Spørsmålet er om det blir slik at de som har de beste AI-modellene løper fra de andre raskere og raskere. Konkret: Anthropic bruker Mythos til å videreutvikle Claude, og siden Mythos er verdens beste kodemodell, gjør de fremgang på bedre versjoner raskere enn noen andre klarer å utvikle det samme. (Og liknende for Open AI som er hakk i hel). Så mulig det blir et forsprang som er umulig å ta igjen, selv om Europa mobiliserer kapital. 

– På den annen side er det uvisst hvor stor verdi forspranget har, og om det «holder» at Europa har egne modeller som er veldig gode, om enn ikke «like gode», sier Tjølsen. 

– Kinesiske åpne modeller som Kimi skal være i nærheten teknologisk. Er det aktuelt for noen, tror du? 

– Jeg tror absolutt det er aktuelt for noen, men for mange ikke. En ting er åpen kildekode for vanlig software hvor man kan forstå alt om hvordan den fungerer, men en åpen LLM (large language model, stor språkmodell) vet man likevel ikke akkurat hva vil gjøre i nye scenarioer. Det forskes jo mye på oppførselen til LLM-er for å skjønne hva de kan, hva de ikke kan, hvilke biaser de har og så videre, sier Tjølsen. 

Får ikke panikk 

Gründer Iulia Petryshyn Thuen i Cloudgeni bygger en AI-plattform som automatiserer jobben med skyinfrastruktur. 

– Er du bekymret over at Fable stoppes? 

– Jeg er ikke sånn superbekymret at jeg får panikk, men dette understreker en gang til både hvor viktig og sterk denne teknologien er, og at det ikke bare er et teknologiske omfang, men at europeisk avhengighet innebærer en geopolitisk risiko. 

– Som jeg sa til teamet mitt - så synes jeg dette er en veldig bra timing og det burde være en «wake-up call»,til europeiske ledere. 

– Dessverre tror jeg det blir bare mye prat og bekymringer og uten altfor mye handling fra Europa, sier Thuen. 

Hun trekker frem at Anthropic er et venture-støttet selskap. 

– Tenk så sterk teknologi som er utviklet med venture-kapital, mens venture-kapital i Europa fortsatt er på et «show me your traction»-spor, sier Thuen. 

– Ingen ønsker å investere i infrastruktur i Europa fordi det er så høy risiko at venture-kapitalen i Europa er ikke vant med det, utdyper hun. 

Tage Ringstad, tidligere Antler-topp som i fjor startet AI-selskapet Prompt  Shields - har følgende kommentar på det som nå skjer: 

– Fable-modellen sviktet ikke. Anthropic er i konflikt med myndighetene i USA, som bestemte seg for å plukke en svakhet ved LLM-er og ikke-deterministiske modeller generelt og peke den mot Anthropic, sier han og fortsetter: 

– Jeg er derav helt enig med Anthropic her. Alle språkmodeller kan «jailbreakes», det er teknlogiens natur, ikke en svakhet unik for Anthropic. 

(Jailbreaking er en prosess der man fjerner de innebygde begrensningene og restriksjonene som produsenten har lagt inn i operativsystemet på en elektronisk enhet).

– Timingen nesten parodisk 

Han understreker at dette ikke er en isolert «AI-historie».

– Det er nøyaktig samme risiko som driver EUs nye skylov. Timingen der er nesten parodisk. Uken etter EU la frem Cloud and AI Development Act for å kutte avhengigheten av amerikansk sky, demonstrere Fable-nedstengingen i praksis hvorfor loven finnes, sier Ringstad. 

Han har følgende tips til norske selskaper i forbindelse med nedstengingen og hvis det skulle skjer mer av det fremover. 

– De som knapt merket nedstengningen hadde én ting felles: de hadde ikke låst en kritisk arbeidsflyt til én modell fra én jurisdiksjon. De kunne rute videre. Det er den praktiske lærdommen - vit hvor du bruker AI, til hva, og ikke gå lokalt for enhver pris, men ikke gjør deg avhengig av ett enkeltpunkt.

– Rådet mitt er kjedelig: kartlegg hvilke oppgaver som faktisk trenger den skarpeste modellen, og ha en testet reserve for resten. De fleste bruker AI på chat- og prompt-nivå, der tapet av toppmodellen koster lite, sier Ringstad. 

Savner europeisk alternativ

Marius Maaland i Drippa får ikke panikk, men synes det er urovekkende at Europa ikke har noen LLM-modeller som kan konkurrere med de store aktørene. 

 – Så lenge USA er en alliert tenker man kanskje at det er greit, men dette her viser jo at til og med da kan man plutselig miste tilgang, siden USA er og blir veldig fokusert på egne interesser under Trump, sier han til Shifter. 

Han synes ikke det kinesiske alternativer er spesielt ønskelig. 

– Vi har Mistral i Frankrike som skulle være vårt europeiske alternativ, men de har ikke klart å nå helt opp. 

Etter Kahoot og byråjobb surfer Line Assev til Ludenso