kunstig intelligens
Gründer av rykende ferskt AI-ratingselskap: – Resultatet skal ikke kunne kjøpes
Sustain AI Index vil la uavhengige revisorer vurdere AI-systemer. Eierne driver også et AI-konsulentselskap, men lover et tydelig skille.
Med en flom av nye AI-løsninger har det oppstått et nytt behov. Hvem vet om vi kan stole på at produktet er trygt og innenfor kravene fra myndighetene?
Det rykende ferske selskapet Sustain AI Index vil vurdere AI-systemer etter 100 spørsmål, og la uavhengige revisorer verifisere resultatet.
– Europa beveger seg mot større åpenhet og mer strukturerte registre over AI-systemer og leverandører. Samtidig ser vi et vesentlig gap mellom det å erklære at man følger regelverket, og det å faktisk kunne dokumentere og få dette verifisert på en uavhengig og strukturert måte, sier gründer og daglig leder Neda Maria Kaizumi til Shifter.
– Hvis markedet skal ha tillit til en rating, må det være mulig å stole på at resultatet ikke kan kjøpes, slår hun fast.
Tjenesten retter seg mot selskaper som utvikler og selger AI-systemer. Tanken er at disse skal få systemet sitt vurdert og dele den verifiserte profilen med kundene sine.
Samtidig skal kjøpere av kundenes AI-tjenester kunne bruke plattformen til å holde oversikt over leverandørene sine, og til å sende kontrakter og policyer til gjennomgang og signering.
Ifølge Kaizumi er plattformen laget med tanke på flere regelverk, blant annet AI-forordningen, GDPR, NIS2, CSRD og EUs Cyber Resilience Act.
Selskapet oppgir at en rating ikke er en samsvarsvurdering etter AI-forordningen, men at det kan bidra til å løse et betydelig revisjonsproblem.
– I dag kan en teknologileverandør potensielt bli bedt om å gjennomgå 10, 20 eller enda flere separate kunde- og leverandørrevisjoner i løpet av et år, sier hun.
Konsulentselskap
Iranske Kaizumi som kom til Norge for over 20 år siden og har hatt lederroller i store norske IT-selskaper. Nylig dukket hun opp i Shifter som rådgivende CTO i Forsikra.
Hun er også daglig leder i AI-konsulentselskapet Min Sone som hun eier en tredjedel av sammen med Johnny Kristoffersen som har bakgrunn fra Elkem og Freyr og Svein-Ola Lunde som selv er revisor. Begge sitter også i styret i Sustain AI Index, sammen med utvikleren Arezoo Solatian.
Kaizumi sier eierne er klar over at koblingen reiser spørsmål om habilitet.
– Derfor har vi tatt et bevisst strategisk valg om at Min Sone ikke lenger skal tilby konsulenttjenester som kan komme i konflikt med Sustain AI Index sin uavhengige vurderingsrolle, sier hun.
I dialog med de store
Modellen går ut på at leverandøren sender inn dokumentasjon om et AI-system. Systemet scores så på 100 spørsmål fordelt på tre vektede søyler. Pålitelig AI teller 65 prosent, sikkerhet 25 prosent og bærekraft 10 prosent. En ekstern revisor verifiserer deretter resultatet.
Hvem revisorene blir, er ennå ikke avklart. Kaizumi sier selskapet er i dialog med blant andre DNV, Deloitte, PwC og TÜV.
– Det er viktig å presisere at disse dialogene ikke betyr at vi allerede har inngått formelle avtaler med alle disse aktørene, sier hun.
Ifølge Kaizumi skal Sustain AI Index betale revisorene, og selskapene som vurderes skal fordeles tilfeldig mellom kvalifiserte revisorer.
a– Kunden kjøper altså ikke ratingresultatet direkte fra revisoren, sier hun.
Pengene kommer likevel fra kunden, via Sustain AI Index. Prisene ligger på mellom 8.000 og 65.000 euro i året. Kostnaden vil variere med omfang.
Henter kapital i desember
Sustain AI Index har så langt vært drevet som et dugnadsprosjekt, hvor gründeren selv har lagt inn mange lange dager.
Leverandørportalen åpner 20. november. Selskapet har pilotkunder, og Kaizumi sier rundt ti norske selskaper står i kø.
– Vi har pilotkunder, men produktet er ikke formelt lansert ennå, sier hun.
Hun regner med de første betalende kundene fra desember. Da planlegger selskapet også å hente kapital, og tre nye aksjonærer skal etter planen offentliggjøres i løpet av måneden.
Kaizumi planlegger å eie minst 40 prosent på sikt, men vil ikke opplyse om dagens eierfordeling ennå.
Kaizumi sier hun har presentert konseptet for myndigheter i Canada, USA og De forente arabiske emirater som alle har vært imøtekommende, men hjemme har mottakelsen vært laber.
– Jeg må være ærlig på at responsen fra Norge etter at Karianne Tung gikk av som digitaliserings- og forvaltningsminister, har vært skuffende. Jeg håper det snur ganske snart, sier hun og peker på at Norge har en unik mulighet til å bygge produkter innen ansvarlig AI hvor tillit er sentralt.
– Dette er vårt forsøk på å bygge noe fra Norge som kan brukes globalt. Og hvis vi lykkes, har vi bidratt til infrastrukturen som kan gjøre AI tryggere, mer transparent og mer tillitsbasert på tvers av landegrenser.