ai-kontroll
Fintech-ekspert satser på Norge med løsning for overvåkning av AI-agenter
Software-selskapet Speednet velger Norge og Bergen som fjerde europeiske by. Nå vil selskapet hjelpe mindre banker og fintechselskaper med å legge til rette for økt innovasjon, også ved hjelp av oversikt rundt AI-systemer.
Publisert
Under årets Fintech Festival i Bergen er det tydelig at programvareselskapet Speednet Software for alvor har kommet seg på innsiden av det norske markedet. Den nordiske sjefen i selskapet er å se på scenen ved hele tre anledninger, gjennom onsdagens program.
Speednet har base i Polen og Baltikum, og har i dag kontorer i Gdansk, Tallin og London. Nå blir Norge og Bergen fjerde base for selskapet som jobber med innovative fintechs og banker i Europa, med alt av teknologi, løsninger og AI.
– I sentral-Europa har vi blitt et slags foretrukket selskap for utfordrerbranker, neobanker, venturemiljøer og fintechs som vil gjøre noe annerledes eller skalere opp. Og over det siste tiåret har vi gradvis kommet oss mer inn i det skandinaviske markedet, sier Norden-sjef Paavo Pauklin i Speednet til Shifter.
I Norge er det Stein Gunnar Wallevik som får country manager-rollen, samtidig som han skal fortsette å drifte sitt eget konsulent- og teknologiselskap, Dark Horse.
AI-kontroll
Speednet har et stort fokus på dokumentasjon og kontroll av AI. Noe mange oppstartsselskaper kanskje glemmer i jakten på rask innovasjon og vekst.
– Når folk snakker om AI, tenker de først og fremst på gevinstene. Det vi ser er at mange undervurderer kompleksiteten og hvor systematisk den kan gjøre feil. Vi har for eksempel sett et tilfelle der en banks AI-assistent tilbød et lån med negativ rente. Og siden chatboten opererte som en offisiell representant for banken, måtte de forholde seg til det som en kontrakt, sier Pauklin.
– Man kan se for seg mange alvorlige feil, i beregninger, fornærmende svar, handlinger som skader omdømme, eller hendelser som gjør at compliance-funksjonen stopper AI-bruk i lang tid. Konsekvensene kan være mange. En chatbot kan spare deg for 2 millioner kroner, men den kan ende i en bot på 23 millioner kroner, legger han til.
Derfor er ett av produktene Speednet nå løfter frem i inntreden i Norge, en AI Auditor. En løsning som i følge Speednet skal hjelpe selskaper med å styre og redusere risikoene knyttet til AI-bruken. Løsningen er bygget på AI Act og det regulatoriske rammeverket som kommer, i tillegg til å påse at AI-verktøyene ikke feiler i de daglige oppgavene selskapene skal bruke dem til.
– Plattformen skal først og fremst gi selskapene full oversikt over hvilken AI som er installert i systemene deres. Banker har for eksempel over 200 ulike agenter i bruk. Hvis man ikke har synlighet av hva som finnes, hva det skal gjøre, hvem som eier det, om det er tredjepartsløsninger, copilots eller noe annet, så blir det kaos, sier Pauklin.
Videre overvåker AI Auditor AI-ens atferd, og man kan utvikle egne evalueringskriterier for sitt selskap gjennom plattformen. I tillegg kommer dokumentasjon og juridisk kontroll. Noe Pauklin beskriver som undervurdert, da det å ha kontroll på 200 AI-systemer manuelt, kan bli det han selv kaller «et mareritt».
Og som et siste punkt trekker Pauklin frem at Norge en gang i fremtiden også får en AI Act å etterfølge. Når en regulator da kommer og spør om å få se hvordan man jobber med å holde systemene trygge, har man oversikt og dokumentasjon gjennom verktøyet til Speednet.
– Men er det ikke et AI-system som har ansvaret for å ha oversikt og kontroll på andre AI-system? Hvordan kan man forsikre seg for at det fungerer godt nok?
– Det er et godt spørsmål. Det finnes ikke software som fungerer 100 prosent. Men vi har bygd flere fallback-løsninger, altså kontrollmekanismer som kontrollerer hverandre, for å redusere sannsynligheten for at alle AI-modellene som kontrollerer hverandre gjør den samme feilen samtidig. Det er her vår verdi ligger, sier Pauklin.
Kundene hos Speednet ute i Europa er typiske mindre og mellomstore utfordrerbanker, raskt voksende fintechs og startups. Det er ofte i skaleringsfasen at Speednet kommer inn.
– De har kanskje utviklet produkter med små interne team, som har funnet et slags product-market fit og vil vokse videre. Noen har utviklet tidlige løsninger med AI eller AI-baserte pipelines. Da kommer vi inn og vurderer hvordan systemene må skrives om for å bli skalerbare, og hvordan feil som er oppstått som følge av AI-bruk må rettes. I noen tilfeller har vi også vist hvordan systemene kommer til å bryte sammen om de fortsetter å bruke AI på samme måte, sier Pauklin.
Konkurranse på legacy
I det norske markedet er det derfor legacy-systemer hos spesielt bankene Pauklin trekker frem, når han prater om konkurranse og hva som må endres i Norge.
– Mange nordiske banker har lange kontrakter med eksisterende leverandører. Samtidig ser vi at noen backend- eller core banking-løsninger ikke er de nyeste. Det kan føre til lange prosesser, og sånn sett da bli vanskelig å være konkurransedyktig når man sitter fast i legacy. Man kan jo alltids konkurrere mot andre banker i samme situasjon, men hvis man får flere selskap inn, som for eksempel Bulder, så blir det vanskelig å henge med og drive innovasjon, sier han.
Stolt trekker han frem da Speednet ble hentet inn for å bygge en mobilapp for den finske landbruksbanken Poppunki. En mobilbank som nå er høyest rangert i App Store i Finaland.
Pauklin mener derfor det er på tide at enkelte i finans og fintech tar den tunge beslutningen om å kvitte seg med de gode, gamle systemene, om man vil levere innovasjon i fremtiden.
– I det norske markedet har jo Tieto et tilnærmet monopol mot bankene på kjernebanksystemene, og så fikk vi inn danske Netcompany for litt siden. Hvordan skal dere klare å konkurrere mot disse, større selskapene?
– Man kan fokusere på konkurrentene, men man bør først og fremst fokusere på seg selv og det man leverer, for man kan ikke kontrollere hva konkurrentene gjør. De to er også litt andre type aktører enn hva vi er. Vi føler at vår erfaring med mange banker på ulike områder er ganske unik, sier Pauklin.
«Kulturell match»
– Hvorfor Norge da, og hvorfor akkurat nå?
– Jeg er selv fra Estland og man gjør jo ofte business der man kjenner markedet eller forstår kundene og mentaliteten. Vi har også hatt flere kunder fra Norge, Finland og Sverige, og vi ser at temaet vårt liker å jobbe med disse kundene. Vi føler det er en kulturell match, sier Pauklin.
Foreløpig er det kun Wallevik som er på plass i Norge og Bergen, men både Wallevik og Pauklin er litt vage i uttalelsene når det kommer til videre vekst i Norge med tanke på ansatte og størrelse.
– Vi liker å vokse organisk og mener det finnes rom for samarbeid og plass for et selskap som Speednet. Vi har også sett at selskap liker å jobbe med naboen, heller enn noen som er langt unna. Så er det ikke sånn at vi går inn i Norge med tanke om at det ligger masse lavthengende frukt her, men vi mener vi har noe interessant og noe som skiller oss ut. Det gjelder både AI-kompetansen og teknologien, men også den lange erfaringen fra bank- og fintechindustrien, sier Wallevik.
På spørsmål om man allerede har kunder eller kontrakter klare i Norge, og at det var derfor man valgte å gå inn i det norske markedet nå, er Speednet klare på at de er i kontakt med flere potensielle kunder, men at det ikke er noe som er signert ennå.
I prosessen med å komme seg inn i det norske markedet har også Speednet meldt seg inn i NCE Finance Innovation. Noe Pauklin ser på som et viktig skritt.
– Det virker som de har veldig god oversikt og kunnskap om fintech- og bank-bransjen i Norge. Det er åpenbart et sted å bygge nettverk og skaffe innsikt når man er ny i markedet. Det handler både om nettverksbygging og om å forså hva som skjer, lære, og lytte til folk. Det ser vi på som svært verdifullt. I tillegg har de ønsket oss velkommen fordi de mener at vi kunne bidra til miljøet, så vi kommer også til bordet med noe her, avslutter Pauklin.
