kunstig intelligens
Drippa-gründer Marius Maaland: – Token-kostnadene nærmer seg lønnen til utviklerne
Da Marius Maaland deltok på en konferanse i San Francisco, fikk han et innblikk i en ny virkelighet for tech-selskaper: AI-kostnadene begynner å bli en like stor budsjettpost som lønningene.
Publisert
Sist oppdatert
Med bakgrunn fra Indykite og Cognite sitter Marius Maaland nå på Mesh, der han bygger en Drippa som skal løse kommunikasjonsgapet mellom ingeniører og forretningssiden i tech-selskaper.
Han var nylig to uker i San Francisco, der han blant annet presenterte under den første utgaven av The Pragmatic Summit – en konferanse i regi av Gergely Orosz, mannen bak det populære nyhetsbrevet The Pragmatic Engineer.
Der var det flere observasjoner som skilte seg ut. En av dem er at tokens er i ferd med å bli en betydelig kostnad for de mest ambisiøse startupene.
– Der man før hadde lønn og litt utstyr på budsjettene, dukker nå tokens opp som en tredje stor post. I noen tilfeller er token-kostnadene nesten oppe på lønnsnivå, sier Maaland til Shifter.
De flinkeste bruker mest
Maaland understreker at eksemplene der token-kostnader nærmet seg lønn var «skrytetilfeller» som ble trukket frem på konferansen. Men han mener de sier noe viktig om retningen.
– Det interessante var korrelasjonen: De som brukte mest tokens var gjennomgående de flinkeste ingeniørene. De som var veldig senior og raske fra før, ble bare enda mye mer produktive med AI. Token-bruken deres var nesten oppe i det de fikk i lønn – men det var fortsatt en bedre deal enn å ansette to av den personen.
Motsetningen overrasket også: De svakere utviklerne ble ikke dramatisk bedre av AI-verktøy.
– De som ikke var så flinke fra før, ble ikke utrolig mye flinkere bare av å ha AI på laget, sier han.
«Bare la folk bruke det de vil»
Et annet tema som gikk igjen på konferansen var spørsmålet om hvordan bedrifter bør forholde seg til utviklernes AI-bruk. Her var det bred enighet blant deltakerne: Gi ansatte åpent budsjett og tilgang, og la dem finne ut hva som fungerer.
– Konsensus var at man heller bør la det stabilisere seg og se hva som blir baseline, enn å begrense tilgangen og øke sakte. For det endrer seg jo nesten hver uke – hvilket verktøy som er best er et annet svar hele tiden, sier Maaland.
Han opplever at dette står i kontrast til mange norske arbeidsplasser.
– Inntrykket mitt når jeg snakker med venner som er utviklere forskjellige steder, er at det er veldig varierende i hvor stor grad man får lov til å bruke AI, og hva som blir oppfordret til versus hva man får lov til hvis man spør.
AI forsterker det som allerede er der
Maaland forteller om en observasjon fra konferansen som han mener bør være relevant for norske ledere: AI fungerer som en forsterkende kraft – på godt og vondt.
– Team som er funksjonelle og har ting under kontroll, de beveger seg nå fortere og har mer fornøyde kunder. Men team som er litt mer dysfunksjonelle, som har litt mer kaos – de får bare ut mer dritt, raskere.
Slutten på kodelesing?
Blant de mer fremoverlente diskusjonene på konferansen var ideen om at utviklere i økende grad slutter å lese kode linje for linje, og i stedet vurderer det som går inn – prompten – og det som kommer ut, gjerne i form av demoer eller AI-genererte analyser.
– Det var mange som snakket om et «før og etter» da den siste modellen til Anthropic kom. Da ble det såpass bra at mange av de som var ganske skeptiske tidlig, bare har overlatt seg til AI-en, sier Maaland.
Det er ikke blitt mindre aktuelt nå da Anthropic står på trappene med Mythos som så langt er holdt tilbake rett og slett fordi nivået er så høyt at den har identifisert til nå ukjente sikkerhetshull i det man trodde var trygg programvare.
Maaland ser for seg at fremtidens tech-team består av et fåtall svært tekniske utviklere som håndterer de mest komplekse oppgavene, omgitt av en bredere gruppe som primært styrer AI-verktøy.
– De ingeniørene som er ingeniører fordi de elsker å sitte og skrive kul kode, og som ikke bryr seg så mye om hva det betyr for kunden – de tror jeg kommer til å måtte ta en reality check. For det de er veldig gode på, er det AI kommer til å ta over.
