kunstig intelligens
Tidligere OpenAI-forsker henter 375 millioner til mye raskere AI
I egne tester målte Typesafe nesten 194 ganger høyere hastighet og rundt 445 ganger lavere kostnad enn sammenligningsmodellene.
Publisert
Typesafe AI ble grunnlagt i 2024 og holder til i San Francisco.
Daglig leder og gründer Diogo Almeida jobbet tidligere med RLHF (reinforcement learning from human feedback – forsterkningslæring fra menneskelig tilbakemelding), InstructGPT, ChatGPT og GPT-4 i OpenAI. I pressemeldingen omtales han som «medoppfinner» av RLHF og ChatGPT.
Venturefondet DCVC leder såkornrunden. Forbes skriver at selskapet ble verdsatt til 200 millioner dollar, ifølge en kilde med kjennskap til transaksjonen.
Gründernes tese er at modellene som er blitt gode til å snakke med mennesker, er feil verktøy når de skal fungere i produksjonssystemer. De hallusinerer, bytter framgangsmåte mellom forespørsler og legger inn variasjon som programvare ikke tåler.
– Mest av all intelligens bør etter hvert ligge inne i programvare, og gå stille i bakgrunnen, sier Almeida i meldingen.
Oppkalt etter et paradoks
Modellen heter Jev, etter Jevons' paradoks, observasjonen om at billigere ressurser gir høyere, ikke lavere, totalforbruk. Tanken er at når en enkeltbeslutning koster nesten ingenting, tar man dramatisk flere av dem.
Jev tar imot strukturerte spørsmål og returnerer typede svar: ja/nei-sannsynligheter, valg fra en definert liste eller score på en gitt skala.
Hvert svar følges av en konfidensverdi, slik at utvikleren kan sette terskler for når systemet skal kjøre videre selv, og når saken skal sendes til et menneske.
Selskapet kaller kategorien «System One Models», etter psykolog og forfatter Daniel Kahnemans tanker om å tenke rast og sakte.
Bruksområdene selskapet selv peker på, er høyvolumsprosesser som sortering av kundehenvendelser, vurdering av fakturaer, triagering av sikkerhetsvarsler og kontroll av det AI-agenter har gjort.
Tall fra egne tester
Selskapet oppgir under 100 millisekunders responstid og opptil 100 ganger raskere og billigere enn andre frontier-modeller.
I egne tester målte TypeSafe nesten 194 ganger høyere hastighet og rundt 445 ganger lavere kostnad enn sammenligningsmodellene. Tallene er ikke uavhengig verifisert, og vil variere med arbeidsbelastning, nettverksplassering og sammenligningsmetode.
På nettsidene oppgir selskapet 39 cent per 1.000 arbeidsflyter, mot 3,31 dollar for OpenAIs GPT-5.6 Luna og 19,49 dollar for Anthropics Claude Haiku 4.5.
At utdataene er begrenset til et format, garanterer ikke at beslutningen er riktig. Utviklere må selv teste hvor godt konfidensverdiene faktisk treffer på egne data. Jev er foreløpig bare tilgjengelig for utvalgte utviklere gjennom en venteliste.
