Siden forrige ukes dramatiske hendelser hos OpenAI har ryktemøllen gått for fullt om hvorfor selskapets vitenskapelige sjef, Ilya Sutskever, og styret besluttet å avsette administrerende direktør Sam Altman.

Detaljene er fortsatt uklare, men det har vært rapporter om at OpenAI-forskere har gjort et «gjennombrudd» i AI-teknologien som har uroet medarbeiderne. 

Både Reuters og The Information rapporterer at forskerne har utviklet en ny metode for å skape kraftige AI-systemer og har skapt en ny modell, kalt Q* (uttales Q stjerne), som kan utføre matematikk på barneskolenivå. 

Som toppolitiker laget Dilek Ayhan den første gründerplanen - nå driver hun selv en oppstart

Ifølge kilder som snakket med Reuters, mener noen i OpenAI at dette kan være en milepæl i selskapets søken etter å bygge kunstig generell intelligens (AGI), et mye omtalt konsept som refererer til et AI-system som er smartere enn mennesker. 

Selskapet har avstått fra å kommentere Q*.

Nærmere AGI

MIT Technology Review kontaktet eksperter for å finne ut hvor stort gjennombrudd i matematikk og AI det egentlig er.

Forskere har i årevis forsøkt å få AI-modeller til å løse matematiske problemer. Språkmodeller som ChatGPT og GPT-4 kan utføre noe matematikk, men ikke særlig godt eller pålitelig. 

Ifølge Wenda Li, en AI-foreleser ved University of Edinburgh, har vi for øyeblikket ikke algoritmene eller til og med de riktige arkitekturene for å løse matematiske problemer pålitelig ved hjelp av AI. 

Deep learning og transformers, som brukes av språkmodeller, er utmerket til å gjenkjenne mønstre, men det alene er sannsynligvis ikke nok, legger Li til.

Matematikk er et mål på resonnement, sier Li. En maskin som er i stand til å resonnere om matematikk, kunne i teorien være i stand til å lære å utføre andre oppgaver som bygger på eksisterende informasjon, som å skrive dataprogrammer eller trekke konklusjoner fra en nyhetsartikkel. Matematikk er en spesielt vanskelig utfordring fordi det krever at AI-modeller har evnen til å resonnere og virkelig forstå hva de har med å gjøre.

Et generativt AI-system som pålitelig kunne utføre matematikk, ville trenge en virkelig fast forståelse av konkrete definisjoner av spesielle konsepter som kan bli veldig abstrakte. Mange matematiske problemer krever også et visst nivå av planlegging over flere trinn, sier Katie Collins til nettstedet. Hun er en doktorgradsforsker ved University of Cambridge, som spesialiserer seg på matematikk og AI. 

Yann LeCun, sjef AI-forsker hos Meta, postet på X og LinkedIn i løpet av helgen at han tror Q* sannsynligvis er «OpenAIs forsøk på planlegging.»

De som er bekymret for om AI utgjør en eksistensiell risiko for mennesker, en av OpenAIs grunnleggende bekymringer, frykter at slike evner kan føre til en uregjerlig AI. Sikkerhetsproblemer kan oppstå hvis slike AI-systemer får lov til å sette sine egne mål og begynner å samhandle med den fysiske eller digitale verdenen på noen måter. 

Men ekspertene er klare på at selv om matematiske evner kan ta oss et skritt nærmere kraftigere AI-systemer, betyr ikke løsningen av slike matematiske problemer fødselen av en superintelligens.

– Jeg tror ikke det umiddelbart fører oss til AGI eller skumle situasjoner, sier Collins til MIT Technology Review. 

Hun mener det er viktig å understreke hvilken type matematiske problemer AI løser. 

– Løsningen av barneskolematematikk er veldig, veldig forskjellig fra å skyve grensene for matematikk på nivået av noe en Fields-medaljevinner kan gjøre, sier Collins, med referanse til en toppris i matematikk.

Disse fikk mest etablerertilskudd fra Innovasjon Norge i høst

Forskning innen maskinlæring har fokusert på å løse problemer på barneskolenivå, men toppmoderne AI-systemer har ennå ikke fullstendig knekket denne utfordringen. Noen AI-modeller feiler på veldig enkle matematiske problemer, men så kan de utmerke seg i veldig vanskelige problemer, sier Collins. OpenAI har for eksempel utviklet dedikerte verktøy som kan løse utfordrende problemer stilt i konkurranser for topp matte-elever på videregående skole, men disse systemene overgår mennesker bare av og til.

Dette er heller ikke første gang en ny modell har vekket AGI-hype. Bare i fjor sa teknologifolk det samme om Google DeepMinds Gato, en «generalist» AI-modell som kan spille Atari-videospill, legge undertekster på bilder, chatte og stable blokker med en ekte robotarm. Den gang hevdet noen AI-forskere at DeepMind var «på randen» av AGI på grunn av Gatos evne til å gjøre så mange forskjellige ting ganske bra. Samme hype-maskin, forskjellig AI-lab.

EU-regler på vei

Enkelte frykter også at rykter om en kraftig ny AI-modell kan også være et massivt selvmål for den reguleringsaverse teknologisektoren. 

EU er for eksempel veldig nær å ferdigstille sin omfattende AI-lov. En av de største kampene akkurat nå blant lovgivere er om å gi teknologiselskaper mer makt til å regulere banebrytende AI-modeller på egen hånd.

OpenAIs styre ble designet som selskapets interne nødstopp og styringsmekanisme for å forhindre lanseringen av skadelige teknologier. Spørsmålet mange stiller seg er om bunnlinjen alltid vil seire uansett. 

Denne artikkelen er laget med hjelp av ChatGPT og er kvalitetssikret av Shifters redaksjon.