AI

Ansatte advarte om gjennombrudd som kunne true menneskeheten 

Før CEO Sam Altman ble sparket av styret, skal ansatte ha varslet styret om et stort gjennombrudd, melder nyhetsbyrået Reuters. 

Ukjent brev: Det skal ha blitt sendt et brev til styret før Sam Altman ble sparket i forrige uke. Han er nå tilbake som CEO i OpenAI.
Ukjent brev: Det skal ha blitt sendt et brev til styret før Sam Altman ble sparket i forrige uke. Han er nå tilbake som CEO i OpenAI.
Publisert Sist oppdatert

Etter fire dager ute, var Altman tirsdag tilbake som øverste sjef for selskapet. 

Nå melder Reuters om hva som skjedde før Altman ble sparket av styret. 

Flere forskere i selskapet skrev et brev til styret og advarte om en kraftig oppdagelse av kunstig intelligens som de sa kunne true menneskeheten. Dette har to personer med kjennskap til saken fortalt til Reuters. 

Kildene oppgir at styret skal ha vært bekymret for kommersialisering av fremskritt før man forstår konsekvensene.

OpenAI har ikke ønsket å kommentere dette, men har sendt en intern melding til sine ansatte om et prosjekt kalt «Q*» og at det er blitt sendt et brev til styret før helgens hendelser. Meldingen er sendt ut fra mangeårig direktør Mira Murati. 

Kunstig superintelligens

Prosjekt «Q*» uttalt «Q-star» skal være OpenAI sitt forsøk på å utvikle kunstig superintelligens (også kalt AGI, artificial general intelligence). 

Gitt enorme dataressurser, var den nye modellen i stand til å løse visse matematiske problemer, sa personen til Reuters på betingelse av anonymitet fordi personen ikke var autorisert til å snakke på vegne av selskapet. Selv om de bare utfører matematikk på nivå med skoleelever, gjorde det å klare slike tester forskerne veldig optimistiske med tanke på Q*s fremtidige suksess, sa kilden.

Sendte ut intern melding 

Reuters har ikke sett en kopi av brevet, og de som skrev brevet har heller ikke svart på forespørsler om å kommentere brevet. Ledelsen i OpenAI ønsker heller ikke å svare, men det skal ha blitt sendt ut en intern melding til ansatte om et prosjekt. 

Forskere anser matematikk for å være en grense for generativ AI-utvikling. Per nå er generativ AI god til å skrive og språkoversette ved å statistisk forutsi neste ord, og svarene på det samme spørsmålet kan variere mye. Men å erobre evnen til å gjøre matematikk - der det bare er ett riktig svar - innebærer at AI vil ha større resonneringsevner som ligner menneskelig intelligens. 

Ny vitenskapelig forskning

Dette kan for eksempel brukes på ny vitenskapelig forskning, mener AI-forskere. 

I motsetning til en kalkulator som kan løse et begrenset antall operasjoner, kan AGI generalisere, lære og forstå. 

I sitt brev til styret flagget forskere AIs dyktighet og potensielle fare, uten at kildene gikk inn på eksakte sikkerhetsbekymringer. 

Det har vært en diskusjon ved faren ved svært intelligente maskiner, for eksempel at de kan finne ut at de vil ødelegge menneskeheten om det er i deres interesse. 

 

Få gratis nyhetsbrev

Abonner på Shifters nyhetsbrev for de siste nyhetene, trendene og analysene.

Det tidligere ukjente brevet og AI-algoritmen var nøkkelutviklingen før styret avsatte Altman, ifølge Reuters kilder. 

Før hans retur til selskapet tirsdag, hadde mer enn 700 ansatte truet med å slutte og følge sin tidligere CEO over til Microsoft i solidaritet med han. 

Powered by Labrador CMS