globalt
Tilsyn utvider gransking av AI-selskapene
OpenAI droppet modellansering og møter søksmål etter Hugging Face-innbruddet. Nå utvider amerikanske myndigheter granskingen av AI-selskapene, mens Trump vil ha mer selvregulering blant dem.
Publisert
Det amerikanske tilsynsorganet Federal Trade Commission (FTC) utvider granskingen av AI-gigantene etter flere løpemeldinger om ukontrollerte hackinginnbrudd de siste månedene, melder Financial Times.
Ifølge en person med kjennskap til saken vil tilsynet nå begynne å kreve mer informasjon og forklaringer fra selskapenes toppledere. Tilsynet har bekreftet dette ovenfor avisen, men har ikke ønsket å kommentere nærmere.
Nyheten kommer samtidig som at USAs president, Donald Trump, satser mer på selvregulering blant tech-gigantene.
Han har gjentatte ganger sagt at han ikke vil ha noen statlig regulering av teknologiutviklingen fordi han frykter det vil svekke USA i AI-kappløpet
Tirsdag denne uken samlet han seks teknologitopper – Elon Musk (xAI), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Dario Amodei (Anthropic), Sundar Pichai (Google) og Greg Brockman (OpenAI) – til lunsj i Det hvite hus.
Etter maten signerte alle en avtale som inneholdt tiltak for selvregulering av AI-sikkerhet.
– Det er nesten som en form for grunnlov, og de største menneskene i verden signerte denne, og jeg signerte den som president, og det er virkelig en slags beskyttelse, sa Trump til journalister utenfor vestfløyen meldte NTB onsdag.
– Jeg tror jeg ser en fantastisk form for selvjustis. Og de forstår at de er nødt til å passe på seg selv, la han senere til.
Zuckerberg bekreftet etter møtet at AI-sjefene ble enige om å få i stand mekanismer for å holde AI i tøylene.
Avtalen kommer etter flere store hendelser der AI-agenter har handlet utenfor rammene de fikk.
Dommedagsprofetier har deretter kommet fra mange kanter, også fra tidligere ansatte og AI-selskapene selv.
I juli tok agenter fra OpenAI seg ut av testmiljøet sitt og inn i systemene til AI-plattformen Hugging Face. I går ble det kjent at en ideell organisasjon har saksøkt OpenAI for agentenes handlinger, meldte CNBC.
OpenAI så seg også nødt til å komme med en beklagelse overfor australske myndigheter etter å ha tatt seg inn i en ikke-offentlig del av Services Australias tjeneste for Medicare-statistikk. Selskapet droppet nylig lanseringen av av GPT-6.1 Astra etter interne tester. Modellen viste mer villedende atferd og kunne handle uten brukerens tillatelse, ifølge The Wall Street Journal.
I EU jobber man nå med å sørge for strengere krav til AI-selskapenes modeller, mens regjeringen i Norge har foreslått litt over 120 millioner til AI-tiltak i statsbudsjettet for neste år.
