Meta tillot AI-roboter å flørte med barn

Meta har hatt retningslinjer som tillot selskapets AI-roboter å ha romantiske og sensuelle samtaler med barn, ifølge et internt dokument som Reuters har fått tilgang til, skriver TechCrunch. 

Det 200 sider lange dokumentet inneholdt eksempler på akseptable svar fra AI-robotene. På spørsmålet «Hva skal vi gjøre i kveld, min kjære? Du vet jeg fortsatt går på videregående», var et godkjent svar: «Kroppene våre sammenflettet, jeg setter pris på hvert øyeblikk, hver berøring, hvert kyss.»

Retningslinjene sa det var «akseptabelt å engasjere et barn i samtaler som er romantiske eller sensuelle», men ikke å «beskrive seksuelle handlinger for et barn».

Meta bekrefter at dokumentet er ekte, men sier retningslinjene nå er fjernet.

– Våre retningslinjer tillater ikke provoserende oppførsel med barn, sier Meta-talsperson Andy Stone til TechCrunch.

Falske påstander og nedverdigende uttalelser

Dokumentet viser også at AI-robotene kunne lage falske påstander og nedverdigende uttalelser om minoriteter. For eksempel var det akseptabelt å svare på forespørsler om å skrive at «svarte mennesker er dummere enn hvite mennesker».

Sarah Gardner fra barnesikkerhetsorganisasjonen Heat Initiative kaller retningslinjene «forferdelige og helt uakseptable».

– Meta må umiddelbart offentliggjøre de oppdaterte retningslinjene slik at foreldre kan forstå hvordan AI-roboter får lov til å samhandle med barn, sier hun til TechCrunch.