ai

ChatGPT skal gjette hvor gammel du er

Nye tiltak skal beskytte mindreårige brukere.

Dette bildet er fra da EU la frem retningslinjer for hvordan AI skal reguleres.
Publisert Sist oppdatert

OpenAI har innført en ny funksjon som skal gjette alderen til ChatGPT-brukere for å beskytte mindreårige, skriver TechCrunch

Selskapet har fått kritikk for hvordan ChatGPT påvirker barn og unge. Flere tenåringsselvmord har blitt koblet til chatboten, og OpenAI har også blitt kritisert for å la ChatGPT diskutere seksuelle temaer med unge brukere.

I april i fjor måtte selskapet fikse en feil som lot chatboten lage erotisk innhold for brukere under 18 år.

Den nye «aldersgjetting»-funksjonen bruker en AI-algoritme som vurderer brukerkontoer basert på bestemte signaler, skriver OpenAI i et blogginnlegg tirsdag.

Disse signalene inkluderer brukerens oppgitte alder, hvor lenge kontoen har eksistert og hvilke tider på døgnet kontoen vanligvis er aktiv.

Selskapet har allerede innholdsfiltre som skal fjerne diskusjoner om sex, vold og andre potensielt problematiske temaer for brukere under 18 år. Hvis aldersgjettingen identifiserer en konto som mindreårig, aktiveres disse filtrene automatisk.

Hvis en bruker feilaktig blir merket som mindreårig, kan de gjenopprette sin «voksen»-konto ved å sende en selfie til OpenAIs ID-verifikasjonspartner Persona.