OpenAI indfører særlige sikkerhedsregler for teenagere i ChatGPT
OpenAI har opdateret sine retningslinjer for kunstig intelligens med nye principper, der specifikt skal beskytte teenagere i alderen 13-17 år, når de bruger ChatGPT. De såkaldte U18-principper er udviklet i samarbejde med eksperter og skal sikre en mere alderssvarende og sikker oplevelse for unge brugere.
Fire grundprincipper for teenagesikkerhed
De nye retningslinjer bygger på fire centrale forpligtelser: At sætte teenageres sikkerhed først, selv når det konflikter med andre mål; at fremme støtte i den virkelige verden ved at opmuntre til offline-relationer og pålidelige ressourcer; at behandle teenagere som teenagere – hverken nedladende eller som voksne; samt at være transparent ved at sætte klare forventninger.
Opdateringen præciserer, hvordan ChatGPT skal håndtere særligt følsomme emner for unge brugere, herunder selvskade og selvmord, romantisk eller seksualiseret rollespil, grafisk eller eksplicit indhold, farlige aktiviteter og stoffer, kropsopfattelse og spiseforstyrrelser samt anmodninger om at holde usikker adfærd hemmelig.
Ekspertstøtte bag initiativet
Den amerikanske psykologforening (APA) har gennemgået et tidligt udkast af retningslinjerne og understreger vigtigheden af at beskytte unge brugere. APA’s CEO, Dr. Arthur C. Evans Jr., opfordrer AI-udviklere til at tilbyde udviklingsmæssigt passende forholdsregler for unge brugere og tage en mere beskyttende tilgang til yngre brugere.
OpenAI har etableret et ekspertråd om trivsel og AI samt et globalt læge-netværk, der rådgiver om sikkerhedsforskning og evaluerer modellens adfærd, herunder hvordan ChatGPT genkender nød og vejleder folk mod professionel hjælp, når det er nødvendigt.
Nye værktøjer til forældre og teenagere
Sammen med de opdaterede retningslinjer har OpenAI udvidet forældrekontrol-funktionerne til at omfatte nye produkter som gruppechats, ChatGPT Atlas-browseren og Sora-appen. Virksomheden har også tilføjet nye ekspertgodkendte ressourcer til forældres ressourcecenter, herunder en familievejledning til ansvarlig AI-brug for teenagere.
OpenAI er i gang med at udrulde en aldersforudsigelsesmodel, der automatisk skal anvende teenagesikkerhedsforanstaltninger, når systemet vurderer, at en konto tilhører en mindreårig. Hvis systemet er usikkert på en brugers alder, vil det som standard anvende beskyttelsen for under 18-årige og give voksne mulighed for at verificere deres alder.
Virksomheden understreger, at arbejdet med at styrke teenagesikkerheden er en løbende proces, og at de vil fortsætte med at forbedre forældrekontrol, modelkapaciteter og ressourcer for familier.
