OpenAI lancerer demokratisk program til styring af kunstig intelligens

OpenAI har annonceret et nyt initiativ, der skal give offentligheden medbestemmelse over, hvordan kunstig intelligens skal opføre sig. Den nonprofit-del af organisationen uddeler ti grants på hver 100.000 dollar til teams, der kan udvikle demokratiske processer til at bestemme regler for AI-systemer.

Bred offentlig indflydelse på AI-adfærd

Programmet er et første skridt mod at sikre, at beslutninger om AI’s adfærd ikke træffes af enkelte personer, virksomheder eller lande, men derimod afspejler en bred vifte af perspektiver i offentlighedens interesse.

“AGI bør gavne hele menneskeheden og formes til at være så inklusiv som muligt,” udtaler OpenAI i deres meddelelse. Organisationen understreger, at mens love og reguleringer sætter grundlæggende rammer, har AI brug for mere nuancerede retningslinjer for sin adfærd.

Konkrete spørgsmål til demokratisk afklaring

OpenAI har identificeret en række konkrete politikspørgsmål, som de demokratiske processer skal adressere, herunder:

• Hvor langt skal personalisering af AI-assistenter som ChatGPT gå?
• Hvordan skal AI-assistenter svare på spørgsmål om offentlige personers synspunkter?
• Under hvilke betingelser skal AI-assistenter give medicinsk, økonomisk eller juridisk rådgivning?
• Hvilke typer indhold skal AI-modeller begrænse eller afvise?

Inspiration fra eksisterende demokratiske platforme

Programmet henter inspiration fra eksisterende demokratiske online-platforme som Wikipedia, Twitters Community Notes og pol.is. OpenAI opfordrer ansøgere til at være innovative og udvikle helt nye tilgange, potentielt ved hjælp af AI selv til at forbedre den demokratiske proces.

I en illustrativ prototype viser OpenAI, hvordan ChatGPT kunne facilitere deliberation mellem deltagere med forskellige synspunkter, hjælpe dem med at forstå hinandens holdninger og finde fælles grund.

Krav til deltagere

Vinderne af de ti grants forventes at:

• Implementere en proof-of-concept eller prototype
• Involvere mindst 500 deltagere
• Offentliggøre en rapport om deres resultater senest 20. oktober 2023
• Gøre al kode og intellektuel ejendom offentligt tilgængelig under en open source-licens

Ansøgningsfristen er 24. juni 2023, og alle – uanset baggrund inden for samfundsvidenskab eller AI – kan ansøge.

Fokus på processer frem for svar

OpenAI understreger, at programmets primære mål er at fremme innovation i selve de demokratiske processer. “Vi har brug for forbedrede demokratiske metoder til at styre AI-adfærd. De specifikke svar på spørgsmålene betyder mindre end fremskridtene i selve processen,” lyder det fra organisationen.

Initiativet skal ses som et supplement til – ikke en erstatning for – regeringers regulering af AI, og OpenAI anerkender, at design af ægte demokratiske processer er en høj målsætning med mange potentielle faldgruber.