OpenAI foreslår ny regulering af avancerede AI-modeller
OpenAI har offentliggjort et omfattende forskningspapir, der foreslår en reguleringsramme for såkaldte “frontier AI”-modeller – de mest avancerede AI-systemer, som potentielt kan udgøre alvorlige risici for den offentlige sikkerhed.
I papiret, der er udarbejdet af et team på over 20 forskere fra organisationer som OpenAI, Google DeepMind, Centre for the Governance of AI og flere universiteter, identificeres tre centrale udfordringer ved regulering af avanceret AI: Farlige kapabiliteter kan opstå uventet, det er svært at forhindre misbrug af implementerede modeller, og det er vanskeligt at stoppe spredningen af en models kapabiliteter.
Tre byggesten til regulering
For at håndtere disse udfordringer foreslår forskerne tre grundlæggende elementer:
Standardsætning: Processer til at identificere passende krav til udviklere af frontier AI-modeller.
Registrering og rapportering: Krav der giver regulerende myndigheder indsigt i udviklingsprocesserne for avanceret AI.
Håndhævelsesmekanismer: Systemer til at sikre overholdelse af sikkerhedsstandarder ved udvikling og implementering af frontier AI-modeller.
Fra selvregulering til statslig indgriben
Mens papiret anerkender, at branchens selvregulering er et vigtigt første skridt, understreger forfatterne, at bredere samfundsdiskussioner og statslig indgriben vil være nødvendige for at skabe standarder og sikre overholdelse.
Blandt de foreslåede løsninger er at give tilsynsmyndigheder håndhævelsesbeføjelser samt indføre licensordninger for frontier AI-modeller.
Konkrete sikkerhedsstandarder
Forskerne foreslår også et indledende sæt sikkerhedsstandarder, herunder:
- Gennemførelse af risikovurderinger før implementering
- Ekstern granskning af modeladfærd
- Brug af risikovurderinger til at informere beslutninger om implementering
- Overvågning og reaktion på ny information om modelkapabiliteter efter implementering
Papiret, der blev offentliggjort i juli 2023, repræsenterer et forsøg på at balancere de potentielle risici ved avanceret AI-udvikling med innovationsfordelene. Forfatterne håber, at deres forslag kan bidrage til den bredere debat om, hvordan samfundet bedst håndterer både mulighederne og farerne ved den hastigt udviklende AI-teknologi.
