OpenAI lancerer Microscope: Nyt værktøj til at forstå kunstig intelligens
OpenAI har introduceret et nyt forskningsværktøj kaldet OpenAI Microscope, der giver forskere og udviklere mulighed for at kigge dybt ind i, hvordan neurale netværk fungerer. Værktøjet er designet til at gøre det lettere at analysere og forstå de komplekse mønstre, der opstår inde i AI-modeller.
Åbner op for AI’s sorte boks
Microscope er en samling af visualiseringer, der dækker hvert betydningsfuldt lag og neuron i otte forskellige vision-modeller, som ofte studeres inden for AI-fortolkning. Værktøjet gør det muligt at undersøge, hvordan tusindvis af neuroner interagerer for at skabe de evner, som moderne neurale netværk besidder.
“Vi håber, det vil hjælpe forskningsmiljøet, mens vi bevæger os mod at forstå disse komplicerede systemer,” udtaler OpenAI i forbindelse med lanceringen.
Fra minutter til sekunder
Et af de væsentligste fremskridt med Microscope er hastigheden. Hvor det tidligere kunne tage minutter at visualisere enkelte neuroner, reducerer værktøjet nu processen til sekunder. Denne hurtigere feedback-loop har ifølge OpenAI været afgørende for opdagelsen af uventede funktioner i deres igangværende forskningsprojekter.
Værktøjet gør det også muligt at linke direkte til specifikke modeller og neuroner, hvilket letter samarbejde mellem forskere. En forsker kan for eksempel hurtigt dele en observation som: “InceptionV1 4c:447 er en bildetektor, der er bygget fra en hjuldetektor og en vinduesrude-detektor.”
Gør AI-forskning mere tilgængelig
OpenAI fremhæver, at fortolkning af AI-systemer er et af de mere tilgængelige forskningsområder inden for maskinlæring, da det kræver relativt lidt computerkraft sammenlignet med andre områder. Men systematisk visualisering af neurale netværk kan stadig kræve hundredvis af GPU-timer.
Ved at dele deres visualiseringer håber OpenAI at holde dette forskningsområde tilgængeligt for et bredere publikum. Alle visualiseringer er baseret på open source-biblioteket Lucid, som OpenAI er med til at vedligeholde.
Fokus på “model-organismer”
Ligesom biologer ofte fokuserer på studiet af få “model-organismer”, koncentrerer Microscope sig om at udforske et lille antal modeller i detaljer. Den første version inkluderer ni hyppigt studerede vision-modeller sammen med flere visualiseringsteknikker.
OpenAI planlægger at udvide værktøjet til at omfatte flere modeller og teknikker i de kommende måneder og opfordrer forskningsmiljøet til at genbruge ressourcerne i deres eget arbejde.
