Anthropic Institute har skitseret en ny forskningsagenda, der flytter fokus fra ren teknisk udvikling til de økonomiske, samfundsmæssige og sikkerhedsmæssige konsekvenser af kunstig intelligens. Agendaen, der er offentliggjort af instituttet, fremhæver gennemsigtighed og offentligt samarbejde som kerne principper.
En bredere linse på AI's indvirkning
Agendaen dækker tre hovedområder. På den økonomiske front planlægger forskere at undersøge, hvordan AI kan omforme arbejdsmarkeder, indkomstfordeling og industrikonkurrence. Den samfundsmæssige del vil se på effekter på social sammenhængskraft, misinformation og ulighed. Sikkerhedsbekymringer omfatter risici fra misbrug, modstridende angreb og potentialet for, at AI kan forstærke eksisterende trusler.
Instituttet siger, at målet er at producere handlingsorienterede indsigter, der går ud over de typiske AI-sikkerhedsdebatter. De ønsker ikke blot at forstå, hvordan man gør systemer sikrere, men hvordan man styrer dem mod bred offentlig gavn. Det betyder at studere både fordele og ulemper med henblik på politik og regulering.
Gennemsigtighed og offentligt samarbejde som søjler
Et centralt punkt i agendaen er opfordringen til åbenhed. Anthropic Institute sagde, at de vil dele deres metoder, data og resultater offentligt, hvor det er muligt. De ønsker også at samarbejde med eksterne forskere, lokalsamfundsgrupper og regeringsorganer – ikke kun de sædvanlige aktører i tech-industrien.
"Gennemsigtighed er afgørende, hvis AI-forskning skal opnå offentlig tillid," lyder det i instituttets erklæring. Agendaen inviterer eksplicit til samarbejde fra interessenter, der har været udeladt fra tidligere AI-debatter, herunder arbejdere, små virksomheder og civilsamfundsorganisationer.
Hvad agendaen betyder for AI-styring
Skridtet kommer, mens regeringer verden over kæmper for at udforme regler for AI. Instituttets fokus på økonomiske og samfundsmæssige konsekvenser stemmer overens med bekymringer fra tilsynsmyndigheder i USA, EU og andre steder. Men agendaen støtter ikke nogen specifik politik. I stedet tilbyder den en ramme for at indsamle evidens, der kan informere fremtidige love.
Instituttet bemærker også, at nuværende forskning ofte ignorerer den langsigtede fordeling af AI's fordele. Deres agenda forsøger at rette op på dette ved at prioritere studier af, hvem der vinder og hvem der taber, når AI spreder sig.
Næste skridt for Anthropic Institute vil være at igangsætte specifikke projekter under denne agenda. De har endnu ikke offentliggjort en tidsplan eller et budget. Men agendaen i sig selv er et tydeligt signal om, at instituttet planlægger at spille en mere aktiv rolle i at forme, hvordan samfundet forbereder sig på AI's bredere konsekvenser.
