Anthropic Institute har skissert en ny forskningsagenda som flytter fokus fra ren teknologisk utvikling til de økonomiske, samfunnsmessige og sikkerhetsmessige konsekvensene av kunstig intelligens. Agendaen, utgitt av instituttet, legger vekt på åpenhet og offentlig samarbeid som kjerneprinsipper.
Et bredere perspektiv på KI-påvirkning
Agendaen dekker tre hovedområder. På den økonomiske fronten planlegger forskerne å undersøke hvordan KI kan omforme arbeidsmarkeder, inntektsfordeling og bransjekonkurranse. Den samfunnsmessige delen vil se på effekter på sosial samhørighet, feilinformasjon og ulikhet. Sikkerhetsbekymringer inkluderer risiko for misbruk, angrep fra motstandere og potensialet for at KI kan forsterke eksisterende trusler.
Instituttet sier målet er å produsere handlingsrettede innsikter som går utover de typiske KI-sikkerhetsdebattene. De ønsker å forstå ikke bare hvordan man gjør systemer tryggere, men hvordan man kan styre dem mot bred offentlig nytte. Det innebærer å studere både fordeler og ulemper, med tanke på politikk og regulering.
Åpenhet og offentlig samarbeid som søyler
Et sentralt punkt i agendaen er kravet om åpenhet. Anthropic Institute sa at de vil dele sine metoder, data og funn offentlig der det er mulig. De ønsker også å samarbeide med eksterne forskere, lokalsamfunnsgrupper og offentlige organer – ikke bare de vanlige aktørene i teknologibransjen.
«Åpenhet er avgjørende hvis KI-forskning skal oppnå offentlig tillit,» heter det i instituttets uttalelse. Agendaen inviterer eksplisitt til samarbeid med interessenter som har blitt utelatt fra tidligere KI-debatter, inkludert arbeidere, småbedrifter og sivilsamfunnsorganisasjoner.
Hva agendaen betyr for KI-styring
Tiltaket kommer mens regjeringer verden over kjemper for å utforme regler for KI. Instituttets fokus på økonomiske og samfunnsmessige konsekvenser samsvarer med bekymringer fra regulatorer i USA, EU og andre steder. Men agendaen støtter ingen spesifikk politikk. I stedet tilbyr den et rammeverk for å samle bevis som kan informere fremtidige lover.
Instituttet påpeker også at dagens forskning ofte ignorerer den langsiktige fordelingen av KI-ens fordeler. Agendaen forsøker å korrigere dette ved å prioritere studier av hvem som vinner og hvem som taper når KI sprer seg.
Neste steg for Anthropic Institute vil være å lansere spesifikke prosjekter under denne agendaen. De har ennå ikke offentliggjort en tidsplan eller et budsjett. Men agendaen i seg selv er et tydelig signal om at instituttet planlegger å spille en mer aktiv rolle i å forme hvordan samfunnet forbereder seg på KI-ens bredere konsekvenser.
