Donald Trump har godkjent uavhengige revisjoner for AI-sikkerhet som en del av en banebrytende avtale med Silicon Valley, og foretrekker selvregulering fremfor ny lovgivning. Avtalen, som ble kunngjort denne uken, markerer et skifte i hvordan USA nærmer seg styring av kunstig intelligens, med presidenten som støtter frivillige gjennomganger fremfor lovpålagte regler.
Avtalen oppretter ikke nye etater eller håndhevingsmyndigheter. I stedet ber den selskaper om å underkaste seg eksterne revisjoner av sine AI-systemer og følge sikkerhetsretningslinjer de er med på å utforme. Denne tilnærmingen har fått støtte fra bransjeledere som frykter tung regulering, men den etterlater åpne spørsmål om hvem som utfører revisjonene og hva som skjer hvis et selskap mislykkes i en.
Presset for selvregulering
Trumps støtte kom under et møte med teknologisjefer i Silicon Valley, ifølge personer kjent med diskusjonene. Presidenten har gjentatte ganger advart om at strenge AI-regler kan presse innovasjon utenlands, særlig til Kina. Ved å støtte revisjoner i stedet for lovgivning, stiller han seg bak et syn som er populært i bransjen: la selskapene politi seg selv, med ekstern verifisering.
Avtalen understreker at AI-utviklere bør vedta sikkerhetsstandarder frivillig og åpne sine systemer for uavhengig gjennomgang. Den spesifiserer ikke straffer for manglende overholdelse eller pålegger deltakelse. Det er et avvik fra forslag i Kongressen og Den europeiske union, som har presset på for bindende krav og bøter.
Hva avtalen faktisk sier
Detaljene er fortsatt sparsomme. Avtalen, beskrevet som et sett med prinsipper snarere enn en bindende kontrakt, krever uavhengige revisjoner for å vurdere risikoer som bias, sikkerhetssårbarheter og potensiell misbruk. Den oppfordrer også selskaper til å dele beste praksis og utvikle interne sikkerhetsteam.
Men det er uklart hvem som skal utføre revisjonene. Uavhengige firmaer eksisterer, men de er ikke selv regulert. Og uten juridisk kraft kan selskaper ignorere avtalen uten konsekvenser. Tilhengere hevder at offentlig press og omdømmepress vil holde selskapene i tømmene. Kritikere sier det ikke er nok for en teknologi som allerede omformer økonomier og militære styrker.
Avtalen kan sette en presedens for teknologistyring langt utover AI. Hvis selvregulering fungerer her, kan det bli en modell for andre fremvoksende teknologier, fra kvanteberegning til bioteknologi. Hvis det mislykkes, kan det føre til krav om strengere lover.
Trumps engasjement signaliserer også at AI-politikk vil være en politisk sak i det kommende valget. Han satser på at en lett tilnærming vil appellere til både teknologidonorer og velgere som er bekymret for statlig overgrep. Hvorvidt dette veddemålet lønner seg, avhenger av om revisjonene gir troverdige resultater – og om publikum stoler på dem.
Foreløpig er avtalen en intensjonserklæring. Selskaper som signerer, vil møte sin første test når uavhengige revisorer begynner sitt arbeid, sannsynligvis innen det neste året. Det hvite hus har ikke sagt hvordan de vil spore etterlevelse eller om de vil publisere revisjonsresultater.
Kongressen vurderer i mellomtiden fortsatt sine egne AI-lover. Noen lovgivere har kritisert selvreguleringstilnærmingen som for svak, og de kan presse på for lovgivning hvis revisjonene ikke leverer. Teknologiindustrien følger nøye med – mange firmaer foretrekker avtalen fremfor alternativet med nye lover, men de vet også at en profilert fiasko kan invitere nettopp det.
Det neste konkrete trinnet? Se etter den første runden med revisjoner og om noen store AI-selskaper nekter å delta. Det vil vise om denne avtalen har tenner eller bare er en ny pressemelding.
