Anthropic og OpenAI skal ifølge kilder med kjennskap til saken ønske kontroll over evaluatorers publikasjoner. De to ledende AI-selskapene vil ha innflytelse over hva uavhengige evaluatorer kan publisere om modellene deres. Trekket har skapt bekymring for at det kan undergrave åpenhet og tillit i AI-bransjen, og det reiser vanskelige spørsmål om forretningshemmeligheter.
Presset for kontroll over evaluatorers publikasjoner
Evaluatorer – ofte tredjepartsforskere eller organisasjoner – tester AI-systemer for sikkerhet, bias og ytelse. Funnene deres publiseres vanligvis åpent, slik at publikum, regulatorer og andre selskaper kan vurdere teknologien. Men Anthropic og OpenAI skal nå arbeide for å få mer kontroll over hva som slippes ut. Den nøyaktige mekanismen er ikke klar: det kan innebære kontrakter, gjennomgangsprosesser eller begrensninger på publisering av visse detaljer. Begge selskapene har understreket behovet for å beskytte forretningshemmeligheter, og argumenterer med at ubegrenset åpenhet kan gi konkurrenter en fordel eller avsløre sensitive metoder. Men den samme hemmeligholdelsen kan også skjule feil.
Hvorfor åpenhet er viktig for AI-tillit og innovasjon
Åpenhet har vært en hjørnestein i AI-forskning. Når evaluatorer publiserer metodene og resultatene sine, kan andre reprodusere tester, oppdage svakheter og bygge videre på suksesser. Denne syklusen driver innovasjon og bygger offentlig tillit. Hvis selskaper kan nedlegge veto mot eller forme evaluatorers publikasjoner, bryter denne syklusen sammen. Uavhengige forskere kan nøle med å påpeke problemer hvis de frykter motbør. Brukere kan ikke få vite om risikoer før det er for sent. Og regulatorer, som allerede sliter med å holde tritt med AI, vil ha mindre materiale å arbeide med. De berørte partene er ikke bare selskapene og evaluatorene; de inkluderer alle som er avhengige av AI-systemer – noe som i økende grad er alle.
Dilemmaet med forretningshemmeligheter
Det er en reell spenning her. AI-modeller er dyre å bygge, og selskaper har legitime interesser i å beskytte proprietære teknikker. Lov om forretningshemmeligheter tillater virksomheter å holde viss informasjon konfidensiell så lenge de tar rimelige skritt for å gjøre det. Men å anvende dette rammeverket på evaluatorers publikasjoner er vanskelig. Evaluatorer trenger nok tilgang til å gjøre jobben sin, og publikum trenger nok informasjon til å stole på resultatene. For brede hemmeligholdskrav kan kvele nettopp den granskingen som gjør AI tryggere. Anthropic og OpenAI har ikke offentlig detaljert forslagene sine, så det er uklart hvor de vil trekke grensen. Hva regnes som en forretningshemmelighet kontra en offentlig sikkerhetsbekymring? Det spørsmålet vil sannsynligvis bli kjempet om i kontrakter, rettssaler og politiske debatter.
Hva som står på spill for AI-bransjen
AI-bransjen følger nøye med. Hvis Anthropic og OpenAI lykkes med å kontrollere evaluatorers publikasjoner, kan andre selskaper følge etter. Det kan skape presedens for hvordan AI-selskaper samhandler med uavhengige testere. Oppstartsbedrifter og mindre aktører kan føle seg presset til å innføre lignende retningslinjer for å holde seg konkurransedyktige. Samtidig kan akademiske og ideelle evaluatorer oppleve at arbeidet deres blir begrenset. Noen kan nekte å signere restriktive avtaler, noe som reduserer tilgangen på uavhengig ekspertise. Andre kan etterkomme, men sensurere seg selv. Uansett kan kvaliteten og mengden av offentlige evalueringer bli lidende. Utfallet vil ikke bare forme hva vi vet om AI-systemer, men også hvem som får bestemme hva som er trygt.
Ingen klar løsning ennå
Verken Anthropic eller OpenAI har kunngjort en formell policy eller tidslinje. Diskusjonene skal pågå, og ingen avtaler er offentliggjort. Foreløpig er situasjonen i endring. Evaluatorer, forskere og vaktbikkjeorganisasjoner vil sannsynligvis motsette seg konkrete begrensninger hvis de dukker opp. Regulatorer i USA og utlandet, som allerede utarbeider AI-regler, kan bli interessert. Den grunnleggende konflikten – mellom å beskytte forretningshemmeligheter og bevare åpenhet – blir ikke lett å løse. Hvordan Anthropic og OpenAI går frem, vil være en testcase for bransjen. Og for alle som bruker AI, er innsatsen høy: mindre åpenhet kan bety mer risiko, usett.
