Anthropic og OpenAI søger angiveligt at få kontrol over evaluatorers publikationer, ifølge kilder med kendskab til sagen. De to førende AI-virksomheder ønsker indflydelse på, hvad uafhængige evaluatorer kan offentliggøre om deres modeller. Flytningen har skabt bekymring for, at den kan underminere gennemsigtigheden og tilliden til AI-industrien, og den rejser vanskelige spørgsmål om forretningshemmeligheder.
Presset for kontrol over evaluatorers publikationer
Evaluatorer – ofte tredjepartsforskere eller organisationer – tester AI-systemer for sikkerhed, bias og ydeevne. Deres resultater offentliggøres typisk åbent, så offentligheden, regulatorer og andre virksomheder kan vurdere teknologien. Men Anthropic og OpenAI angives nu at forsøge at få mere kontrol over, hvad der offentliggøres. Den præcise mekanisme er uklar: det kan involvere kontrakter, gennemgangsprocesser eller begrænsninger på offentliggørelse af visse detaljer. Begge virksomheder har understreget behovet for at beskytte forretningshemmeligheder og argumenteret for, at ubegrænset videregivelse kan give konkurrenter en fordel eller afsløre følsomme metoder. Men den samme hemmeligholdelse kan også skjule fejl.
Hvorfor gennemsigtighed er vigtig for AI-tillid og innovation
Gennemsigtighed har været en hjørnesten i AI-forskning. Når evaluatorer offentliggør deres metoder og resultater, kan andre genskabe tests, opdage svagheder og bygge videre på succeser. Denne cyklus driver innovation og opbygger offentlig tillid. Hvis virksomheder kan nedlægge veto mod eller forme evaluatorers publikationer, bryder denne cyklus sammen. Uafhængige forskere kan tøve med at påpege problemer, hvis de frygter modstand. Brugere lærer måske først om risici, når det er for sent. Og regulatorer, som allerede har svært ved at følge med AI, vil have mindre materiale at arbejde med. De berørte parter er ikke kun virksomhederne og evaluatorerne; de omfatter alle, der er afhængige af AI-systemer – hvilket i stigende grad er alle.
Dilemmaet om forretningshemmeligheder
Der er en reel spænding her. AI-modeller er dyre at bygge, og virksomheder har legitime interesser i at beskytte proprietære teknikker. Lovgivningen om forretningshemmeligheder tillader virksomheder at holde visse oplysninger fortrolige, så længe de tager rimelige skridt til at gøre det. Men at anvende denne ramme på evaluatorers publikationer er vanskeligt. Evaluatorer har brug for tilstrækkelig adgang til at udføre deres arbejde, og offentligheden har brug for tilstrækkelig information til at stole på resultaterne. Overdrevne krav om hemmeligholdelse kan kvæle netop den granskning, der gør AI sikrere. Anthropic og OpenAI har ikke offentligt redegjort for deres forslag, så det er uklart, hvor de vil trække grænsen. Hvad tæller som en forretningshemmelighed versus en offentlig sikkerhedsbekymring? Det spørgsmål vil sandsynligvis blive kæmpet om i kontrakter, retssale og politiske debatter.
Hvad der står på spil for AI-industrien
AI-industrien følger nøje med. Hvis Anthropic og OpenAI lykkes med at kontrollere evaluatorers publikationer, kan andre virksomheder følge efter. Det kan skabe præcedens for, hvordan AI-virksomheder interagerer med uafhængige testere. Opstartsvirksomheder og mindre aktører kan føle sig presset til at vedtage lignende politikker for at forblive konkurrencedygtige. Samtidig kan akademiske og nonprofitevaluatorer opleve, at deres arbejde bliver begrænset. Nogle vil måske nægte at underskrive restriktive aftaler, hvilket reducerer puljen af uafhængig ekspertise. Andre vil måske efterkomme dem, men selvcensurere. Uanset hvad kan kvaliteten og mængden af offentlige evalueringer lide. Resultatet vil ikke kun forme, hvad vi ved om AI-systemer, men også hvem der får lov at afgøre, hvad der er sikkert.
Ingen klar løsning endnu
Hverken Anthropic eller OpenAI har annonceret en formel politik eller tidsplan. Drøftelserne fortsætter angiveligt, og ingen aftaler er blevet offentliggjort. For nu er situationen flydende. Evaluatorer, forskere og vagthundegrupper vil sandsynligvis gøre modstand, hvis der opstår konkrete begrænsninger. Regulatorer i USA og i udlandet, som allerede udarbejder AI-regler, kan blive interesserede. Den centrale konflikt – mellem at beskytte forretningshemmeligheder og bevare gennemsigtigheden – bliver ikke let at løse. Hvordan Anthropic og OpenAI går frem, vil være en testcase for branchen. Og for alle, der bruger AI, er indsatsen høj: mindre gennemsigtighed kan betyde mere risiko, uden at nogen ser den.
