Anthropic och OpenAI uppges vilja ha kontroll över utvärderares publiceringar, enligt källor med insyn i frågan. De två ledande AI-företagen vill ha inflytande över vad oberoende utvärderare får publicera om deras modeller. Åtgärden har väckt farhågor om att den kan undergräva transparensen och förtroendet för AI-branschen, och den reser besvärliga frågor om affärshemligheter.
Kravet på kontroll över utvärderares publiceringar
Utvärderare – ofta forskare eller organisationer från tredje part – testar AI-system för säkerhet, bias och prestanda. Deras resultat publiceras vanligtvis öppet, vilket gör det möjligt för allmänheten, tillsynsmyndigheter och andra företag att bedöma tekniken. Men Anthropic och OpenAI uppges nu vilja ha mer kontroll över vad som släpps. Den exakta mekanismen är oklar: det kan handla om avtal, granskningsprocesser eller begränsningar för att publicera vissa detaljer. Båda företagen har betonat behovet av att skydda affärshemligheter och hävdat att obegränsat offentliggörande kan ge konkurrenter en fördel eller avslöja känsliga metoder. Samtidigt kan samma sekretess också dölja brister.
Varför transparens är viktigt för AI-förtroende och innovation
Transparens har varit en hörnsten i AI-forskningen. När utvärderare publicerar sina metoder och resultat kan andra reproducera tester, upptäcka svagheter och bygga vidare på framgångar. Den cykeln driver innovation och bygger allmänhetens förtroende. Om företag kan lägga in veto mot eller forma utvärderares publiceringar bryts den cykeln ned. Oberoende forskare kan tveka att flagga problem om de fruktar motstånd. Användare kanske inte får veta om risker förrän det är för sent. Och tillsynsmyndigheter, som redan har svårt att hålla jämna steg med AI, skulle få mindre material att arbeta med. De berörda parterna är inte bara företagen och utvärderarna; de omfattar alla som förlitar sig på AI-system – vilket i allt högre grad är alla.
Dilemmat med affärshemligheter
Det finns en verklig spänning här. AI-modeller är dyra att bygga, och företag har legitima intressen av att skydda proprietära tekniker. Lagen om affärshemligheter tillåter företag att hålla viss information konfidentiell så länge de vidtar rimliga åtgärder för att göra det. Men att tillämpa det ramverket på utvärderares publiceringar är knepigt. Utvärderare behöver tillräcklig tillgång för att göra sitt jobb, och allmänheten behöver tillräckligt med information för att lita på resultaten. Alltför breda anspråk på sekretess skulle kunna kväva just den granskning som gör AI säkrare. Anthropic och OpenAI har inte offentligt redogjort för sina förslag, så det är oklart var de skulle dra gränsen. Vad räknas som en affärshemlighet kontra en allmän säkerhetsfråga? Den frågan kommer sannolikt att slåss om i avtal, domstolar och politiska debatter.
Vad som står på spel för AI-branschen
AI-branschen följer utvecklingen noga. Om Anthropic och OpenAI lyckas kontrollera utvärderares publiceringar kan andra företag följa efter. Det skulle kunna skapa prejudikat för hur AI-företag interagerar med oberoende testare. Nystartade företag och mindre aktörer kan känna press att anta liknande policyer för att förbli konkurrenskraftiga. Samtidigt kan akademiska och ideella utvärderare få sitt arbete begränsat. Vissa kan vägra att skriva under restriktiva avtal, vilket minskar poolen av oberoende expertis. Andra kan följa reglerna men självcensurera. Hur som helst kan kvaliteten och kvantiteten på offentliga utvärderingar försämras. Utfallet kommer att forma inte bara vad vi vet om AI-system utan också vem som får avgöra vad som är säkert.
Ingen tydlig lösning ännu
Varken Anthropic eller OpenAI har tillkännagivit en formell policy eller tidsplan. Diskussionerna uppges pågå, och inga avtal har offentliggjorts. För närvarande är situationen föränderlig. Utvärderare, forskare och granskningsgrupper kommer sannolikt att göra motstånd om konkreta begränsningar dyker upp. Tillsynsmyndigheter i USA och utomlands, som redan utarbetar AI-regler, kan komma att intressera sig. Den centrala konflikten – mellan att skydda affärshemligheter och att bevara transparens – blir inte lätt att lösa. Hur Anthropic och OpenAI går vidare blir ett testfall för branschen. Och för alla som använder AI är insatserna höga: mindre transparens kan innebära mer risk, utan att någon ser den.
