Anthropic en OpenAI zouden controle willen over publicaties van evaluatoren, volgens bronnen die bekend zijn met de zaak. De twee toonaangevende AI-bedrijven willen inspraak in wat onafhankelijke evaluatoren over hun modellen kunnen publiceren. De stap heeft geleid tot zorgen dat dit de transparantie en het vertrouwen in de AI-industrie kan ondermijnen, en roept lastige vragen op over bedrijfsgeheimen.
Het streven naar controle over publicaties van evaluatoren
Evaluatoren – vaak externe onderzoekers of organisaties – testen AI-systemen op veiligheid, vooringenomenheid en prestaties. Hun bevindingen worden doorgaans openbaar gepubliceerd, zodat het publiek, toezichthouders en andere bedrijven de technologie kunnen beoordelen. Maar Anthropic en OpenAI zouden nu streven naar meer controle over wat er wordt vrijgegeven. Het exacte mechanisme is niet duidelijk: het zou kunnen gaan om contracten, beoordelingsprocessen of beperkingen op het publiceren van bepaalde details. Beide bedrijven hebben benadrukt dat bedrijfsgeheimen moeten worden beschermd, met als argument dat onbeperkte openbaarmaking concurrenten een voordeel kan geven of gevoelige methoden kan onthullen. Maar dezelfde geheimhouding kan ook gebreken verbergen.
Waarom transparantie belangrijk is voor vertrouwen in AI en innovatie
Transparantie is een hoeksteen van AI-onderzoek. Wanneer evaluatoren hun methoden en resultaten publiceren, kunnen anderen tests reproduceren, zwakke punten opsporen en voortbouwen op successen. Die cyclus stimuleert innovatie en bouwt vertrouwen bij het publiek op. Als bedrijven publicaties van evaluatoren kunnen vetoën of vormgeven, valt die cyclus uiteen. Onafhankelijke onderzoekers kunnen aarzelen om problemen aan te kaarten als ze bang zijn voor tegenreactie. Gebruikers komen mogelijk pas over risico's te weten als het te laat is. En toezichthouders, die al moeite hebben om AI bij te benen, zouden minder materiaal hebben om mee te werken. De betrokken partijen zijn niet alleen de bedrijven en evaluatoren; het gaat om iedereen die op AI-systemen vertrouwt – en dat is in toenemende mate iedereen.
Het dilemma van bedrijfsgeheimen
Er is hier een echte spanning. AI-modellen zijn duur om te bouwen, en bedrijven hebben legitieme belangen bij het beschermen van gepatenteerde technieken. De wet op bedrijfsgeheimen staat bedrijven toe bepaalde informatie vertrouwelijk te houden, zolang ze redelijke stappen ondernemen om dat te doen. Maar dat kader toepassen op publicaties van evaluatoren is lastig. Evaluatoren hebben voldoende toegang nodig om hun werk te doen, en het publiek heeft voldoende informatie nodig om de resultaten te vertrouwen. Te brede claims van geheimhouding kunnen juist het toezicht smoren dat AI veiliger maakt. Anthropic en OpenAI hebben hun voorstellen niet publiekelijk uiteengezet, dus het is onduidelijk waar ze de grens zouden trekken. Wat geldt als bedrijfsgeheim versus een kwestie van openbare veiligheid? Die vraag zal waarschijnlijk worden uitgevochten in contracten, rechtszaken en beleidsdebatten.
Wat er op het spel staat voor de AI-industrie
De AI-industrie kijkt nauwlettend toe. Als Anthropic en OpenAI erin slagen de publicaties van evaluatoren te controleren, kunnen andere bedrijven volgen. Dat zou een precedent kunnen scheppen voor hoe AI-bedrijven omgaan met onafhankelijke testers. Startups en kleinere spelers kunnen zich onder druk gezet voelen om soortgelijk beleid over te nemen om concurrerend te blijven. Ondertussen kunnen academische en non-profit evaluatoren merken dat hun werk wordt beperkt. Sommigen weigeren misschien restrictieve overeenkomsten te ondertekenen, waardoor het aanbod van onafhankelijke expertise afneemt. Anderen voldoen misschien maar censureren zichzelf. Hoe dan ook kunnen de kwaliteit en kwantiteit van openbare evaluaties lijden. De uitkomst zal niet alleen bepalen wat we weten over AI-systemen, maar ook wie mag beslissen wat veilig is.
Nog geen duidelijke oplossing
Noch Anthropic noch OpenAI heeft een formeel beleid of tijdlijn aangekondigd. De gesprekken zouden gaande zijn en er zijn geen overeenkomsten openbaar gemaakt. Voorlopig blijft de situatie in beweging. Evaluatoren, onderzoekers en waakhondgroepen zullen waarschijnlijk tegenstand bieden als er concrete beperkingen opduiken. Toezichthouders in de VS en daarbuiten, die al AI-regels opstellen, kunnen interesse tonen. Het kernconflict – tussen het beschermen van bedrijfsgeheimen en het behouden van transparantie – zal niet eenvoudig op te lossen zijn. Hoe Anthropic en OpenAI te werk gaan, zal een testcase voor de industrie zijn. En voor iedereen die AI gebruikt, staat er veel op het spel: minder transparantie kan meer risico betekenen, zonder dat iemand het ziet.
