Anthropic et OpenAI chercheraient à contrôler les publications des évaluateurs, selon des sources proches du dossier. Les deux principales entreprises d'IA veulent avoir leur mot à dire sur ce que les évaluateurs indépendants peuvent publier au sujet de leurs modèles. Cette démarche a suscité des inquiétudes quant à un possible affaiblissement de la transparence et de la confiance dans l'industrie de l'IA, et elle soulève des questions épineuses sur les secrets commerciaux.
La volonté de contrôler les publications des évaluateurs
Les évaluateurs—souvent des chercheurs ou des organisations tiers—testent les systèmes d'IA pour leur sécurité, leurs biais et leurs performances. Leurs conclusions sont généralement publiées ouvertement, permettant au public, aux régulateurs et aux autres entreprises d'évaluer la technologie. Mais Anthropic et OpenAI chercheraient désormais à avoir davantage de contrôle sur ce qui est rendu public. Le mécanisme exact n'est pas clair : il pourrait impliquer des contrats, des processus de révision ou des restrictions sur la publication de certains détails. Les deux entreprises ont souligné la nécessité de protéger les secrets commerciaux, arguant qu'une divulgation sans entrave pourrait donner un avantage à leurs concurrents ou révéler des méthodes sensibles. Pourtant, ce même secret pourrait aussi masquer des défauts.
Pourquoi la transparence est importante pour la confiance et l'innovation en IA
La transparence a été un pilier de la recherche en IA. Lorsque les évaluateurs publient leurs méthodes et résultats, d'autres peuvent reproduire les tests, repérer les faiblesses et s'appuyer sur les succès. Ce cycle stimule l'innovation et renforce la confiance du public. Si les entreprises peuvent opposer leur veto ou façonner les publications des évaluateurs, ce cycle se brise. Les chercheurs indépendants pourraient hésiter à signaler des problèmes s'ils craignent des représailles. Les utilisateurs pourraient ne pas être informés des risques avant qu'il ne soit trop tard. Et les régulateurs, déjà en difficulté pour suivre le rythme de l'IA, auraient moins de matière sur laquelle travailler. Les parties concernées ne sont pas seulement les entreprises et les évaluateurs ; elles incluent quiconque dépend des systèmes d'IA—ce qui est de plus en plus tout le monde.
Le dilemme des secrets commerciaux
Il existe une véritable tension ici. Les modèles d'IA sont coûteux à construire, et les entreprises ont des intérêts légitimes à protéger leurs techniques propriétaires. Le droit des secrets commerciaux permet aux entreprises de garder certaines informations confidentielles tant qu'elles prennent des mesures raisonnables pour ce faire. Mais appliquer ce cadre aux publications des évaluateurs est délicat. Les évaluateurs ont besoin d'un accès suffisant pour faire leur travail, et le public a besoin de suffisamment d'informations pour faire confiance aux résultats. Des revendications de secret trop larges pourraient étouffer l'examen même qui rend l'IA plus sûre. Anthropic et OpenAI n'ont pas publiquement détaillé leurs propositions, il est donc difficile de savoir où ils traceraient la ligne. Qu'est-ce qui relève d'un secret commercial par rapport à une préoccupation de sécurité publique ? Cette question sera probablement l'objet de batailles dans les contrats, les tribunaux et les débats politiques.
Les enjeux pour l'industrie de l'IA
L'industrie de l'IA observe attentivement. Si Anthropic et OpenAI réussissent à contrôler les publications des évaluateurs, d'autres entreprises pourraient suivre. Cela pourrait créer un précédent sur la manière dont les entreprises d'IA interagissent avec les testeurs indépendants. Les startups et les acteurs plus petits pourraient se sentir pressés d'adopter des politiques similaires pour rester compétitifs. Pendant ce temps, les évaluateurs universitaires et à but non lucratif pourraient voir leur travail contraint. Certains pourraient refuser de signer des accords restrictifs, réduisant ainsi le vivier d'expertise indépendante. D'autres pourraient se conformer mais s'autocensurer. Dans les deux cas, la qualité et la quantité des évaluations publiques pourraient en souffrir. Le résultat façonnera non seulement ce que nous savons des systèmes d'IA, mais aussi qui décide de ce qui est sûr.
Aucune résolution claire pour l'instant
Ni Anthropic ni OpenAI n'ont annoncé de politique formelle ou de calendrier. Les discussions seraient en cours, et aucun accord n'a été rendu public. Pour l'instant, la situation reste fluide. Les évaluateurs, les chercheurs et les groupes de surveillance sont susceptibles de réagir si des restrictions concrètes émergent. Les régulateurs aux États-Unis et à l'étranger, qui élaborent déjà des règles sur l'IA, pourraient s'y intéresser. Le conflit central—entre la protection des secrets commerciaux et la préservation de la transparence—ne sera pas facile à résoudre. La manière dont Anthropic et OpenAI procéderont sera un cas test pour l'industrie. Et pour tous ceux qui utilisent l'IA, les enjeux sont élevés : moins de transparence pourrait signifier plus de risques, invisibles.
