関係者によると、AnthropicとOpenAIは評価者による公表内容を管理しようとしている。両大手AI企業は、独立した評価者が自社モデルについて何を公表できるかに発言権を持ちたいと考えている。この動きはAI業界における透明性と信頼を損なう可能性があるとの懸念を引き起こしており、営業秘密に関する厄介な問題も提起している。
評価者の公表内容を管理しようとする動き
評価者——多くの場合、第三者の研究者や組織——は、AIシステムの安全性、バイアス、性能をテストする。その調査結果は通常、公開されており、一般市民、規制当局、他の企業が技術を評価できるようになっている。しかし今回、AnthropicとOpenAIは公表される内容をより管理したいと考えていると報じられている。具体的な仕組みは明らかではない。契約、審査プロセス、特定の詳細の公表制限などが関与する可能性がある。両社は営業秘密を保護する必要性を強調しており、無制限の開示は競合他社に優位性を与えたり、機密性の高い手法を明らかにしたりする可能性があると主張している。しかし、同じ秘密主義が欠陥を隠すことにもなり得る。
AIの信頼とイノベーションにとって透明性が重要な理由
透明性はAI研究の基盤となってきた。評価者が手法と結果を公表することで、他の人々はテストを再現し、弱点を見つけ、成功事例を基に発展させることができる。このサイクルがイノベーションを促進し、公共の信頼を築く。企業が評価者の公表内容を拒否したり形作ったりできるようになれば、このサイクルは崩壊する。独立した研究者は反発を恐れて問題を指摘することをためらうかもしれない。ユーザーは手遅れになるまでリスクを知ることができないかもしれない。そして、すでにAIへの対応に苦慮している規制当局は、利用できる資料が少なくなるだろう。影響を受ける当事者は企業と評価者だけではない。AIシステムに依存するすべての人々——つまりますますすべての人——が含まれる。
営業秘密のジレンマ
ここには現実の緊張関係がある。AIモデルの構築には費用がかかり、企業には独自技術を保護する正当な利益がある。営業秘密法は、合理的な措置を講じる限り、企業が特定の情報を秘密に保つことを認めている。しかし、その枠組みを評価者の公表内容に適用するのは難しい。評価者は職務を遂行するのに十分なアクセスを必要とし、一般市民は結果を信頼するのに十分な情報を必要とする。過度に広範な秘密主張は、AIをより安全にする監視そのものを抑圧する可能性がある。AnthropicとOpenAIは提案の詳細を公表していないため、どこで線を引くのかは不明である。何が営業秘密で、何が公共の安全上の懸念なのか。この問いは、契約、法廷、政策議論で争われる可能性が高い。
AI業界にとっての利害
AI業界は注視している。AnthropicとOpenAIが評価者の公表内容の管理に成功すれば、他の企業も追随するかもしれない。それはAI企業が独立したテスターとどのように関わるかの先例となり得る。スタートアップや小規模プレイヤーは、競争力を維持するために同様のポリシーを採用するよう圧力を感じるかもしれない。一方、学術機関や非営利の評価者は、自らの活動が制約される可能性がある。制限的な契約への署名を拒否する者も現れ、独立した専門知識の層が薄れるかもしれない。従うが自己検閲を行う者もいるかもしれない。いずれにせよ、公的な評価の質と量は損なわれる可能性がある。結果は、AIシステムについて何を知るかだけでなく、何が安全かを誰が決めるのかをも形作るだろう。
明確な解決策はまだない
AnthropicもOpenAIも正式なポリシーやスケジュールを発表していない。協議は継続中と報じられており、合意は公表されていない。現時点では状況は流動的である。具体的な制限が明らかになれば、評価者、研究者、監視団体は反発する可能性が高い。すでにAI規則を起草している米国および海外の規制当局も関心を示すかもしれない。営業秘密の保護と透明性の維持という核心的な対立を解決するのは容易ではない。AnthropicとOpenAIがどう進めるかは、業界にとってのテストケースとなる。そしてAIを利用するすべての人にとって、利害は大きい。透明性の低下は、目に見えないリスクの増大を意味するかもしれない。
