소식통에 따르면 Anthropic과 OpenAI가 평가자 발표에 대한 통제권을 확보하려 하고 있다. 이 두 선도적인 AI 기업은 독립 평가자들이 자사 모델에 대해 발표할 수 있는 내용에 발언권을 갖기를 원한다. 이 움직임은 AI 업계의 투명성과 신뢰를 훼손할 수 있다는 우려를 불러일으켰으며, 영업 비밀에 관한 까다로운 질문을 제기한다.
평가자 발표 통제 추진
평가자—종종 제3자 연구자나 기관—는 AI 시스템의 안전성, 편향성, 성능을 테스트한다. 이들의 연구 결과는 일반적으로 공개적으로 발표되어 대중, 규제 기관, 다른 기업들이 기술을 평가할 수 있게 한다. 그러나 Anthropic과 OpenAI는 이제 발표되는 내용에 더 많은 통제권을 행사하려 한다고 한다. 정확한 메커니즘은 불분명하다: 계약, 검토 절차, 또는 특정 세부 사항 발표 제한이 포함될 수 있다. 두 회사 모두 영업 비밀 보호의 필요성을 강조하며, 무제한 공개는 경쟁사에 이점을 줄 수 있거나 민감한 방법을 드러낼 수 있다고 주장한다. 그러나 같은 비밀 유지가 결함을 숨길 수도 있다.
AI 신뢰와 혁신에 투명성이 중요한 이유
투명성은 AI 연구의 초석이었다. 평가자들이 방법과 결과를 발표하면 다른 사람들이 테스트를 재현하고, 약점을 발견하고, 성공 사례를 바탕으로 발전시킬 수 있다. 이러한 순환이 혁신을 주도하고 대중의 신뢰를 구축한다. 기업이 평가자 발표를 거부하거나 조작할 수 있다면 그 순환은 무너진다. 독립 연구자들은 반발을 두려워하여 문제를 지적하기를 주저할 수 있다. 사용자들은 위험을 너무 늦게 알게 될 수 있다. 그리고 이미 AI 속도를 따라잡기 어려운 규제 기관들은 활용할 자료가 줄어들 것이다. 영향을 받는 당사자는 기업과 평가자뿐만 아니라 AI 시스템에 의존하는 모든 사람—점점 더 모든 사람—을 포함한다.
영업 비밀 딜레마
여기에는 실제 긴장이 존재한다. AI 모델은 구축 비용이 많이 들고, 기업은 독점 기술을 보호할 정당한 이익이 있다. 영업 비밀법은 기업이 합리적인 조치를 취하는 한 특정 정보를 기밀로 유지할 수 있게 한다. 그러나 그 틀을 평가자 발표에 적용하는 것은 까다롭다. 평가자들은 업무를 수행할 충분한 접근 권한이 필요하고, 대중은 결과를 신뢰할 충분한 정보가 필요하다. 지나치게 광범위한 비밀 주장은 AI를 더 안전하게 만드는 바로 그 검증을 억제할 수 있다. Anthropic과 OpenAI는 제안을 공개적으로 상세히 밝히지 않았으므로 어디에 선을 그을지 불분명하다. 무엇이 영업 비밀이고 무엇이 공공 안전 문제인가? 이 질문은 계약, 법원, 정책 논쟁에서 다투어질 가능성이 높다.
AI 업계의 이해관계
AI 업계는 예의주시하고 있다. Anthropic과 OpenAI가 평가자 발표 통제에 성공하면 다른 기업들도 따를 수 있다. 이는 AI 기업이 독립 테스터와 상호작용하는 방식에 선례를 남길 수 있다. 스타트업과 소규모 업체들은 경쟁력을 유지하기 위해 유사한 정책을 채택하라는 압력을 느낄 수 있다. 한편 학계와 비영리 평가자들은 업무가 제약받을 수 있다. 일부는 제한적 계약 서명을 거부하여 독립 전문성 풀이 줄어들 수 있다. 다른 이들은 따르되 자기 검열을 할 수 있다. 어느 쪽이든 공개 평가의 질과 양이 저하될 수 있다. 결과는 우리가 AI 시스템에 대해 아는 것뿐만 아니라 누가 안전을 결정하는지를 형성할 것이다.
아직 명확한 해결책 없어
Anthropic도 OpenAI도 공식 정책이나 일정을 발표하지 않았다. 논의는 계속 진행 중이며 공개된 합의는 없다. 현재 상황은 유동적이다. 구체적인 제한이 나타나면 평가자, 연구자, 감시 단체들이 반발할 가능성이 높다. 이미 AI 규칙을 초안 작성 중인 미국과 해외 규제 기관들도 관심을 보일 수 있다. 핵심 갈등—영업 비밀 보호와 투명성 유지 사이—은 해결하기 쉽지 않다. Anthropic과 OpenAI의 진행 방식은 업계의 시험대가 될 것이다. 그리고 AI를 사용하는 모든 사람에게 위험은 크다: 투명성이 줄어들면 보이지 않는 위험이 커질 수 있다.
