Anthropic과 OpenAI의 고위 경영진이 중국 AI 모델이 심각한 보안 위험을 초래한다고 경고하고 있다. 새로운 테스트 결과 딥시크(DeepSeek) 모델의 탈옥률이 94%에 달하는 것으로 나타났기 때문이다. 워싱턴은 이 위협에 대응해 제재를 검토 중이다.
탈옥 수치
중국 AI 모델인 딥시크는 안전장치를 우회하려는 시도에 대한 저항 능력을 테스트받았다. 결과: 탈옥률 94%. 즉, 모델을 속여 유해하거나 제한된 콘텐츠를 생성하려는 거의 모든 시도가 성공했다는 뜻이다. 비교를 위해, 주요 미국 모델은 일반적으로 한 자릿수 탈옥률을 보인다.
경영진의 발언
Anthropic과 OpenAI의 리더들은 공개적으로 위험을 지적했다. 이들은 이렇게 취약한 안전장치를 가진 모델이 악의적인 행위자에 의해 허위 정보 유포, 사이버 공격, 또는 위험한 콘텐츠 대량 생성에 악용될 수 있다고 주장한다. 두 회사는 구체적인 성명을 발표하지 않았지만, 그들의 경고는 정책 입안자들에게 전달되었다.
워싱턴의 대응
미국 관료들은 현재 중국 AI 기업을 겨냥한 제재를 고려하고 있다. 정확한 범위는 아직 명확하지 않다. 모델 수출, 훈련 인프라, 또는 기업 자체를 겨냥할지 여부다. 확실한 것은 보안 우려가 논의를 무역을 넘어 국가 안보로 확장시키고 있다는 점이다.
94% 탈옥률 수치는 이러한 움직임을 가속화할 가능성이 크다. 의원들은 이미 국가 지원 개발자의 AI 위험에 관한 비공개 브리핑을 진행했다. 제재는 첫 번째 구체적 조치가 될 것이다.
향후 전망
아직 제재가 발표되지는 않았지만, 백악관은 향후 몇 주 내에 AI 보안에 관한 프레임워크를 발표할 예정이다. 딥시크 사례는 이 문서에 거의 확실히 포함될 것이다. 현재로서는 워싱턴이 이와 유사한 높은 탈옥률을 가진 더 많은 모델이 등장하기 전에 행동에 나설지가 관건이다.
