도널드 트럼프 전 대통령이 실리콘밸리와의 획기적인 협약의 일환으로 AI 안전을 위한 독립적 감사를 지지하며, 새로운 법안보다 자율규제를 선호하는 입장을 보였다. 이번 주 발표된 이 협약은 미국의 인공지능 거버넌스 접근 방식에 변화를 의미하며, 대통령이 법적 규제보다 자발적 검토를 지지하고 나선 것이다.
이 협약은 새로운 기관이나 집행 권한을 만들지 않는다. 대신 기업들이 AI 시스템에 대한 외부 감사를 받고, 스스로 작성에 참여한 안전 가이드라인을 따르도록 요청한다. 이러한 접근 방식은 과도한 규제를 우려하는 업계 리더들의 지지를 받았지만, 누가 감사를 수행하고 기업이 감사를 통과하지 못하면 어떻게 될지에 대한 의문은 남아 있다.
자율규제를 향한 움직임
트럼프의 지지는 실리콘밸리에서 열린 기술 경영진과의 회의에서 나왔다고 사정에 정통한 소식통들이 전했다. 대통령은 엄격한 AI 규칙이 혁신을 해외, 특히 중국으로 밀어낼 수 있다고 반복해서 경고해 왔다. 법안 대신 감사를 지지함으로써 그는 업계에서 인기 있는 시각, 즉 기업이 스스로를 규제하고 외부 검증을 받도록 하자는 입장과 궤를 같이하고 있다.
이 협약은 AI 개발자들이 자발적으로 안전 기준을 채택하고 시스템을 독립적 검토에 개방해야 한다고 강조한다. 불이행에 대한 처벌이나 참여 의무는 명시하지 않는다. 이는 구속력 있는 요구사항과 벌금을 추진해 온 의회와 유럽연합의 제안과는 다른 방향이다.
협약의 실제 내용
세부 사항은 아직 미흡하다. 구속력 있는 계약이 아닌 일련의 원칙으로 설명되는 이 협약은 편향, 보안 취약점, 잠재적 오용과 같은 위험을 평가하기 위한 독립적 감사를 요구한다. 또한 기업들이 모범 사례를 공유하고 내부 안전 팀을 구성하도록 장려한다.
그러나 누가 감사를 수행할지는 불분명하다. 독립적인 회사들이 존재하지만, 그들 자체가 규제를 받지는 않는다. 그리고 법적 효력이 없으면 기업들은 아무런 결과 없이 협약을 무시할 수 있다. 지지자들은 대중의 압력과 평판 리스크가 기업들을 준수하게 만들 것이라고 주장한다. 비판자들은 이미 경제와 군대를 재편하고 있는 기술에 그것만으로는 충분하지 않다고 말한다.
이 협약은 AI를 훨씬 넘어 기술 거버넌스의 선례가 될 수 있다. 자율규제가 여기서 효과를 발휘하면 양자 컴퓨팅에서 생명공학에 이르기까지 다른 신흥 기술의 모델이 될 수 있다. 실패하면 더 강력한 법을 요구하는 목소리가 커질 수 있다.
트럼프의 개입은 AI 정책이 다가오는 선거에서 정치적 이슈가 될 것임을 시사한다. 그는 가벼운 규제 접근이 기술 기부자들과 정부 과잉 개입을 우려하는 유권자 모두에게 어필할 것이라는 데 베팅하고 있다. 그 베팅이 성공할지는 감사가 신뢰할 만한 결과를 내놓는지, 그리고 대중이 이를 신뢰하는지에 달려 있다.
현재로서는 이 협약은 의도 선언에 불과하다. 서명한 기업들은 독립 감사관들이 작업을 시작할 때 첫 시험대에 오르게 되며, 이는 아마도 내년 내에 이루어질 것이다. 백악관은 준수 여부를 어떻게 추적할지, 감사 결과를 공개할지 여부를 밝히지 않았다.
한편 의회는 여전히 자체 AI 법안을 고려 중이다. 일부 의원들은 자율규제 접근이 너무 약하다고 비판해 왔으며, 감사가 성과를 내지 못하면 법안을 추진할 수 있다. 기술 업계는 이를 예의주시하고 있다. 많은 기업이 새로운 법이라는 대안보다 이 협약을 선호하지만, 세간의 이목을 끄는 실패가 바로 그 법을 초래할 수 있다는 것도 알고 있다.
다음 구체적인 단계는? 첫 번째 감사 라운드와 주요 AI 기업이 참여를 거부하는지 여부를 지켜보라. 그것이 이 협약에 실효성이 있는지, 아니면 또 하나의 보도자료에 불과한지를 보여줄 것이다.
