CertiK CEO Ronghui Gu는 대규모 AI 에이전트 배포에 대한 성급한 움직임에 경종을 울리고 있다. 최근 성명에서 Gu는 적절한 안전장치 없이 이러한 자율 시스템이 광범위하게 사용될 경우, 특히 민감한 개인 데이터와 디지털 자산을 처리할 때 보안 재앙을 촉발할 수 있다고 경고했다.
왜 지금 이 경고가 중요한가
AI 에이전트(사용자를 대신해 독립적으로 작동하는 소프트웨어 프로그램)는 고객 서비스부터 암호화폐 지갑에 이르기까지 모든 분야에 통합되고 있다. 그러나 블록체인 및 스마트 계약 보안을 전문으로 하는 Gu의 회사는 배포 속도가 이를 통제하는 데 필요한 보안 조치를 앞지르고 있다고 주장한다. 그는 특히 테스트 중에 에이전트가 적절히 격리되지 않을 경우 무단 액세스 위험을 지적했다.
격리 없이 단일 에이전트가 손상되면 수백만 건의 사용자 기록이 노출되거나 디지털 지갑이 비워질 수 있다. Gu는 특정 사건을 언급하지 않았지만, 그의 발언은 기업들이 AI 에이전트를 금융 및 개인 데이터 시스템에 빠르게 통합하기 위해 경쟁하는 시점에 나왔다.
격리를 통한 안전장치
Gu는 개발자들이 테스트 중에 AI 에이전트를 별도의 격리된 환경에 가둘 것을 권장한다. 이러한 샌드박싱 접근 방식은 에이전트의 동작이 완전히 검증될 때까지 라이브 데이터베이스, 개인 키 또는 기타 민감한 인프라에 접근하는 것을 방지한다. “AI 에이전트의 대규모 배포는 상당한 위험을 초래한다.” Gu는 각 팀이 에이전트가 안전하다고 입증될 때까지 잠재적 위협 벡터로 취급할 것을 촉구했다.
이 권장 사항은 이미 소프트웨어 보안에서 일반적인 관행(예: 신뢰할 수 없는 코드를 가상 머신에서 실행)을 반영하지만, 이를 자율 AI의 고유한 과제에 적용한 것이다. 에이전트가 독립적으로 행동할 수 있기 때문에 테스트 중에 악용된 결함이 부분적인 네트워크 접근만 있어도 현실 세계의 피해로 이어질 수 있다.
업계가 직면한 과제
현재로서는 AI 에이전트 테스트를 위한 보편적인 표준이 없다. 많은 기업이 최소한의 보호 장치만으로 에이전트를 바로 프로덕션에 배포하며, 이점이 위험보다 크다는 판단을 내리고 있다. Gu의 경고는 그러한 판단이 역효과를 낼 수 있음을 시사한다. 그는 특정 회사나 제품을 언급하지 않았지만, 메시지는 명확하다: 에이전트가 보편화되기 전에 보안 업계가 따라잡아야 한다는 것이다.
CertiK 자체는 스마트 계약 및 블록체인 시스템을 감사하는 도구를 구축했으며, Gu의 격리 요구는 AI 에이전트 개발에서도 유사한 엄격함을 추진하려는 더 넓은 움직임을 암시할 수 있다. 개발자들이 이 관행을 채택할지는 여전히 미지수다.
Gu의 메시지는 간단하다: 라이브 데이터에 풀어놓기 전에 상자 안에서 에이전트를 테스트하라는 것이다. AI를 배포하기 위해 경쟁하는 기업들에게, 격리를 위한 그 멈춤은 유용한 도구와 값비싼 침해 사고 사이의 차이가 될 수 있다.
