Blackshear가 맡게 될 업무
Anthropic에서 Blackshear는 방어적 보안 — 시스템의 결함을 찾기보다 시스템을 보호하는 데 초점을 맞춘 사이버보안 분야 — 에 집중할 예정이다. 이 역할은 대규모 언어 모델을 오용하거나 공격하기 어렵게 만드는 작업을 수행하는 회사의 안전 연구 그룹 내에 위치한다.
Blackshear는 Sui 블록체인의 개발사인 Mysten Labs의 핵심 인물이었다. 그는 스마트 계약의 안전성과 검증 가능성을 강조하는 Move 프로그래밍 언어 설계에 기여했다. 설계 단계부터 보안을 고려한 시스템을 구축해온 이러한 배경이 Anthropic의 관심을 끌었을 것으로 보인다.
이번 이동이 중요한 이유
Anthropic은 안전 노력을 확대하면서 깊은 기술적 배경을 가진 연구자들을 지속적으로 영입해 왔다. 회사의 대표 모델인 Claude는 유용성과 무해성의 원칙을 기반으로 구축되었다. 블록체인 코드의 취약성을 줄이는 방법에 수년간 고민해온 인물을 영입한 것은 Anthropic이 전통적인 AI 안전 방법을 넘어서고 있음을 시사한다.
Anthropic의 방어적 보안 연구는 적대적 공격에 대한 모델 강화, 데이터 유출 방지, 또는 모델이 유해한 방식으로 사용되는 것을 막는 가드레일 구축을 포함할 수 있다. 형식 검증과 안전한 프로그래밍 언어에 대한 Blackshear의 경험은 이러한 의제에 부합한다.
Mysten Labs는 Blackshear의 이탈과 그의 책임을 인수할 인물에 대한 논평 요청에 즉시 응답하지 않았다.
Blackshear는 앞으로 몇 주 안에 Anthropic에서 근무를 시작할 예정이다. 회사는 그가 팀을 이끌지, 개인 기여자로 활동할지에 대해서는 밝히지 않았다. 그의 영입은 보안이 최우선 관심사인 블록체인과 암호학 같은 인접 분야의 엔지니어를 데려오려는 AI 연구
