Apa yang akan dikerjakan Blackshear
Di Anthropic, Blackshear akan fokus pada keamanan defensif — sisi keamanan siber yang bertujuan melindungi sistem daripada mencari celah di dalamnya. Peran ini berada di dalam kelompok riset keselamatan perusahaan, yang bekerja untuk membuat model bahasa besar lebih sulit disalahgunakan atau diserang.
Blackshear adalah tokoh kunci di Mysten Labs, pengembang di balik blockchain Sui. Ia membantu merancang bahasa pemrograman Move, yang menekankan keamanan dan keterverifikasian dalam kontrak pintar. Latar belakang dalam membangun sistem yang aman sejak desain inilah yang kemungkinan menarik perhatian Anthropic.
Mengapa perpindahan ini penting
Anthropic telah merekrut peneliti dengan latar belakang teknis yang mendalam seiring meningkatnya upaya keselamatan mereka. Model unggulan perusahaan, Claude, dibangun di sekitar prinsip membantu dan tidak berbahaya. Menambahkan seseorang yang menghabiskan bertahun-tahun memikirkan cara membuat kode blockchain kurang rentan menunjukkan bahwa Anthropic melihat melampaui metode keselamatan AI tradisional.
Riset keamanan defensif di Anthropic dapat melibatkan penguatan model terhadap serangan adversarial, mencegah kebocoran data, atau membangun pagar pengaman yang menghentikan model digunakan dengan cara yang berbahaya. Pengalaman Blackshear dengan verifikasi formal dan bahasa pemrograman yang aman sesuai dengan agenda tersebut.
Mysten Labs tidak segera menanggapi permintaan komentar tentang kepergian Blackshear atau siapa yang akan mengambil alih tanggung jawabnya.
Blackshear diharapkan mulai bekerja di Anthropic dalam beberapa minggu mendatang. Perusahaan belum menyatakan apakah ia akan memimpin tim atau bekerja sebagai kontributor individu. Perekrutannya adalah bagian dari dorongan yang
