Sam Blackshear, pengasas bersama Mysten Labs, telah berpindah ke Anthropic untuk menjalankan penyelidikan keselamatan pertahanan. Perpindahan ini, yang disahkan oleh syarikat, membawa seorang veteran infrastruktur blockchain ke dalam ruang keselamatan AI.
Apa yang Blackshear akan kerjakan
Di Anthropic, Blackshear akan memberi tumpuan kepada keselamatan pertahanan — bahagian keselamatan siber yang bertujuan melindungi sistem daripada mencari kelemahan di dalamnya. Peranan ini terletak dalam kumpulan penyelidikan keselamatan syarikat, yang berusaha menjadikan model bahasa besar lebih sukar untuk disalahgunakan atau diserang.
Blackshear merupakan tokoh penting di Mysten Labs, pemaju di sebalik blockchain Sui. Beliau membantu mereka bentuk bahasa pengaturcaraan Move, yang menekankan keselamatan dan kebolehpengesahan dalam kontrak pintar. Latar belakang dalam membina sistem yang selamat sejak reka bentuk inilah yang mungkin menarik perhatian Anthropic.
Mengapa perpindahan ini penting
Anthropic telah menggaji penyelidik dengan latar belakang teknikal yang mendalam semasa ia meningkatkan usaha keselamatannya. Model utama syarikat, Claude, dibina berdasarkan prinsip membantu dan tidak berbahaya. Menambah seseorang yang menghabiskan bertahun-tahun memikirkan cara menjadikan kod blockchain kurang terdedah menunjukkan Anthropic melihat melangkaui kaedah keselamatan AI tradisional.
Penyelidikan keselamatan pertahanan di Anthropic mungkin melibatkan pengerasan model terhadap serangan adversari, mencegah kebocoran data, atau membina penghadang yang menghalang model daripada digunakan dengan cara yang berbahaya. Pengalaman Blackshear dengan pengesahan formal dan bahasa pengaturcaraan selamat sesuai dengan agenda tersebut.
Mysten Labs tidak segera memberi respons kepada permintaan untuk komen mengenai pemergian Blackshear atau siapa yang akan mengambil alih tanggungjawabnya.
Blackshear dijangka memulakan tugas di Anthropic dalam beberapa minggu akan datang. Syarikat tidak menyatakan sama ada beliau akan mengetuai pasukan atau bekerja sebagai penyumbang individu. Pengambilannya adalah sebahagian daripada dorongan lebih luas oleh makmal AI untuk membawa masuk jurutera dari bidang berkaitan seperti blockchain dan kriptografi, di mana keselamatan menjadi keutamaan utama.
