สิ่งที่ Blackshear จะทำ
ที่ Anthropic แบล็คเชียร์จะมุ่งเน้นไปที่ความปลอดภัยเชิงป้องกัน ซึ่งเป็นด้านของความปลอดภัยทางไซเบอร์ที่มุ่งปกป้องระบบมากกว่าการหาจุดบกพร่อง บทบาทนี้อยู่ในกลุ่มวิจัยความปลอดภัยของบริษัท ซึ่งทำงานเพื่อทำให้โมเดลภาษาขนาดใหญ่ถูกนำไปใช้ในทางที่ผิดหรือถูกโจมตีได้ยากขึ้น
แบล็คเชียร์เป็นบุคคลสำคัญที่ Mysten Labs ซึ่งเป็นผู้พัฒนา blockchain Sui เขาช่วยออกแบบภาษาโปรแกรม Move ที่เน้นความปลอดภัยและความสามารถในการตรวจสอบในสัญญาอัจฉริยะ ประสบการณ์ในการสร้างระบบที่ปลอดภัยโดยการออกแบบนี้อาจเป็นสิ่งที่ดึงดูดความสนใจของ Anthropic
เหตุใดการย้ายครั้งนี้จึงสำคัญ
Anthropic ได้จ้างนักวิจัยที่มีพื้นฐานทางเทคนิคเชิงลึกอย่างต่อเนื่องในขณะที่ขยายความพยายามด้านความปลอดภัย โมเดลหลักของบริษัทอย่าง Claude สร้างขึ้นบนหลักการของการเป็นประโยชน์และไม่ก่อให้เกิดอันตราย การเพิ่มคนที่ใช้เวลาหลายปีคิดหาวิธีทำให้โค้ดบล็อกเชนเสี่ยงน้อยลง แสดงให้เห็นว่า Anthropic กำลังมองหาวิธีการที่เกินกว่าวิธีการความปลอดภัย AI แบบดั้งเดิม
การวิจัยความปลอดภัยเชิงป้องกันที่ Anthropic อาจเกี่ยวข้องกับการทำให้โมเดลแข็งแกร่งต่อการโจมตีแบบ adversarial การป้องกันการรั่วไหลของข้อมูล หรือการสร้างแนวป้องกันที่หยุดยั้งการนำโมเด
