En qué trabajará Blackshear
En Anthropic, Blackshear se centrará en la seguridad defensiva, el lado de la ciberseguridad que busca proteger los sistemas en lugar de encontrar fallos en ellos. El puesto se encuentra dentro del grupo de investigación de seguridad de la empresa, que trabaja para que los modelos de lenguaje de gran tamaño sean más difíciles de malutilizar o atacar.
Blackshear fue una figura clave en Mysten Labs, el desarrollador detrás de la blockchain Sui. Ayudó a diseñar el lenguaje de programación Move, que enfatiza la seguridad y la verificabilidad en los contratos inteligentes. Esa experiencia en la construcción de sistemas seguros por diseño es probablemente lo que llamó la atención de Anthropic.
Por qué importa este movimiento
Anthropic ha estado contratando investigadores con sólidos antecedentes técnicos mientras amplía sus esfuerzos de seguridad. El modelo insignia de la empresa, Claude, se basa en principios de utilidad e inocuidad. Añadir a alguien que pasó años pensando en cómo hacer que el código blockchain sea menos vulnerable sugiere que Anthropic está mirando más allá de los métodos tradicionales de seguridad de la IA.
La investigación de seguridad defensiva en Anthropic podría implicar endurecer los modelos contra ataques adversarios, prevenir fugas de datos o construir salvaguardas que impidan que los modelos se utilicen de manera dañina. La experiencia de Blackshear con la verificación formal y los lenguajes de programación seguros encaja con esa agenda.
Mysten Labs no respondió de inmediato a una solicitud de comentarios sobre la salida de Blackshear o quién asumirá sus responsabilidades.
Se espera que Blackshear comience en Anthropic en las próximas semanas. La empresa no ha dicho si liderará un equipo o trabajará como contrib
