Su cosa lavorerà Blackshear
Ad Anthropic, Blackshear si concentrerà sulla sicurezza difensiva — il lato della cybersecurity che mira a proteggere i sistemi piuttosto che trovarne i difetti. Il ruolo è all'interno del gruppo di ricerca sulla sicurezza dell'azienda, che lavora per rendere i modelli linguistici di grandi dimensioni più difficili da abusare o attaccare.
Blackshear è stato una figura chiave in Mysten Labs, lo sviluppatore dietro la blockchain Sui. Ha contribuito a progettare il linguaggio di programmazione Move, che enfatizza la sicurezza e la verificabilità nei contratti intelligenti. Questo background nella costruzione di sistemi sicuri per progettazione è probabilmente ciò che ha attirato l'attenzione di Anthropic.
Perché il trasferimento è importante
Anthropic ha assunto ricercatori con solide competenze tecniche mentre amplia i suoi sforzi sulla sicurezza. Il modello di punta dell'azienda, Claude, è costruito attorno ai principi di utilità e innocuità. Aggiungere qualcuno che ha passato anni a pensare a come rendere il codice blockchain meno vulnerabile suggerisce che Anthropic stia guardando oltre i metodi tradizionali di sicurezza dell'IA.
La ricerca sulla sicurezza difensiva in Anthropic potrebbe comportare l'indurimento dei modelli contro attacchi avversari, la prevenzione di fughe di dati o la creazione di salvaguardie che impediscano l'uso dannoso dei modelli. L'esperienza di Blackshear con la verifica formale e i linguaggi di
