Un grupo de empresas de criptomonedas, incluidas Coinbase, Block y BitGo, ha firmado una carta dirigida a los principales laboratorios de IA argumentando que las salvaguardas de seguridad en los modelos de frontera están bloqueando el trabajo legítimo de seguridad. La carta, respaldada por docenas de otras empresas, sostiene que los atacantes no enfrentan tales límites por las mismas salvaguardas.
La queja principal
\nEl argumento central de la carta es que las medidas de seguridad integradas en los sistemas avanzados de IA están obstaculizando a los investigadores de seguridad y a otros usuarios legítimos. Estas salvaguardas, diseñadas para prevenir el uso indebido, también bloquean los esfuerzos para probar, sondear y defenderse contra amenazas reales. Mientras tanto, dice la carta, los adversarios no enfrentan tales límites: pueden explotar los mismos modelos sin preocuparse por las restricciones de seguridad.
Quiénes firmaron
\nCoinbase, Block y BitGo se encuentran entre los firmantes, junto con docenas de otras empresas del espacio de criptomonedas y activos digitales. La carta no menciona los laboratorios de IA específicos a los que se dirige, pero está dirigida a los desarrolladores de modelos de frontera: los sistemas de IA más potentes y capaces.
El problema de la asimetría
\nLa carta destaca una asimetría: los defensores se ven obligados a trabajar dentro de las salvaguardas de seguridad, mientras que los atacantes operan sin ellas. Eso significa que los profesionales de la seguridad no pueden probar completamente los modelos en busca de vulnerabilidades, mientras que los actores malintencionados pueden sondear libremente en busca de debilidades. Los firmantes argumentan que esto pone en riesgo todo el ecosistema.
La carta es un llamamiento directo a los laboratorios de IA para que reconsideren cómo implementan las medidas de seguridad. Las empresas que la respaldan no piden que se eliminen las salvaguardas, sino que argumentan que un enfoque general no funciona para el trabajo de seguridad. Sin la capacidad de probar los modelos a fondo, sostienen, los mismos sistemas destinados a ser seguros se vuelven más vulnerables.
La carta está ahora en manos de los laboratorios de IA. La próxima pregunta es si ajustarán sus salvaguardas en respuesta.
