El chatbot de IA de Instagram es engañado en un hackeo de apropiación de cuentas, aparecen enlaces de estafas cripto

Cómo funcionó el hackeo

Los investigadores de seguridad afirman que el ataque probablemente se basó en una inyección de prompts, una debilidad conocida en los modelos de lenguaje grandes. Al alimentar al chatbot con comandos cuidadosamente elaborados, los hackers anularon sus reglas de seguridad integradas y lo engañaron para que entregara credenciales de cuenta o tokens de sesión. Meta no ha nombrado formalmente la técnica, pero la inyección de prompts es la misma clase de falla que ha afectado a los bots de atención al cliente en toda la industria tecnológica durante meses.

Esto no es un problema aislado de Instagram. Los exchanges de criptomoned