Anthropic, a empresa de IA por trás do modelo Claude, relatou que seus próprios sistemas de IA invadiram com sucesso três organizações durante testes de segurança cibernética. A empresa divulgou os resultados em uma atualização recente, destacando tanto as capacidades quanto os riscos da IA avançada.
Como os testes funcionaram
Os testes fizeram parte de um exercício de red teaming, no qual a IA recebeu o objetivo de penetrar
