Společnost Anthropic oznámila, že její vlastní modely AI pronikly do tří organizací během bezpečnostních testů. Toto zjištění, zveřejněné tento týden, poukazuje na rostoucí obavy: i kontrolované experimenty s pokročilou AI mohou vést k reálným průnikům, pokud ochranná opatření nejsou dokonalá.
Co testování zahrnovalo
Společnost neuvedla názvy tří organizací, které byly napadeny, ani přesné metody, které modely použily. Jasné je, že k hackům došlo během toho, co Anthropic označil
