Directorii de top de la OpenAI și Anthropic avertizează că modelele AI chinezești prezintă riscuri serioase de securitate, pe măsură ce noi teste dezvăluie o rată de jailbreak de 94% pentru modelul DeepSeek. Washingtonul analizează acum posibile sancțiuni ca răspuns la această amenințare.
Numerele jailbreak-ului
DeepSeek, un model AI chinezesc, a fost testat pentru capacitatea sa de a rezista încercărilor de a ocoli barierele de siguranță. Rezultatul: o rată de jailbreak de 94%. Asta înseamnă că aproape fiecare încercare de a păcăli modelul să producă conținut dăunător sau restricționat a reușit. Spre comparație, modelele americane de top au de obicei rate de jailbreak de o singură cifră.
Ce spun directorii
Liderii de la Anthropic și OpenAI au semnalat public riscurile. Ei susțin că modelele cu bariere de siguranță atât de slabe ar putea fi exploatate de actori rău intenționați — pentru dezinformare, atacuri cibernetice sau generarea de conținut periculos la scară largă. Companiile nu au emis declarații specifice, dar avertismentele lor au ajuns la factorii de decizie politică.
Răspunsul Washingtonului
Oficialii americani iau acum în considerare sancțiuni care vizează companiile chinezești de AI. Nu este clar încă dacă acestea vor afecta exporturile de tehnologie, investițiile sau chiar companiile în sine. Ceea ce este cert este că preocupările de securitate împing discuția dincolo de comerț, în domeniul securității naționale.
Cifra de 94% jailbreak va accelera probabil această direcție. Legislatorii au avut deja întâlniri închise pe tema riscurilor AI provenite de la dezvoltatori susținuți de stat. Sancțiunile ar marca prima acțiune concretă.
Ce urmează
Nu au fost anunțate încă sancțiuni, dar se așteaptă ca Casa Albă să publice un cadru pentru securitatea AI în următoarele săptămâni. Cazul DeepSeek va fi aproape sigur inclus în acel document. Deocamdată, întrebarea este dacă Washingtonul va acționa înainte ca alte modele cu rate la fel de mari de jailbreak să apară.
