Casa Albă a încetat să mai publice rapoarte ale unității sale de testare a inteligenței artificiale, invocând motive de securitate națională. Decizia elimină o fereastră importantă prin care guvernul federal evalua fiabilitatea și siguranța sistemelor de IA înainte de implementare.
Rațiunea de securitate din spatele deciziei
Oficialii au declarat că rapoartele conțineau informații care ar putea fi exploatate de adversari sau utilizate abuziv pentru a submina integritatea tehnologiei. Măsura înăsprește efectiv fluxul de detalii tehnice despre vulnerabilități și rezultatele testelor, care erau distribuite periodic publicului. Nu a fost oferit un termen pentru reluarea rapoartelor.
Ce face unitatea
Unitatea de testare a fost creată pentru a evalua modelele de IA în privința riscurilor precum prejudecățile, dezinformarea și defectele de securitate. Rapoartele sale publice deveniseră o sursă rară de date neproprietare despre performanța sistemelor de IA de top sub stres. Cercetătorii și organizațiile societății civile se bazau pe aceste documente pentru a trage companiile la răspundere și pentru a informa dezbaterile politice mai ample.
Criticii suspendării susțin că transparența este esențială pentru construirea încrederii în guvernanța IA. Fără evaluări publice regulate, experții externi pierd o metodă directă de a verifica propriile concluzii de siguranță ale guvernului. Casa Albă nu a precizat dacă va înlocui rapoartele publice cu un briefing clasificat sau cu un alt format care să permită totuși o examinare independentă.
Decizia lasă o întrebare simplă fără răspuns: cum va ști publicul ce știe guvernul despre riscurile pe care le prezintă sistemele de IA pe care le testează?
