Ujian oleh Financial Times mendedahkan kawalan keselamatan AI Meta dan Google boleh dipintas dalam beberapa minit. Penemuan ini mencabar dakwaan tentang keteguhan perlindungan semasa.
Metodologi Ujian
Wartawan menggunakan input standard untuk mendorong model menghasilkan kandungan berbahaya. Mereka menguji alat AI awam kedua-dua syarikat dalam keadaan biasa. Pintasan berlaku tanpa kemahiran teknikal khusus.
Respons Platform
Meta menyatakan ia sentiasa mengemas kini sistemnya dan telah menambah sekatan baharu sejak ujian itu. Google pula menyatakan ia menggunakan pelbagai lapisan keselamatan dan menangani isu dengan pantas apabila ditemui. Kedua-dua syarikat tidak mempertikaikan penemuan FT.
Tekanan Kawal Selia
Tarikh akhir pematuhan Akta AI EU pada Oktober 2024 semakin hampir. Pengawal selia kini menunjuk kepada ujian ini sebagai bukti bahawa polis kendiri industri semasa gagal. Penggubal undang-undang di Brussels sedang meneliti laporan itu untuk tindakan penguatkuasaan yang mungkin.
Pendedahan Risiko Pengguna
Output yang tidak ditapis termasuk nasihat berbahaya dan maklumat palsu. Alat yang terjejas digunakan secara meluas oleh pengguna dan pembangun. Syarikat menegaskan kebanyakan pengguna tidak akan menghadapi isu ini semasa penggunaan biasa.
Ujian Financial Times menunjukkan betapa mudahnya perlindungan AI semasa boleh diatasi. Sekarang syarikat-syarikat ini mesti membaiki jurang tersebut sebelum tarikh akhir Oktober EU tiba.
