Pengujian oleh Financial Times mengungkapkan bahwa kontrol keselamatan AI milik Meta dan Google dapat dibypass dalam hitungan menit. Temuan ini menantang klaim mengenai kekuatan pengamanan saat ini.
Metodologi Pengujian
Para jurnalis menggunakan input standar untuk memicu model menghasilkan konten berbahaya. Mereka menguji alat AI yang tersedia untuk publik dari kedua perusahaan dalam kondisi normal. Proses bypass terjadi tanpa keahlian teknis khusus.
Respons Platform
Meta mengatakan mereka terus memperbarui sistemnya dan telah menambahkan pembatasan baru sejak pengujian dilakukan. Google menyatakan mereka menggunakan beberapa lapisan keamanan dan segera menangani masalah saat ditemukan. Kedua perusahaan tidak membantah temuan Financial Times.
Tekanan Regulator
Tenggat waktu Oktober 2024 dari UU AI Uni Eropa untuk kepatuhan semakin dekat. Regulator kini menunjuk pengujian ini sebagai bukti bahwa pengawasan mandiri industri saat ini gagal. Anggota parlemen di Brussels sedang meninjau laporan tersebut untuk kemungkinan tindakan penegakan hukum.
Eksposur Risiko Pengguna
Output yang tidak difilter mencakup saran berbahaya dan informasi palsu. Alat yang terkena dampak banyak digunakan oleh konsumen dan pengembang. Perusahaan menegaskan kebanyakan pengguna tidak akan mengalami masalah ini selama penggunaan normal.
Pengujian Financial Times menunjukkan betapa mudahnya pengamanan AI saat ini ditembus. Kini, perusahaan harus memperbaiki celah-celah ini sebelum tenggat waktu Oktober Uni Eropa tiba.
