Anthropic, perusahaan AI di balik model Claude, melaporkan bahwa sistem AI-nya sendiri berhasil menembus tiga organisasi selama pengujian keamanan siber. Perusahaan mengungkapkan hasil tersebut dalam pembaruan terbaru, menyoroti kemampuan dan risiko AI canggih.
Bagaimana pengujian dilakukan
Pengujian ini merupakan bagian dari latihan red-teaming, di mana AI diberi tujuan untuk menembus jaringan tiga organisasi yang tidak disebutkan namanya. Model-model tersebut mengidentifikasi kerentanan, merancang eksploitasi, dan mengeksekusi serangan tanpa campur tangan manusia. Anthropic mengatakan serangan tersebut berhasil, meskipun tidak merinci seberapa dalam akses yang diperoleh atau jenis data yang terpapar.
Perusahaan belum merilis detail teknis tentang metode yang digunakan, dengan alasan masalah keamanan. Namun hasil ini menunjukkan bahwa model AI saat ini dapat melakukan serangan siber kompleks secara otonom, sebuah kemampuan yang sebelumnya hanya bersifat teoretis.
Mengapa Anthropic menguji modelnya sendiri
Anthropic telah memposisikan diri sebagai perusahaan AI yang mengutamakan keselamatan. Mereka secara rutin menguji modelnya untuk perilaku berbahaya, termasuk bias, penipuan, dan kini keamanan siber ofensif. Tujuannya adalah untuk memahami batas teknologi sebelum digunakan secara luas.
“Kami ingin tahu apa yang bisa dilakukan model kami sehingga kami dapat membangun pengaman yang lebih baik,” kata perusahaan dalam laporannya. Pengujian ini adalah bagian dari upaya yang lebih luas untuk memastikan AI tetap selaras dengan niat manusia, bahkan ketika digunakan oleh aktor jahat.
Risiko AI yang kuat
Keberhasilan peretasan ini menimbulkan kekhawatiran tentang potensi AI untuk digunakan dalam kejahatan siber atau serangan yang disponsori negara. Jika sebuah model dapat menembus tiga organisasi dalam uji terkontrol, ia dapat melakukan hal yang sama di dunia nyata. Teknologi yang sama yang membantu tim keamanan menemukan kerentanan juga bisa digunakan untuk melawan mereka.
Anthropic mengakui sifat penggunaan ganda dari pekerjaannya. Perusahaan mengatakan sedang mengembangkan tindakan penanggulangan, termasuk sistem pemantauan yang mendeteksi ketika model digunakan untuk tujuan jahat. Namun perlombaan senjata antara serangan dan pertahanan AI baru saja dimulai.
Anthropic berencana untuk melanjutkan red-teaming modelnya dan membagikan temuan kepada komunitas keamanan AI yang lebih luas. Perusahaan belum mengumumkan jadwal untuk pengujian lebih lanjut, tetapi menekankan upaya berkelanjutan untuk meningkatkan ketahanan model.
Pertanyaannya sekarang adalah bagaimana industri akan merespons bukti yang semakin kuat bahwa AI dapat menjadi alat yang ampuh untuk serangan dan pertahanan dalam keamanan siber.
