India telah mulai melakukan stress-testing terhadap sistem perangkat lunak pemerintah dan perbankannya menggunakan model AI Mythos milik Anthropic, sebuah latihan keamanan siber yang bertujuan menemukan titik lemah sebelum penyerang melakukannya. Pengujian yang sedang berlangsung ini menandai pertama kalinya sebuah negara menggunakan model AI frontier milik pesaing untuk menyelidiki infrastruktur kritisnya sendiri.
Stress testing melawan lawan AI
Stress testing bukanlah hal baru. Organisasi secara rutin mensimulasikan serangan untuk melihat seberapa baik pertahanan mereka. Namun, memasukkan model AI seperti Mythos ke dalam campuran mengubah persamaan. Mythos, yang dikembangkan oleh Anthropic, dirancang untuk lebih mampu daripada model sebelumnya dalam memahami dan menghasilkan kode. Itu menjadikannya alat yang ampuh untuk mensimulasikan serangan siber yang canggih—dan untuk menemukan kerentanan yang mungkin terlewatkan oleh penguji manusia.
Pendekatan India melibatkan pemberian detail arsitektur perangkat lunak pemerintah dan perbankannya ke model. Mythos kemudian mencoba mengeksploitasi sistem tersebut, mencari kelemahan dalam enkripsi, kontrol akses, dan penanganan data. Hasilnya membantu pejabat memutuskan perbaikan mana yang harus diprioritaskan dan di mana harus berinvestasi dalam pertahanan yang lebih kuat.
Mengapa sistem perbankan dan pemerintah menjadi fokus
Perangkat lunak perbankan dan pemerintah menangani beberapa data paling sensitif di negara ini—catatan keuangan, identifikasi pribadi, dan informasi keamanan nasional. Pelanggaran di salah satu sektor dapat memiliki efek berantai. Itulah sebabnya India memfokuskan stress test pada dua area ini terlebih dahulu. Tes ini bukan merupakan tanda bahwa ancaman spesifik telah terdeteksi, melainkan langkah proaktif untuk tetap selangkah di depan potensi serangan.
Pilihan model Anthropic di atas yang lain patut dicatat. Anthropic telah memposisikan dirinya sebagai perusahaan AI yang berfokus pada keselamatan, dan model Mythos-nya dibangun dengan pagar pengaman untuk mencegah penyalahgunaan. Penggunaan Mythos oleh India untuk tujuan defensif sejalan dengan aplikasi yang dimaksudkan perusahaan. Anthropic belum berkomentar tentang pengujian tersebut, dan tidak ada pejabat dari pemerintah India yang memberikan rincian tentang ruang lingkup atau jadwal.
Apa yang Dipertaruhkan
Jika stress test mengungkapkan kerentanan kritis, konsekuensinya bisa sangat luas. Lembaga pemerintah mungkin perlu menghentikan sementara inisiatif digital untuk menambal sistem. Bank dapat mengalami gangguan layanan sementara jika pembaruan diperlukan. Di sisi lain, hasil yang bersih akan meningkatkan kepercayaan pada infrastruktur digital India, yang telah berkembang pesat melalui program seperti Aadhaar dan UPI.
Tes ini juga menimbulkan pertanyaan tentang peran AI dalam keamanan siber nasional. Menggunakan model satu perusahaan untuk menguji sistem perusahaan lain mengaburkan batas antara persaingan dan kolaborasi. Tidak ada keputusan yang dibuat tentang apakah akan mempublikasikan hasil tes, dan masih belum jelas apakah negara lain akan mengikuti jejak India.
Pertanyaan yang belum terjawab
Yang paling tidak diketahui adalah berapa lama stress test akan berlangsung dan apakah akan meluas di luar perangkat lunak pemerintah dan perbankan. Pejabat belum mengungkapkan tenggat waktu penyelesaian, juga belum mengatakan sistem spesifik mana yang sedang diuji. Yang jelas adalah India bertaruh bahwa lawan AI adalah cara terbaik untuk menemukan kelemahannya sendiri—sebelum orang lain melakukannya.
