Bill Gates berkata ancaman AI sebenar pada masa ini bukanlah mesin yang terlepas dari kawalan — tetapi manusia yang sudah menggunakan teknologi itu untuk menyebabkan kerosakan, dan langkah perlindungan yang mungkin menghalang mereka boleh dilucutkan dalam beberapa minit. Dalam temu bual dengan Jake Tapper di CNN's State of the Union, Gates meletakkan senario "Terminator" bertahun-tahun akan datang dan menunjuk kepada masalah yang lebih segera: tidak cukup usaha dilakukan untuk menghentikan bioterorisme dan serangan siber yang diperkuatkan AI.
Gates menggambarkan persediaan keselamatan yang kelihatan kukuh sehingga seseorang memutuskan untuk membongkarnya. Pembangun, katanya, membina perlindungan terhadap serangan siber dan senjata biologi, tetapi semua perlindungan itu boleh dialihkan sekarang. Jurang antara apa yang mungkin secara teknikal dan apa yang sebenarnya dikuatkuasakan adalah tempat dia melihat bahaya tertumpu.
Tahun mendatang: serangan siber menjadi tumpuan
Dalam dua belas bulan akan datang, Gates menjangkakan penyalahgunaan AI akan muncul paling dramatik dalam serangan siber. Dia melakar model perniagaan yang sudah biasa bagi sesiapa yang mengikuti perisian tebusan atau manipulasi pasaran: ugut sasaran dan tuntut bayaran, atau cipta gangguan yang cukup untuk menggerakkan harga saham atau mengubah pertaruhan. AI menjadikan kedua-dua versi lebih murah untuk dijalankan dan lebih sukar untuk dikesan.
Ramalan itu selari dengan apa yang telah dipantau oleh penyelidik keselamatan. Pada Ogos, OpenAI menerbitkan surat terbuka mengenai pertahanan siber yang ditandatangani oleh lebih 100 organisasi. Surat itu menyatakan serangan siber yang diperkuatkan AI akan menjadi jauh lebih meluas dan canggih dalam bulan-bulan mendatang. Ia bukan ramalan tentang masa depan yang jauh — ia adalah amaran tentang trajektori semasa.
Angka dari lapangan
Beberapa titik data dari tahun lalu menunjukkan penyalahgunaan yang digambarkan Gates sudah berlaku. Firma keselamatan Taiwan TeamT5 mendapati kumpulan berkaitan negara China menggandakan jumlah serangan mereka selepas menyerahkan kerja rutin kepada AI. Chainalysis menjejaki lonjakan 440% dalam arahan perisian hasad yang ditulis secara on-chain selepas model China berat terbuka tanpa had pada kod berniat jahat muncul pada pertengahan 2025. Dan CrowdStrike mengaitkan beberapa pelanggaran bank Korea Selatan dengan penyerang yang berkemungkinan bermotifkan kewangan menggunakan alat AI.
Tiada satu pun daripada insiden itu memerlukan AI untuk mengalahkan penciptanya. Ia memerlukan AI untuk melakukan kerja kasar dengan lebih pantas dan pada skala besar. Itulah corak yang digambarkan Gates: penjenayah biasa dan aktor negara mendapat rangsangan kecekapan, bukan beberapa bentuk kehidupan digital baharu yang memutuskan untuk memberontak.
Mengapa langkah perlindungan terus tergelincir
Masalahnya, seperti yang dibingkaikan Gates, bukanlah langkah keselamatan tidak wujud. Ia adalah bahawa ia bersifat sukarela, boleh ditampal, atau semata-mata boleh dialihkan. Model yang menolak untuk membantu dengan senjata biologi hari ini boleh ditala halus atau dipecahkan esok. Pelepasan berat terbuka menjadikannya lebih mudah — sebaik sahaja berat keluar, tiada suis mati.
Itu meninggalkan kekosongan pengawalseliaan. Gates tidak menawarkan preskripsi dasar khusus dalam temu bual itu, tetapi penekanannya pada apa yang boleh "dilucutkan sekarang" menunjuk kepada perdebatan yang sudah berlaku di badan perundangan dan badan piawaian: sama ada untuk mewajibkan had berkod keras, jejak audit, atau pelesenan untuk model yang mampu melakukan kerja berbahaya.
Buat masa ini, langkah perlindungan lebih seperti bonggol perlahan daripada dinding. Dan orang yang Gates risaukan sudah tahu bagaimana untuk memandu mengelilinginya.
Apa yang perlu diperhatikan
Ujian konkrit seterusnya datang daripada penandatangan surat terbuka, yang berjanji untuk menjejaki dan melaporkan trend serangan yang diperkuatkan AI. Kemas kini awam pertama mereka dijangka dalam bulan-bulan mendatang. sehingga itu, isyarat paling jelas ialah sama ada lonjakan perisian hasad on-chain 440% itu terus meningkat — atau sama ada pihak pertahanan menemui cara untuk memastikan langkah perlindungan itu kekal.
