Chatbot AI secara tidak sengaja menyebarkan propaganda dan maklumat palsu Rusia, satu perkembangan yang menonjolkan kerentanan model bahasa besar terhadap manipulasi. Isu ini telah mendorong desakan untuk pengauditan data yang lebih kukuh dan rangka kerja pengawalseliaan yang lebih jelas bagi mengelakkan sistem ini menjadi saluran untuk kempen pengaruh asing.
Bagaimana propaganda tersebar
Chatbot, yang menjana respons berdasarkan set data besar yang dikumpul dari internet, boleh menghasilkan semula naratif palsu yang tertanam dalam bahan latihan mereka. Kandungan berkaitan Rusia, termasuk media tajaan negara dan kempen maklumat palsu yang terkoordinasi, telah terbukti muncul dalam respons chatbot. Oleh kerana model ini tidak mempunyai pengesahan fakta masa nyata dan tidak dapat membezakan antara sumber yang benar dan palsu, mereka secara tidak sengaja boleh menguatkan naratif Kremlin mengenai pelbagai topik, dari perang di Ukraine hingga campur tangan pilihan raya.
Ini bukan risiko hipotetikal. Penyelidik telah mendokumentasikan kes di mana chatbot menjana respons yang mencerminkan tema maklumat palsu Rusia yang diketahui. Masalah ini merentas pelbagai platform dan penyedia chatbot, menunjukkan kelemahan sistemik dalam cara model ini dilatih dan digunakan.
Pengauditan data sebagai langkah pertama
Salah satu langkah pemulihan yang paling segera terletak pada pengauditan data yang ketat. Pembangun chatbot bergantung pada korpus teks besar yang jarang dibersihkan daripada propaganda tajaan negara. Tanpa pemeriksaan sistematik, kandungan berbahaya akan terlepas. Alat pengauditan boleh mengenal pasti dan menapis sumber maklumat palsu yang diketahui, tetapi ia belum menjadi amalan standard dalam industri. Ketiadaan langkah keselamatan sedemikian bermakna propaganda boleh diserap ke dalam pangkalan pengetahuan model sejak awal.
Cabaran adalah dari segi skala. Set data yang digunakan untuk melatih chatbot boleh mengandungi berbilion dokumen. Mengenal pasti setiap keping propaganda Rusia dalam kalangan hingar itu memerlukan penapis automatik dan semakan manusia — satu tugas intensif sumber yang banyak syarikat enggan membiayai. Namun, akibat daripada tidak bertindak adalah jelas: setiap maklumat palsu yang tidak dikesan boleh diulang kepada pengguna ribuan kali.
Rangka kerja pengawalseliaan ketinggalan
Undang-undang dan peraturan semasa tidak lengkap untuk menangani maklumat palsu yang didorong AI. Di Amerika Syarikat, tiada statut persekutuan yang secara khusus menangani cara chatbot harus mengendalikan propaganda. Walaupun Akta AI Kesatuan Eropah akan mengenakan beberapa keperluan ketelusan, ia belum lagi berkuat kuasa. Kawasan lain mempunyai lebih sedikit sekatan. Kekosongan pengawalseliaan ini mendedahkan orang ramai kepada kandungan yang dimanipulasi dengan sedikit jalan penyelesaian.
Penyokong pengawasan yang lebih kukuh berpendapat bahawa kerajaan harus mewajibkan piawaian asal usul data — mewajibkan syarikat mendedahkan dari mana data latihan mereka diperoleh dan bagaimana ia ditapis. Ada yang mencadangkan penubuhan badan audit bebas yang boleh menguji chatbot untuk kerentanan terhadap maklumat palsu sebelum ia dikeluarkan. Tetapi idea-idea ini masih kekal sebagai cadangan, bukan dasar.
Penyebaran propaganda melalui chatbot AI bukanlah pepijat yang boleh diperbaiki dengan tampalan pantas. Ia mencerminkan isu yang lebih mendalam dalam cara data dikumpul, dikurasi, dan ditadbir. Tanpa perubahan sistemik — termasuk audit wajib dan peraturan yang boleh dikuatkuasakan — masalah ini mungkin akan bertambah besar apabila chatbot menjadi lebih terintegrasi dalam kehidupan seharian.
Apa yang masih belum diselesaikan ialah siapa yang akan mengambil langkah pertama. Syarikat boleh bertindak secara sukarela, tetapi rekod prestasi kawal selia kendiri adalah bercampur-campur. Pengawal selia masih mengkaji masalah ini. Namun, peluang untuk bertindak semakin sempit dengan setiap penggunaan chatbot baharu.
