Bagaimana propaganda menyebar
Chatbot, yang menghasilkan respons berdasarkan kumpulan data besar yang diambil dari internet, dapat mereproduksi narasi palsu yang tertanam dalam materi pelatihan mereka. Konten yang terkait dengan Rusia, termasuk media yang disponsori negara dan kampanye disinformasi terkoordinasi, telah terbukti muncul dalam balasan chatbot. Karena model-model ini tidak memiliki pemeriksaan fakta waktu nyata dan tidak dapat membedakan antara sumber yang benar dan palsu, mereka secara tidak sadar dapat memperkuat poin pembicaraan Kremlin tentang topik mulai dari perang di Ukraina hingga campur tangan pemilu.
Ini bukan risiko hipotetis. Para peneliti telah mendokumentasikan kasus di mana chatbot menghasilkan respons yang mencerminkan tema disinformasi Rusia yang diketahui. Masalah ini melintasi berbagai platform dan penyedia chatbot, menunjukkan cacat sistemik dalam cara model-model ini dilatih dan digunakan.
Audit data sebagai langkah pertama
Salah satu solusi yang paling langsung terletak pada audit data yang ketat. Pengembang chatbot mengandalkan korpora teks yang sangat besar yang jarang dibersihkan dari propaganda yang terkait dengan negara. Tanpa pemeriksaan sistematis, konten berbahaya lolos. Alat audit dapat mengidentifikasi dan menyaring sumber disinformasi yang diketahui, tetapi alat tersebut belum menjadi praktik standar di industri. Tidak adanya pengaman semacam itu berarti propaganda dapat tertanam dalam basis pengetahuan model sejak awal.
Tantangannya adalah skala. Kumpulan data yang digunakan untuk melatih chatbot dapat berisi miliaran dokumen. Mengidentifikasi setiap bagian propaganda Rusia di tengah kebisingan itu mem
