Satu pasukan penyelidik di China telah membina model kecerdasan buatan yang menggunakan masa terluangnya sendiri untuk bersedia menjawab soalan pengguna seterusnya sebelum ia ditanya. Pendekatan ini boleh mengurangkan kelewatan antara pertanyaan, menjadikan ejen perbualan terasa lebih pantas dan lebih intuitif.
Mengubah kitaran terbiar menjadi permulaan awal
Kebanyakan chatbot AI memproses setiap pertanyaan secara berurutan. Mereka mendengar, mengira, dan kemudian bertindak balas. Ini meninggalkan jurang di antaranya di mana tiada kerja dilakukan. Penyelidik China mereka bentuk model yang mengisi jurang tersebut dengan meramalkan apa yang mungkin ditanya oleh pengguna seterusnya dan mengira awal jawapan yang mungkin.
Apabila AI selesai menjawab satu soalan, daripada duduk terbiar, ia mula menjalankan senario soalan seterusnya yang mungkin berdasarkan konteks perbualan. Pada masa pengguna menaip atau menyebut pertanyaan seterusnya, model telah pun melakukan sebahagian daripada kerja. Hasilnya ialah penurunan ketara dalam masa tindak balas.
Butiran mengenai seni bina tepat adalah tipis, tetapi penyelidik berkongsi penemuan mereka dalam pracetak. Mereka menguji model tersebut berbanding chatbot standard dan mendapati pengiraan awal mengurangkan purata kependaman respons dengan margin yang bermakna. Pasukan itu tidak mendedahkan set data atau perkakasan khusus yang digunakan.
Bagaimana model meneka langkah seterusnya
Sistem tidak hanya meneka secara rawak. Ia menggunakan sejarah perbualan dan mesej pengguna terakhir untuk menyusun senarai susulan yang mungkin. Contohnya, jika seseorang bertanya tentang ramalan cuaca, model mungkin mengira awal jawapan untuk “Bagaimana dengan esok?” atau “Adakah hujan hujung minggu ini?”
Keupayaan ramalan ini bergantung pada rangkaian neural ringan yang berjalan selari dengan enjin sembang utama. Penyelidik mengatakan overhed adalah kecil – pengiraan tambahan hanya menggunakan sebahagian kecil sumber yang digunakan oleh model utama.
Satu cabaran: model hanya boleh bersedia untuk bilangan calon yang terhad. Jika pengguna bertanya sesuatu yang benar-benar di luar skrip, kerja yang dikira awal menjadi sia-sia. Pasukan sedang meneroka cara untuk meningkatkan ketepatan ramalan tanpa mengembang senarai calon.
Apa maksudnya untuk pembantu AI harian
Pembantu maya, bot perkhidmatan pelanggan, dan peranti yang diaktifkan suara boleh mendapat manfaat daripada pendekatan ini. Respons yang lebih pantas menjadikan interaksi terasa lebih semula jadi, terutamanya apabila pengguna melepaskan susulan pantas.
Namun idea ini tidak terhad kepada sembang. Teknik yang sama boleh digunakan untuk autolengkap kod, penjanaan imej, atau mana-mana sistem AI di mana pengguna mengeluarkan siri arahan yang berkaitan.
Penggunaan komersial tidak dijamin. Model mesti dilatih pada log perbualan yang besar untuk membina model ramalan yang boleh dipercayai. Syarikat juga perlu menimbang kos pengiraan tambahan terhadap penjimatan kependaman.
Para penyelidik belum mengumumkan sebarang rancangan untuk mengeluarkan model secara terbuka atau bekerjasama dengan syarikat. Mereka terus berusaha untuk menambah baik algoritma ramalan dan mengurangkan permulaan palsu.
