นักวิจัยจีนสร้าง AI ที่คาดเดาคำถามถัดไปในช่วงเวลาว่าง

ทีมนักวิจัยในจีนได้สร้างโมเดลปัญญาประดิษฐ์ที่ใช้ช่วงเวลาว่างของตัวเองเพื่อเตรียมคำตอบสำหรับคำถามถัดไปของผู้ใช้ก่อนที่พวกเขาจะถาม แนวทางนี้สามารถลดความล่าช้าระหว่างคำถาม ทำให้ผู้ช่วยสนทนารู้สึกเร็วขึ้นและเป็นธรรมชาติมากขึ้น

เปลี่ยนช่วงเวลาว่างให้เป็นความได้เปรียบ

แชทบอท AI ส่วนใหญ่ประมวลผลคำถามตามลำดับ พวกเขาฟัง คำนวณ แล้วตอบกลับ ทำให้เกิดช่องว่างระหว่างนั้นที่ไม่มีการทำงาน นักวิจัยชาวจีนออกแบบโมเดลที่เติมเต็มช่องว่างเหล่านั้นโดยการทำนายว่าผู้ใช้อาจถามอะไรต่อไป และคำนวณคำตอบที่เป็นไปได้ล่วงหน้า

เมื่อ AI ตอบคำถามหนึ่งเสร็จ แทนที่จะหยุดนิ่ง มันจะเริ่มทำงานในสถานการณ์คำถามถัดไปที่อาจเกิดขึ้นตามบริบทของการสนทนา เมื่อผู้ใช้พิมพ์หรือพูดคำถามถัดไป โมเดลได้ทำงานส่วนหนึ่งเสร็จแล้ว ผลลัพธ์คือเวลาตอบสนองที่ลดลงอย่างเห็นได้ชัด

รายละเอียดเกี่ยวกับสถาปัตยกรรมที่แน่นอนยังมีน้อย แต่นักวิจัยได้เผยแพร่ผลการศึกษาในรูปแบบพรีปรินต์ พวกเขาทดสอบโมเดลกับแชทบอทมาตรฐานและพบว่าการคำนวณล่วงหน้าช่วยลดเวลาแฝงในการตอบสนองโดยเฉลี่ยได้อย่างมีนัยสำคัญ ทีมงานไม่ได้เปิดเผยชุดข้อมูลหรือฮาร์ดแวร์ที่ใช้เฉพาะเจาะจง

โมเดลเดาคำตอบถัดไปอย่างไร

ระบบไม่ได้เดาแบบสุ่ม มันใช้ประวัติการสนทนาและข้อความผู้ใช้ล่าสุดเพื่อจัดลำดับคำถามที่อาจตามมา ตัวอย่างเช่น หากมีคนถามเกี่ยวกับพยากรณ์อากาศ โมเดลอาจคำนวณคำตอบล่วงหน้าสำหรับ “แล้วพรุ่งนี้ล่ะ?” หรือ “ฝนจะตกสุดสัปดาห์นี้ไหม?”

ความสามารถในการทำนายนี้ขึ้นอยู่กับโครงข่ายประสาทเทียมที่มีน้ำหนักเบาซึ่งทำงานควบคู่ไปกับเอนจินแชทหลัก นักวิจัยกล่าวว่าภาระเพิ่มเติมมีน้อย – การคำนวณพิเศษใช้ทรัพยากรเพียงเศษเสี้ยวของที่โมเดลหลักใช้

ความท้าทายหนึ่ง: โมเดลสามารถเตรียมตัวสำหรับคำถามที่เป็นไปได้จำนวนจำกัดเท่านั้น หากผู้ใช้ถามบางอย่างที่อยู่นอกเหนือแผนที่วางไว้ งานที่คำนวณล่วงหน้าจะสูญเปล่า ทีมงานกำลังสำรวจวิธีปรับปรุงความแม่นยำในการทำนายโดยไม่ทำให้รายการคำถามที่เป็นไปได้ใหญ่เกินไป

สิ่งนี้มีความหมายต่อผู้ช่วย AI ในชีวิตประจำวัน

ผู้ช่วยเสมือน บอทบริการลูกค้า และอุปกรณ์ที่เปิดใช้งานด้วยเสียงอาจได้รับประโยชน์จากแนวทางนี้ การตอบสนองที่เร็วยิ่งขึ้นทำให้การโต้ตอบรู้สึกเป็นธรรมชาติมากขึ้น โดยเฉพาะเมื่อผู้ใช้ถามคำถามต่อเนื่องอย่างรวดเร็ว

แต่แนวคิดนี้ไม่ได้จำกัดแค่การแชท เทคนิคเดียวกันนี้สามารถนำไปใช้กับการเติมโค้ดอัตโนมัติ การสร้างภาพ หรือระบบ AI ใดๆ ที่ผู้ใช้ส่งชุดคำสั่งที่เกี่ยวข้องกัน

การนำไปใช้ในเชิงพาณิชย์ยังไม่แน่นอน โมเดลต้องได้รับการฝึกอบรมจากบันทึกการสนทนาขนาดใหญ่เพื่อสร้างโมเดลการทำนายที่เชื่อถือได้ บริษัทต่างๆ ก็ต้องชั่งน้ำหนักระหว่างต้นทุนการคำนวณที่เพิ่มขึ้นกับการประหยัดเวลาแฝง

นักวิจัยยังไม่ได้ประกาศแผนที่จะปล่อยโมเดลต่อสาธารณะหรือร่วมมือกับบริษัทใดๆ พวกเขากำลังทำงานต่อในการปรับปรุงอัลกอริทึมการทำนายและลดการคาดเดาที่ผิดพลาด