AI แชทบอทเผยแพร่ข้อมูลบิดเบือนของรัสเซียโดยไม่รู้ตัว ชี้ช่องว่างในการตรวจสอบ

AI แชทบอทกำลังเผยแพร่โฆษณาชวนเชื่อและข้อมูลบิดเบือนของรัสเซียโดยไม่รู้ตัว ซึ่งเป็นพัฒนาการที่ชี้ให้เห็นถึงความเปราะบางของโมเดลภาษาขนาดใหญ่ต่อการถูกบิดเบือน ประเด็นนี้ทำให้เกิดเสียงเรียกร้องให้มีการตรวจสอบข้อมูลที่เข้มงวดยิ่งขึ้นและกรอบการกำกับดูแลที่ชัดเจน เพื่อป้องกันไม่ให้ระบบเหล่านี้กลายเป็นพาหะสำหรับการรณรงค์แทรกแซงจากต่างประเทศ

โฆษณาชวนเชื่อแพร่กระจายอย่างไร

แชทบอทซึ่งสร้างคำตอบจากชุดข้อมูลขนาดใหญ่ที่รวบรวมจากอินเทอร์เน็ต สามารถสร้างเรื่องเล่าที่เป็นเท็จซึ่งฝังอยู่ในข้อมูลที่ใช้ฝึกซ้ำได้ เนื้อหาที่เชื่อมโยงกับรัสเซีย รวมถึงสื่อที่รัฐสนับสนุนและการรณรงค์ข้อมูลบิดเบือนที่ประสานงานกัน ปรากฏให้เห็นในคำตอบของแชทบอท เนื่องจากโมเดลเหล่านี้ขาดการตรวจสอบข้อเท็จจริงแบบเรียลไทม์และไม่สามารถแยกแยะระหว่างแหล่งข้อมูลที่เชื่อถือได้กับแหล่งที่สร้างขึ้น จึงสามารถขยายประเด็นพูดคุยของเครมลินโดยไม่รู้ตัวในหัวข้อตั้งแต่สงครามในยูเครนไปจนถึงการแทรกแซงการเลือกตั้ง

นี่ไม่ใช่ความเสี่ยงเชิงสมมติ นักวิจัยได้บันทึกกรณีที่แชทบอทสร้างคำตอบที่สะท้อนถึงธีมข้อมูลบิดเบือนของรัสเซียที่รู้จักกันดี ปัญหานี้เกิดขึ้นในหลายแพลตฟอร์มและผู้ให้บริการแชทบอท ซึ่งบ่งชี้ถึงข้อบกพร่องเชิงระบบในวิธีการฝึกและปรับใช้โมเดลเหล่านี้

การตรวจสอบข้อมูลเป็นขั้นตอนแรก

หนึ่งในแนวทางแก้ไขที่เร่งด่วนที่สุดคือการตรวจสอบข้อมูลอย่างเข้มงวด นักพัฒนาแชทบอทอาศัยคลังข้อความขนาดใหญ่ที่แทบไม่เคยถูกคัดกรองโฆษณาชวนเชื่อที่รัฐสนับสนุน หากไม่มีการตรวจสอบอย่างเป็นระบบ เนื้อหาที่เป็นอันตรายก็จะเล็ดลอดผ่านไปได้ เครื่องมือตรวจสอบสามารถระบุและกรองแหล่งข้อมูลบิดเบือนที่รู้จัก แต่ยังไม่ใช่แนวทางปฏิบัติมาตรฐานในอุตสาหกรรม การไม่มีมาตรการป้องกันดังกล่าวหมายความว่าโฆษณาชวนเชื่อสามารถถูกฝังอยู่ในฐานความรู้ของโมเดลตั้งแต่เริ่มต้น

ความท้าทายคือขนาดของข้อมูล ชุดข้อมูลที่ใช้ฝึกแชทบอทอาจมีเอกสารหลายพันล้านชิ้น การระบุโฆษณาชวนเชื่อของรัสเซียทุกชิ้นท่ามกลางข้อมูลจำนวนมากนั้นต้องใช้ตัวกรองอัตโนมัติและการตรวจสอบโดยมนุษย์ ซึ่งเป็นงานที่ใช้ทรัพยากรมากและหลายบริษัทไม่เต็มใจที่จะลงทุน อย่างไรก็ตาม ผลที่ตามมาจากการไม่ดำเนินการนั้นชัดเจน: ข้อมูลเท็จแต่ละชิ้นที่ตรวจไม่พบสามารถถูกนำมาพูดซ้ำให้ผู้ใช้หลายพันครั้ง

กรอบการกำกับดูแลตามไม่ทัน

กฎหมายและข้อบังคับในปัจจุบันไม่พร้อมที่จะจัดการกับข้อมูลบิดเบือนที่ขับเคลื่อนด้วย AI ในสหรัฐอเมริกา ไม่มีกฎหมายของรัฐบาลกลางที่ระบุโดยเฉพาะว่าแชทบอทควรจัดการกับโฆษณาชวนเชื่ออย่างไร พระราชบัญญัติ AI ของสหภาพยุโรปจะกำหนดข้อกำหนดด้านความโปร่งใสบางประการ แต่ยังไม่มีผลบังคับใช้ ภูมิภาคอื่นมีมาตรการป้องกันน้อยกว่านี้ด้วยซ้ำ ช่องว่างด้านกฎระเบียบนี้ทำให้สาธารณชนต้องเผชิญกับเนื้อหาที่ถูกบิดเบือนโดยไม่มีทางเยียวยา

ผู้สนับสนุนการกำกับดูแลที่เข้มงวดขึ้นโต้แย้งว่ารัฐบาลควรกำหนดมาตรฐานแหล่งที่มาของข้อมูล โดยกำหนดให้บริษัทต่างๆ เปิดเผยว่าข้อมูลที่ใช้ฝึกมาจากไหนและกรองอย่างไร บางคนเสนอให้สร้างหน่วยตรวจสอบอิสระที่สามารถทดสอบแชทบอทว่ามีความเสี่ยงต่อข้อมูลบิดเบือนก่อนที่จะเผยแพร่ แต่แนวคิดเหล่านี้ยังคงเป็นข้อเสนอ ไม่ใช่นโยบาย

การแพร่กระจายของโฆษณาชวนเชื่อผ่าน AI แชทบอทไม่ใช่ข้อบกพร่องที่สามารถแก้ไขได้ด้วยแพตช์ด่วน มันสะท้อนถึงปัญหาที่ลึกซึ้งยิ่งขึ้นในการรวบรวม จัดระเบียบ และกำกับดูแลข้อมูล หากไม่มีการเปลี่ยนแปลงเชิงระบบ รวมถึงการตรวจสอบภาคบังคับและกฎเกณฑ์ที่บังคับใช้ได้ ปัญหานี้มีแนวโน้มจะเพิ่มมากขึ้นเมื่อแชทบอทถูกรวมเข้ากับชีวิตประจำวันมากขึ้น

สิ่งที่ยังไม่ได้รับการแก้ไขคือใครจะเป็นผู้ก้าวแรก บริษัทต่างๆ สามารถดำเนินการโดยสมัครใจ แต่ประวัติการกำกับดูแลตนเองนั้นหลากหลาย หน่วยงานกำกับดูแลยังคงศึกษาปัญหานี้อยู่ อย่างไรก็ตาม หน้าต่างแห่งโอกาสในการดำเนินการกำลังแคบลงทุกครั้งที่มีการปรับใช้แชทบอทใหม่