Google ได้เผยแพร่งานวิจัยที่โต้แย้งว่าเอเจนต์ปัญญาประดิษฐ์ (AI) สามารถร่วมมือกันอย่างมีเหตุผลโดยการอนุมานความคล้ายคลึงระหว่างตนเองกับผู้อื่น ข้อกล่าวอ้างนี้ขัดแย้งโดยตรงกับสมมติฐานหลักในทฤษฎีเกมแบบคลาสสิก ซึ่งถือว่าการแสวงหาผลประโยชน์ส่วนตัวอย่างมีเหตุผลผลักดันให้เอเจนต์หันไปหักหลังในสถานการณ์ที่เรียกว่าภาวะกลืนไม่เข้าคายไม่ออกทางสังคม งานวิจัยนี้ยังไปไกลกว่านั้น โดยเสนอว่าการกำกับดูแลและกฎระเบียบด้าน AI จำเป็นต้องคำนึงถึงพฤติกรรมการร่วมมือที่เกิดขึ้นใหม่เช่นนี้
การอนุมานความคล้ายคลึงทำงานอย่างไร
งานวิจัยนี้อธิบายกลไกที่เรียกว่า "การอนุมานความคล้ายคลึง" (similarity inference) แทนที่จะเป็นการสื่อสารอย่างชัดเจนหรือโปรโตคอลที่กำหนดไว้ล่วงหน้า เอเจนต์จะมองดูพฤติกรรมของเอเจนต์อื่น รับรู้ลักษณะหรือเป้าหมายร่วมกัน และปรับกลยุทธ์ของตนเองให้สอดคล้อง การรับรู้นี้ ตามที่งานวิจัยระบุ สามารถทำให้การร่วมมือเป็นทางเลือกที่มีเหตุผล แม้ว่าเอเจนต์จะไม่มีแรงจูงใจโดยตรงในการประสานงานก็ตาม
นี่ไม่ใช่การตั้งโปรแกรมให้เอเจนต์เป็นคนดี แต่เป็นเรื่องที่เอเจนต์เองค้นพบว่าพวกมันมีความคล้ายคลึงกันมากพอที่จะได้รับประโยชน์จากการทำงานร่วมกัน งานวิจัยนี้วางกรอบว่าเป็นการคำนวณอย่างมีเหตุผล ไม่ใช่เรื่องอารมณ์หรือจริยธรรม
ทำไมทฤษฎีเกมถึงได้รับผลกระทบ
ทฤษฎีเกมแบบดั้งเดิมจำลองสถานการณ์ที่ผู้เล่นแต่ละคนเพิ่มผลตอบแทนของตนเองให้สูงสุด ในสถานการณ์กลืนไม่เข้าคายไม่ออกของนักโทษแบบคลาสสิก ผู้เล่นที่มีเหตุผลสองคนจะหักหลังทั้งคู่ แม้ว่าทั้งคู่จะได้ประโยชน์มากกว่าหากร่วมมือกัน ข้อสรุปนี้ตั้งอยู่บนสมมติฐานที่ว่าผู้เล่นไม่สามารถส่งสัญญาณความตั้งใจหรือไว้วางใจซึ่งกันและกันได้อย่างน่าเชื่อถือ
งานวิจัยของ Google ท้าทายสมมติฐานนี้ หากเอเจนต์สามารถอนุมานความคล้ายคลึงได้ งานวิจัยโต้แย้งว่า พวกมันสามารถสร้างพื้นฐานของความไว้วางใจได้โดยไม่ต้องมีความสัมพันธ์มาก่อน การร่วมมือเกิดขึ้นไม่ใช่จากความเสียสละ แต่มาจากการประมาณการอย่างมีเหตุผลว่าเอเจนต์อื่นมีแนวโน้มที่จะตอบสนองด้วยการร่วมมือ นี่คือการโจมตีโดยตรงต่อแนวคิดที่ว่าการหักหลังเป็นทางเลือกที่ปลอดภัยและมีเหตุผลเสมอ
การกำกับดูแลและกฎระเบียบ
งานวิจัยนี้ไม่ได้หยุดอยู่แค่ทฤษฎี มันโต้แย้งว่าหากเอเจนต์ AI สามารถร่วมมือกันในลักษณะนี้ ผู้กำหนดกฎระเบียบจำเป็นต้องคิดต่างออกไป กรอบการทำงานในปัจจุบันมักปฏิบัติต่อระบบ AI แต่ละระบบเสมือนเป็นผู้แสดงที่แยกจากกัน แต่หากเอเจนต์สามารถประสานงานผ่านการอนุมานความคล้ายคลึง พวกมันอาจก่อให้เกิดพฤติกรรมร่วมที่ไม่มีระบบใดถูกออกแบบมาให้สร้างขึ้นได้
สิ่งนี้มีนัยสำคัญต่อการทดสอบความปลอดภัย ความรับผิดชอบ และการกำกับดูแล กลุ่มเอเจนต์ที่ร่วมมือกันอาจขยายความเสี่ยงหรือสร้างความเสี่ยงใหม่ที่ไม่สามารถมองเห็นได้เมื่อพิจารณาเอเจนต์แต่ละตัวเพียงลำพัง งานวิจัยเสนอว่าการกำกับดูแลควรพิจารณาปฏิสัมพันธ์ระหว่างระบบ AI ไม่ใช่เพียงการกระทำของแต่ละระบบเท่านั้น
งานวิจัยนี้เผยแพร่โดย Google แต่ไม่ได้ระบุชื่อผู้เขียนหรือวันที่เผยแพร่ และยังไม่ชัดเจนว่าผลการวิจัยได้รับการตรวจสอบโดยผู้เชี่ยวชาญ (peer-reviewed) หรือทดสอบในระบบจริงนอกเหนือจากการทดลองในงานวิจัยเองหรือไม่
คำถามใหญ่ในตอนนี้คือ กลุ่มวิจัยอื่นๆ จะสามารถทำซ้ำผลลัพธ์นี้ได้หรือไม่ หากทำได้ ทฤษฎีเกมและนโยบาย AI จะต้องปรับตัวตาม หากทำไม่ได้ งานวิจัยนี้ก็ยังคงเป็นแบบฝึกหัดเชิงทฤษฎีที่น่าสนใจ ไม่ว่าจะด้วยวิธีใด มันเป็นเครื่องเตือนใจว่าสมมติฐานที่ฝังอยู่ในระบบ AI ในปัจจุบันอาจไม่เป็นจริงในวันพรุ่งนี้
