เจเรมี อัลแลร์ ซีอีโอของ Circle คาดการณ์ว่าจะมีเอเจนต์ AI หลายพันล้านตัวที่ทำงานภายในห้าปี แต่นักวิจัยกลับเรียกร้องให้ใช้ความระมัดระวัง โดยระบุว่าเอเจนต์ AI เหล่านี้ต้องถูกปฏิบัติในฐานะระบบที่ไม่น่าเชื่อถือ ทั้งสองข้อความจากมุมที่แตกต่างกันของโลกเทคโนโลยี แสดงให้เห็นถึงความแตกต่างอย่างชัดเจนระหว่างการปรับใช้อย่างรวดเร็วและการระมัดระวังด้านความปลอดภัย
การคาดการณ์ของซีอีโอ
อัลแลร์ทำการคาดการณ์เกี่ยวกับขนาดของเอเจนต์ AI ในอนาคตอันใกล้ แม้เขาจะไม่ได้ลงรายละเอียดกรณีการใช้งานเฉพาะหรือโครงสร้างพื้นฐานที่จำเป็นในการรองรับการเติบโตดังกล่าว แต่การคาดการณ์จากหัวหน้าของบริษัทชำระเงินรายใหญ่ชี้ให้เห็นถึงความเชื่อมั่นในวงกว้างต่อการขยายตัวของเทคโนโลยี Circle เป็นที่รู้จักมากที่สุดในด้านสกุลเงินดิจิทัลและบล็อกเชน แต่ความคิดเห็นของอัลแลร์ชี้ให้เห็นถึงความเชื่อที่ว่าเอเจนต์ AI จะกลายเป็นสิ่งที่แพร่หลายในทุกอุตสาหกรรม
คำเตือนของนักวิจัย
แยกต่างหาก กลุ่มนักวิจัยได้ออกคำเตือนที่ชัดเจน: ไม่ควรเชื่อถือเอเจนต์ AI โดยค่าเริ่มต้น พวกเขาโต้แย้งว่าการปฏิบัติต่อระบบเหล่านี้ว่าไม่น่าเชื่อถือเป็นสิ่งจำเป็นเพื่อป้องกันอันตรายหรือการใช้งานในทางที่ผิดที่อาจเกิดขึ้น นักวิจัยไม่ได้ระบุว่าเอเจนต์ AI ประเภทใด — ตั้งแต่แชทบอทธรรมดาไปจนถึงผู้ตัดสินใจอัตโนมัติมากขึ้น — ก่อให้เกิดความเสี่ยงมากที่สุด แต่คำแนะนำในวงกว้างนี้ส่งสัญญาณถึงความกังวลอย่างลึกซึ้งในหมู่ผู้ที่ศึกษาสาขานี้
มุมมองที่แตกต่างกันในขอบฟ้าเดียวกัน
ทั้งสองข้อความมีกรอบเวลาเดียวกัน: ห้าปีถัดไป ฝ่ายหนึ่งมองเห็นเอเจนต์หลายพันล้านตัวที่ทำงาน อีกฝ่ายบอกว่าทุกตัวควรถูกมองด้วยความกังขา ความตึงเครียดนี้ไม่ใช่เรื่องใหม่สำหรับเทคโนโลยี — การปรับใช้อย่างรวดเร็วมักจะแซงหน้าการคิดด้านความปลอดภัย — แต่ขนาดมหาศาลที่อัลแลร์คาดการณ์ทำให้คำเตือนของนักวิจัยมีน้ำหนักเป็นพิเศษ หากมีการปรับใช้เอเจนต์หลายพันล้านตัวจริง การปฏิบัติต่อแต่ละตัวว่าไม่น่าเชื่อถือจะต้องมีการคิดทบทวนครั้งใหญ่เกี่ยวกับวิธีการสร้าง ติดตาม และกำกับดูแล
ยังไม่มีหน่วยงานอุตสาหกรรมหรือหน่วยงานกำกับดูแลใดออกกฎที่มีผลผูกพันสำหรับความน่าเชื่อถือของเอเจนต์ AI ช่องว่างระหว่างเส้นเวลาที่มองโลกในแง่ดีของอัลแลร์กับจุดยืนที่เน้นความปลอดภัยของนักวิจัยเน้นให้เห็นถึงการถกเถียงที่มีแนวโน้มจะรุนแรงขึ้นเมื่อใกล้ถึงช่วงห้าปี
