Ronghui Gu ซีอีโอของ CertiK กำลังส่งสัญญาณเตือนถึงการเร่งปรับใช้เอเจนต์ AI ในวงกว้าง ในคำแถลงล่าสุด Gu เตือนว่าการใช้งานระบบอัตโนมัติเหล่านี้อย่างแพร่หลายโดยไม่มีมาตรการป้องกันที่เหมาะสมอาจก่อให้เกิดหายนะด้านความปลอดภัย โดยเฉพาะเมื่อต้องจัดการกับข้อมูลส่วนบุคคลที่ละเอียดอ่อนและสินทรัพย์ดิจิทัล
เหตุใดคำเตือนนี้ถึงสำคัญในตอนนี้
เอเจนต์ AI—โปรแกรมซอฟต์แวร์ที่ทำงานอย่างอิสระในนามของผู้ใช้—กำลังถูกผสานรวมเข้ากับทุกอย่างตั้งแต่บริการลูกค้าไปจนถึงกระเป๋าเงินคริปโต แต่ Gu ซึ่งบริษัทของเขาเชี่ยวชาญด้านความปลอดภัยของบล็อกเชนและสัญญาอัจฉริยะ โต้แย้งว่าความเร็วในการปรับใช้กำลังแซงหน้ามาตรการรักษาความปลอดภัยที่จำเป็นในการควบคุมเอเจนต์เหล่านั้น เขาชี้ให้เห็นถึงความเสี่ยงของการเข้าถึงโดยไม่ได้รับอนุญาตโดยเฉพาะ หากเอเจนต์ไม่ได้ถูกแยกอย่างเหมาะสมระหว่างการทดสอบ
หากไม่มีการแยก เอเจนต์เดียวที่ถูกบุกรุกอาจเปิดเผยบันทึกผู้ใช้นับล้านหรือทำให้กระเป๋าเงินดิจิทัลหมด Gu ไม่ได้ระบุเหตุการณ์เฉพาะใดๆ แต่คำพูดของเขามาในขณะที่บริษัทต่างๆ แข่งกันฝังเอเจนต์ AI เข้าไปในระบบการเงินและข้อมูลส่วนบุคคล
การแยกเป็นมาตรการป้องกัน
Gu แนะนำให้นักพัฒนาล็อกเอเจนต์ AI ไว้ในสภาพแวดล้อมที่แยกและมีขอบเขตระหว่างการทดสอบ วิธีการแบบแซนด์บ็อกซ์นี้ป้องกันไม่ให้เอเจนต์เข้าถึงฐานข้อมูลที่ใช้งานจริง คีย์ส่วนตัว หรือโครงสร้างพื้นฐานที่ละเอียดอ่อนอื่นๆ จนกว่าพฤติกรรมของพวกมันจะได้รับการตรวจสอบอย่างสมบูรณ์ “การปรับใช้เอเจนต์ AI จำนวนมากก่อให้เกิดความเสี่ยงอย่างมีนัยสำคัญ” Gu กล่าว พร้อมกระตุ้นให้ทีมงานปฏิบัติต่อแต่ละเอเจนต์ในฐานะเวกเตอร์ภัยคุกคามที่อาจเกิดขึ้นจนกว่าจะพิสูจน์ได้ว่าปลอดภัย
คำแนะนำนี้สะท้อนแนวปฏิบัติที่พบได้ทั่วไปในความปลอดภัยของซอฟต์แวร์อยู่แล้ว—เช่นการรันโค้ดที่ไม่น่าเชื่อถือในเครื่องเสมือน—แต่ปรับใช้กับความท้าทายเฉพาะของ AI อัตโนมัติ เนื่องจากเอเจนต์สามารถดำเนินการได้ด้วยตนเอง ข้อบกพร่องที่ถูกโจมตีระหว่างการทดสอบอาจลุกลามเป็นอันตรายในโลกจริงหากเอเจนต์มีการเข้าถึงเครือข่ายแม้เพียงบางส่วน
สิ่งที่อุตสาหกรรมต้องเผชิญ
ในตอนนี้ ยังไม่มีมาตรฐานสากลสำหรับการทดสอบเอเจนต์ AI บริษัทหลายแห่งปรับใช้เอเจนต์โดยตรงสู่สภาพแวดล้อมการผลิตโดยมีมาตรการป้องกันน้อยที่สุด โดยเดิมพันว่าผลประโยชน์มีมากกว่าอันตราย คำเตือนของ Gu ชี้ว่าการเดิมพันนี้อาจส่งผลเสีย เขาไม่ได้เอ่ยชื่อบริษัทหรือผลิตภัณฑ์ใดโดยเฉพาะ แต่ข้อส่อนี้ชัดเจน: อุตสาหกรรมความปลอดภัยต้องเร่งตามให้ทันก่อนที่เอเจนต์จะกลายเป็นสิ่งที่แพร่หลาย
CertiK เองได้สร้างเครื่องมือสำหรับตรวจสอบสัญญาอัจฉริยะและระบบบล็อกเชน และการเรียกร้องให้มีการแยกของ Gu อาจเป็นสัญญาณของการผลักดันในวงกว้างให้มีความเข้มงวดที่คล้ายกันในการพัฒนาเอเจนต์ AI ไม่ว่าผู้พัฒนาจะนำแนวปฏิบัตินี้ไปใช้หรือไม่นั้นยังคงเป็นคำถามที่เปิดอยู่
ข้อความของ Gu นั้นตรงไปตรงมา: ทดสอบเอเจนต์ในกล่องก่อนที่จะปล่อยให้มันทำงานกับข้อมูลจริง สำหรับบริษัทที่กำลังแข่งกันปรับใช้ AI การหยุดชั่วคราวเพื่อแยกตัวอาจเป็นความแตกต่างระหว่างเครื่องมือที่มีประโยชน์กับการละเมิดที่เสียค่าใช้จ่ายสูง
