Certik บริษัทด้านความปลอดภัยบล็อกเชน เปิดตัวแพลตฟอร์มใหม่เมื่อวันที่ 27 พฤษภาคม ซึ่งบริษัทเรียกว่า 'แอนตี้ไวรัสสำหรับ AI Agent' เครื่องมือนี้ถูกออกแบบมาเพื่อตรวจจับความเสี่ยงที่ซ่อนอยู่ในทักษะ AI จากบุคคลที่สาม ซึ่งเป็นส่วนเสริมคล้ายปลั๊กอินที่ขยายความสามารถของ AI agent
เหตุผลที่สร้างแพลตฟอร์มนี้
บริษัทกล่าวว่าการเพิ่มขึ้นของตลาดเปิดที่นักพัฒนาสามารถอัปโหลดและขายทักษะ AI ได้สร้างจุดบอดด้านความปลอดภัย ใครก็สามารถเผยแพร่ทักษะได้ ผู้ใช้เพียงไม่กี่คนตรวจสอบว่าโค้ดทำอะไรจริงๆ แพลตฟอร์มของ Certik มีเป้าหมายเพื่อสแกนทักษะเหล่านั้นก่อนที่จะถูกนำไปใช้ โดยแจ้งเตือนตั้งแต่การรั่วไหลของข้อมูลไปจนถึงประตูหลังที่ซ่อนอยู่
สิ่งที่สแกนหา
แพลตฟอร์มจะประเมินพฤติกรรมของโค้ด AI จากบุคคลที่สามตามชุดเกณฑ์ความเสี่ยง ซึ่งรวมถึงข้อมูลที่ทักษะเข้าถึง ไม่ว่ามันจะสื่อสารกับเซิร์ฟเวอร์ภายนอกหรือไม่ และการกระทำของมันตรงกับจุดประสงค์ที่โฆษณาไว้หรือไม่ Certik เปรียบกระบวนการนี้เหมือนกับซอฟต์แวร์แอนตี้ไวรัสแบบดั้งเดิมที่ตรวจสอบไฟล์เพื่อหามัลแวร์ แต่ที่นี่เป้าหมายคือตรรกะและการอนุญาตของทักษะ AI agent
ปัญหาที่แก้ไข
ทักษะ AI จากบุคคลที่สามที่ไม่ได้ตรวจสอบกำลังกลายเป็นปัญหาใหญ่สำหรับบริษัทที่สร้างระบบที่ใช้ agent ทักษะที่ดูไม่เป็นอันตราย เช่น ตัวจัดปฏิทิน อาจขโมยอีเมลหรือฉีดพรอมต์ที่เป็นอันตราย แพลตฟอร์มของ Certik ไม่เพียงแค่แจ้งปัญหา แต่ยังให้คะแนนความเสี่ยงเพื่อให้นักพัฒนาสามารถตัดสินใจว่าจะเชื่อถือทักษะนั้นหรือบล็อกมัน
Certik ยังไม่ได้ระบุว่าแพลตฟอร์มหรือตลาด AI agent ใดที่เครื่องมือนี้รองรับเป็นรายแรก รายละเอียดนั้นยังขาดอยู่ บริษัทยังไม่ได้เปิดเผยราคาหรือเดโมสาธารณะ แต่การเปิดตัวผลิตภัณฑ์นี้ส่งสัญญาณว่าอุตสาหกรรมความมั่นคงปลอดภัยเริ่มมอง AI agent เป็นพื้นผิวการโจมตีที่แตกต่าง ซึ่งต้องการการป้องกันในรูปแบบของตัวเอง
