Anthropic บริษัท AI เจ้าของแชทบอท Claude ได้ส่งนักวิจัยคนหนึ่งไปบรรยายสรุปให้เจ้าหน้าที่รัฐบาลสหรัฐฯ เกี่ยวกับความปลอดภัยของ AI ในสัปดาห์นี้ ตามรายงานของ Crypto Briefing การประชุมมุ่งเน้นไปที่การป้องกันการใช้งานระบบ AI ขั้นสูงในทางที่ผิดและการเสริมสร้างความมั่นคงของชาติ ซึ่งเป็นสัญญาณว่าวอชิงตันให้ความสำคัญกับความเสี่ยงเหล่านี้อย่างจริงจัง
ทำไมการประชุมนี้จึงสำคัญ
การมีส่วนร่วมนี้เน้นย้ำถึงความจำเป็นเร่งด่วนของมาตรการความปลอดภัย AI ที่แข็งแกร่ง ไม่ใช่แค่ความเสี่ยงเชิงทฤษฎีเท่านั้น รัฐบาลต้องการขั้นตอนที่เป็นรูปธรรมเพื่อให้แน่ใจว่า AI จะไม่กลายเป็นช่องทางสำหรับการโจมตีหรือทำให้เกิดความไม่เสถียร Anthropic ซึ่งขึ้นชื่อเรื่องการเน้นการพัฒนา AI อย่างรับผิดชอบ กำลังวางตำแหน่งตัวเองเป็นผู้เจรจาสำคัญในประเด็นเหล่านี้
ความปลอดภัย AI ในบริบทของคริปโต
การรายงานข่าวของ Crypto Briefing เกี่ยวกับการบรรยายสรุปชี้ให้เห็นถึงความทับซ้อนกันโดยธรรมชาติ แพลตฟอร์มคริปโตกำลังพึ่งพา AI มากขึ้นสำหรับบอทเทรด การตรวจสอบสัญญาอัจฉริยะ และการตรวจจับการฉ้อโกง ช่องโหว่เดียวกันที่รัฐบาลกังวล เช่น โมเดลที่มีอคติ พรอมต์ที่ก่อให้เกิดการโต้แย้ง หรือระบบอัตโนมัติที่ควบคุมไม่ได้ ล้วนใช้ได้กับคริปโตโดยตรง หากเอเจนต์เทรด AI ทำงานผิดปกติ หรือแชทบอทที่ใช้บริการลูกค้าถูกทำให้หลุดจากการควบคุม ผลที่ตามมาอาจเป็นทั้งทางการเงินและการดำเนินงาน การบรรยายสรุปไม่ได้กล่าวถึงคริปโตโดยเฉพาะ แต่ผลกระทบนั้นยากที่จะมองข้าม
สิ่งที่รัฐบาลกำลังจับตามอง
สหรัฐฯ ได้เพิ่มการมุ่งเน้นไปที่การกำกับดูแล AI การบรรยายสรุปนี้เป็นหนึ่งในหลาย ๆ เซสชันส่วนตัวระหว่างห้องปฏิบัติการ AI และหน่วยงานรัฐบาลกลาง ข้อความจากนักวิจัยของ Anthropic คือ ความปลอดภัยไม่ใช่คุณสมบัติที่คุณเพิ่มทีหลัง แต่ต้องสร้างขึ้นมาตั้งแต่เริ่มต้น สำหรับบริษัทคริปโตที่พึ่งพา AI นั่นเป็นบทเรียนที่ควรใส่ใจ โดยเฉพาะอย่างยิ่งเมื่อผู้กำกับดูแลเริ่มตั้งคำถามที่เข้มงวดขึ้นเกี่ยวกับความเสี่ยงจากอัลกอริทึม
ยังไม่มีการกำหนดกรอบเวลาสาธารณะสำหรับกฎระเบียบใหม่ แต่การเจรจาโดยตรงแบบนี้มักจะถูกนำไปใช้ในเอกสารนโยบายและแนวทางปฏิบัติของฝ่ายบริหาร สำหรับตอนนี้ สิ่งที่ได้คือ รัฐบาลกำลังรับฟัง และการถกเถียงเรื่องความปลอดภัยของ AI ไม่ได้เป็นนามธรรมอีกต่อไป บริษัทคริปโตที่ใช้ AI ควรคาดหวังการตรวจสอบที่คล้ายคลึงกันเมื่อเทคโนโลยีฝังลึกมากขึ้นในโครงสร้างพื้นฐานทางการเงิน
