Anthropic ได้กลับจุดยืนเกี่ยวกับมาตรการป้องกันประสิทธิภาพที่มองไม่เห็นสำหรับ Claude หลังจากชุมชนเกิดกระแสตอบรับเชิงลบเกี่ยวกับเหตุการณ์ 'Fable 5' บริษัทจะนำมาตรการป้องกันแบบมองเห็นได้มาใช้แทนการจำกัดประสิทธิภาพที่ซ่อนอยู่ การเปลี่ยนแปลงนี้ซึ่งประกาศเมื่อวันอังคาร จะเพิ่มการตรวจจับเนื้อหาที่ผิดพลาดเชิงบวกทั่วทั้งแพลตฟอร์ม
Fable 5 จุดชนวนกระแสไม่พอใจจากผู้ใช้
เหตุการณ์ 'Fable 5' เมื่อสัปดาห์ที่แล้วทำให้ Claude จำกัดการตอบกลับโดยไม่มีคำอธิบายที่ชัดเจน สร้างความหงุดหงิดให้กับผู้ใช้และนักพัฒนา สมาชิกในชุมชนต่างพากันร้องเรียนบนโซเชียลมีเดียและฟอรัมเกี่ยวกับการขาดความโปร่งใส พวกเขาโต้แย้งว่าข้อจำกัดประสิทธิภาพที่ซ่อนอยู่ทำให้ไม่สามารถเข้าใจได้ว่าทำไมคำถามที่ถูกต้องถึงถูกบล็อก กระแสตอบรับเชิงลบทวีความรุนแรงขึ้นเมื่อผู้ใช้พบว่าไม่สามารถปรับการตั้งค่าเพื่อเลี่ยงข้อจำกัดเหล่านี้ได้
จากกำแพงที่มองไม่เห็นสู่ขอบเขตที่มองเห็นได้
ก่อนหน้านี้ Claude ใช้มาตรการป้องกันประสิทธิภาพที่ซ่อนอยู่ซึ่งทำงานโดยไม่ให้ผู้ใช้มองเห็น ตอนนี้ Anthropic กำลังเปลี่ยนมาใช้มาตรการป้องกันแบบมองเห็นได้ซึ่งจะแจ้งเตือนผู้ใช้ทันทีเมื่อเนื้อหาถูกตรวจจับ บริษัทยืนยันว่าการเปลี่ยนแปลงนี้ตอบสนองโดยตรงต่อความต้องการของชุมชนที่ต้องการความชัดเจน ผู้ใช้จะเห็นเหตุผลเฉพาะเจาะจงว่าทำไมข้อความถึงถูกตรวจจับ เช่น 'ตรวจพบเนื้อหาที่ละเอียดอ่อน' หรือ 'เกินขอบเขตบริบท' แทนที่จะเป็นข้อผิดพลาดทั่วไป
ข้อแลกเปลี่ยน: การตรวจจับที่ผิดพลาดเชิงบวกมากขึ้นในอนาคต
Anthropic ยอมรับว่ามาตรการป้องกันแบบมองเห็นได้จะทำให้เกิดการตรวจจับเนื้อหาที่ผิดพลาดเชิงบวกมากขึ้น ซึ่งหมายความว่าข้อความที่ไม่เป็นอันตราย เช่น การพูดคุยเกี่ยวกับเหตุการณ์ทางประวัติศาสตร์หรือหัวข้อทางวิชาการ อาจถูกบล็อกบ่อยกว่าเมื่อเทียบกับระบบที่ซ่อนอยู่ บริษัทระบุว่าการเพิ่มขึ้นนี้เป็นผลที่หลีกเลี่ยงไม่ได้ของความโปร่งใส แม้ว่าจะไม่ได้ระบุปริมาณที่คาดว่าจะเพิ่มขึ้น วิศวกรกำลังให้ความสำคัญกับการปรับปรุงความแม่นยำของมาตรการป้องกัน แต่เตือนว่าผู้ใช้ควรคาดหวังการหยุดชะงักที่บ่อยขึ้นในช่วงเปลี่ยนผ่าน
สิ่งที่ผู้ใช้จะพบเจอ
มาตรการป้องกันแบบมองเห็นได้กำลังเริ่มนำไปใช้ทันทีในทุกอินเทอร์เฟซของ Claude ผู้ใช้จะเห็นป๊อปอัปแจ้งเตือนที่ชัดเจนอธิบายว่าทำไมอินพุตของพวกเขาถึงถูกตรวจจับ รวมถึงการอ้างอิงแนวทางเฉพาะ แม้ว่าบางคนจะยินดีกับความโปร่งใส แต่คนอื่นๆ ก็รายงานความหงุดหงิดเล็กน้อยทันทีเมื่อข้อความที่ถูกต้องถูกตรวจจับ บริษัทยังไม่ได้ให้คำมั่นว่าจะลดการตรวจจับที่ผิดพลาดเชิงบวก แต่กล่าวว่ากำลังรวบรวมความคิดเห็นจากผู้ใช้เพื่อปรับปรุงระบบ
ทีมวิศวกรของ Anthropic กำลังติดตามข้อมูลการเปิดตัวในช่วงแรกในขณะที่ผู้ใช้พบเจอการตรวจจับแบบใหม่ที่มองเห็นได้เป็นครั้งแรก
