אנתרופיק שינתה את עמדתה בנוגע לאמצעי הגנה נסתרים לביצועים של קלוד בעקבות תגובת הנגד של הקהילה לאירוע 'Fable 5'. החברה תיישם כעת אמצעי הגנה גלויים במקום מגבלות ביצועים נסתרות. שינוי זה, שהוכרז ביום שלישי, יגביר את סימון התוכן השגוי כחיובי (false positives) ברחבי הפלטפורמה.
Fable 5 מצית מחאת משתמשים
אירוע 'Fable 5' בשבוע שעבר גרם לקלוד להגביל תגובות ללא הסברים ברורים, מה שהוביל לתסכול בקרב משתמשים ומפתחים. חברי הקהילה הציפו את הרשתות החברתיות והפורומים בתלונות על חוסר השקיפות. הם טענו שמגבלות ביצועים נסתרות הפכו את זה לבלתי אפשרי להבין מדוע שאלות לגיטימיות נחסמות. המחאה התגברה כשהמשתמשים גילו שאינם יכולים לשנות הגדרות כדי לעקוף את ההגבלות.
מחומות בלתי נראות לגבולות גלויים
בעבר, קלוד השתמש באמצעי הגנה נסתרים לביצועים שפעלו ללא נראות למשתמש. כעת אנתרופיק מחליפה אותם באמצעי הגנה גלויים שמודיעים מיד למשתמשים כאשר תוכן מפעיל סימון. החברה אישרה שהשינוי נובע ישירות מדרישות הקהילה לשקיפות. המשתמשים יראו סיבות ספציפיות לכך שהודעותיהם סומנו, כגון 'זוהה תוכן רגיש' או 'חריגה מגבולות הקשר', במקום שגיאות כלליות.
פשרה: יותר תוצאות חיוביות שגויות לפנינו
אנתרופיק מודה שאמצעי ההגנה הגלויים יגרמו ליותר סימון תוכן שגוי כחיובי (false positives). משמעות הדבר היא שהודעות לא מזיקות – כמו דיון באירועים היסטוריים או נושאים אקדמיים – עשויות להיחסם בתדירות גבוהה יותר מאשר תחת המערכת הנסתרת. החברה הצהירה שהעלייה הזו היא תוצאה בלתי נמנעת של שקיפות, אם כי לא כמתה את העלייה הצפויה. המהנדסים נותנים עדיפות לדיוק אמצעי ההגנה, אך הזהירו שמשתמשים צריכים לצפות להפרעות תכופות יותר במהלך המעבר.
מה המשתמשים יחוו
אמצעי ההגנה הגלויים מושקים באופן מיידי בכל הממשקים של קלוד. המשתמשים יראו כעת הודעות קופצות ברורות המסבירות מדוע הקלט שלהם הפעיל סימון, כולל הפניות להנחיות ספציפיות. בעוד שחלק בירכו על השקיפות, אחרים דיווחו מיד על תסכולים קלים מהודעות לגיטימיות שסומנו. החברה לא התחייבה להפחית תוצאות חיוביות שגויות, אך אמרה שהיא אוספת משוב משתמשים כדי לשפר את המערכת.
צוות ההנדסה של אנתרופיק עוקב אחר נתוני ההשקה המוקדמת כשהמשתמשים נתקלים לראשונה בסימונים הגלויים החדשים.
