Společnost Anthropic změnila svůj postoj k neviditelným bezpečnostním opatřením pro Claude po odporu komunity kvůli incidentu „Fable 5“. Firma nyní místo skrytých omezení výkonu zavede viditelná bezpečnostní opatření. Tato změna, oznámená v úterý, povede k častějšímu falešně pozitivnímu označování obsahu na celé platformě.
Fable 5 vyvolává vlnu kritiky uživatelů
Při incidentu „Fable 5“ z minulého týdne Claude omezoval své odpovědi bez jasného vysvětlení, což frustrovalo uživatele i vývojáře. Členové komunity zaplavili sociální sítě a fóra stížnostmi na nedostatek transparentnosti. Tvrdili, že skrytá omezení výkonu znemožňovala pochopit, proč byly legitimní dotazy blokovány. Odpor zesílil, když si uživatelé uvědomili, že nemohou upravit nastavení, aby omezení obešli.
Od neviditelných zdí k viditelným hranicím
Dříve Claude používal skrytá bezpečnostní opatření, která fungovala bez vědomí uživatelů. Nyní je Anthropic nahrazuje viditelnými bezpečnostními opatřeními, která uživatele okamžitě upozorní, když obsah spustí označení. Společnost potvrdila, že tato změna je přímou reakcí na požadavky komunity na jasnost. Uživatelé uvidí konkrétní důvody, proč byly zprávy označeny – například „zjištěn citlivý obsah“ nebo „překročeny kontextové hranice“ – místo obecných chybových hlášek.
Kompromis: Více falešně pozitivních výsledků
Anthropic přiznává, že viditelná bezpečnostní opatření povedou k častějšímu falešně pozitivnímu označování obsahu. To znamená, že neškodné zprávy – například diskuse o historických událostech nebo akademických tématech – mohou být blokovány častěji než u skrytého systému. Společnost uvedla, že toto zvýšení je nevyhnutelným důsledkem transparentnosti, ačkoli nevyčíslila očekávaný nárůst. Inženýři upřednostňují přesnost bezpečnostních opatření, ale varovali, že by uživatelé měli během přechodu očekávat častější přerušení.
Co uživatelé zažijí
Viditelná bezpečnostní opatření jsou okamžitě zaváděna ve všech rozhraních Claude. Uživatelé nyní uvidí jasná vyskakovací oznámení vysvětlující, proč jejich vstup spustil označení, včetně odkazů na konkrétní pokyny. Zatímco někteří transparentnost uvítali, jiní okamžitě hlásili drobné frustrace z legitimních zpráv, které byly označeny. Společnost se nezavázala ke snížení falešně pozitivních výsledků, ale uvedla, že shromažďuje zpětnou vazbu od uživatelů k vylepšení systému.
Inženýrský tým Anthropic monitoruje data z prvního nasazení, když uživatelé poprvé narážejí na nová viditelná označení.
