Anthropic ndryshoi qëndrimin e saj në lidhje me masat mbrojtëse të fshehura të performancës për Claude, pas reagimit të komunitetit për incidentin 'Fable 5'. Kompania tani do të zbatojë masa mbrojtëse të dukshme në vend të kufizimeve të fshehura të performancës. Ky ndryshim, i njoftuar të martën, do të rrisë shënjimin e përmbajtjes me false pozitive në të gjithë platformën.
Fable 5 ndez zemërimin e përdoruesve
Incidenti i javës së kaluar 'Fable 5' bëri që Claude të kufizonte përgjigjet pa shpjegime të qarta, duke frustruar përdoruesit dhe zhvilluesit. Anëtarët e komunitetit përmbytën mediat sociale dhe forumet me ankesa për mungesën e transparencës. Ata argumentuan se kufijtë e fshehur të performancës e bënin të pamundur të kuptohej pse pyetjet legjitime bllokoheshin. Reagimi u intensifikua kur përdoruesit kuptuan se nuk mund të rregullonin cilësimet për të anashkaluar kufizimet.
Nga mure të padukshme në kufij të dukshëm
Më parë, Claude përdorte masa mbrojtëse të fshehura të performancës që funksiononin pa u parë nga përdoruesit. Tani Anthropic po i zëvendëson ato me masa mbrojtëse të dukshme që njoftojnë menjëherë përdoruesit kur përmbajtja shkakton një shënjim. Kompania konfirmoi se ndryshimi i përgjigjet drejtpërdrejt kërkesave të komunitetit për qartësi. Përdoruesit do të shohin arsye specifike pse mesazhet e tyre shënohen, si 'përmbajtje e ndjeshme e zbuluar' ose 'kufijtë kontekstualë të tejkaluar', në vend të gabimeve të përgjithshme.
Shkëmbim: Më shumë false pozitive përpara
Anthropic pranon se masat mbrojtëse të dukshme do të shkaktojnë më shumë shënjime false pozitive të përmbajtjes. Kjo do të thotë se mesazhet e padëmshme—si diskutimi i ngjarjeve historike ose temave akademike—mund të bllokohen më shpesh sesa nën sistemin e fshehur. Kompania deklaroi se kjo rritje është një pasojë e pashmangshme e transparencës, megjithëse nuk e përcaktoi sasinë e pritshme. Inxhinierët po i japin përparësi saktësisë së masave mbrojtëse, por paralajmëruan përdoruesit se duhet të presin ndërprerje më të shpeshta gjatë tranzicionit.
Çfarë do të përjetojnë përdoruesit
Masat mbrojtëse të dukshme po zbatohen menjëherë në të gjitha ndërfaqet e Claude. Përdoruesit tani do të shohin njoftime të qarta pop-up që shpjegojnë pse hyrja e tyre shkaktoi një shënjim, duke përfshirë referenca specifike të udhëzimeve. Ndërsa disa e mirëpritën transparencën, të tjerë raportuan menjëherë shqetësime të vogla me mesazhet legjitime që po shënoheshin. Kompania nuk është angazhuar për të reduktuar false pozitivet, por tha se po mbledh reagime nga përdoruesit për të përmirësuar sistemin.
Ekipi inxhinierik i Anthropic po monitoron të dhënat e hershme të zbatimit, ndërsa përdoruesit ndeshen për herë të parë me flamujt e rinj të dukshëm.
