Anthropic ha invertito la propria posizione sulle salvaguardie di performance invisibili per Claude in seguito alle proteste della community riguardo all'incidente 'Fable 5'. L'azienda implementerà ora salvaguardie visibili invece di limitazioni di performance nascoste. Questo cambiamento, annunciato martedì, aumenterà la segnalazione di falsi positivi dei contenuti su tutta la piattaforma.
Fable 5 scatena le proteste degli utenti
L'incidente 'Fable 5' della scorsa settimana ha visto Claude limitare le risposte senza spiegazioni chiare, frustrando utenti e sviluppatori. I membri della community hanno invaso i social media e i forum con lamentele sulla mancanza di trasparenza. Sostenevano che i limiti di performance nascosti rendessero impossibile capire perché richieste legittime venissero bloccate. La reazione negativa si è intensificata quando gli utenti hanno scoperto di non poter modificare le impostazioni per aggirare le restrizioni.
Da muri invisibili a confini visibili
In precedenza, Claude utilizzava salvaguardie di performance nascoste che operavano senza visibilità per l'utente. Ora Anthropic le sta sostituendo con salvaguardie visibili che notificano immediatamente gli utenti quando un contenuto attiva una segnalazione. L'azienda ha confermato che il cambiamento risponde direttamente alle richieste di chiarezza della community. Gli utenti vedranno motivi specifici per cui i messaggi vengono segnalati, come 'contenuto sensibile rilevato' o 'limiti contestuali superati', anziché errori generici.
Compromesso: più falsi positivi in arrivo
Anthropic riconosce che le salvaguardie visibili causeranno una maggiore segnalazione di falsi positivi dei contenuti. Ciò significa che messaggi innocui—come discussioni su eventi storici o argomenti accademici—potrebbero essere bloccati più spesso rispetto al sistema nascosto. L'azienda ha dichiarato che questo aumento è una conseguenza inevitabile della trasparenza, sebbene non abbia quantificato l'incremento previsto. Gli ingegneri stanno dando priorità all'accuratezza delle salvaguardie, ma hanno avvertito che gli utenti dovrebbero aspettarsi interruzioni più frequenti durante la transizione.
Cosa sperimenteranno gli utenti
Le salvaguardie visibili sono in fase di distribuzione immediata su tutte le interfacce di Claude. Gli utenti vedranno ora chiare notifiche a comparsa che spiegano perché il loro input ha attivato una segnalazione, inclusi riferimenti specifici alle linee guida. Mentre alcuni hanno accolto con favore la trasparenza, altri hanno subito segnalato piccole frustrazioni con messaggi legittimi che vengono segnalati. L'azienda non si è impegnata a ridurre i falsi positivi, ma ha dichiarato di raccogliere feedback dagli utenti per perfezionare il sistema.
Il team di ingegneri di Anthropic sta monitorando i dati iniziali della distribuzione mentre gli utenti incontrano per la prima volta le nuove segnalazioni visibili.
