Anthropic muutti kantaansa Clauden näkymättömiin suorituskykysuojatoimiin yhteisön vastareaktion jälkeen liittyen 'Fable 5' -tapaukseen. Yritys ottaa nyt käyttöön näkyviä suojatoimia piilotettujen suorituskykyrajoitusten sijaan. Tiistaina ilmoitettu muutos lisää virheellistä sisällön merkitsemistä koko alustalla.
Fable 5 sytyttää käyttäjäkohun
Viime viikon 'Fable 5' -tapauksessa Claude rajoitti vastauksia ilman selkeitä selityksiä, mikä turhautti käyttäjiä ja kehittäjiä. Yhteisön jäsenet täyttivät sosiaalisen median ja foorumit valituksilla läpinäkyvyyden puutteesta. He väittivät, että piilotetut suorituskykyrajat tekivät mahdottomaksi ymmärtää, miksi oikeutetut kyselyt estettiin. Kohu kiihtyi, kun käyttäjät huomasivat, etteivät he voineet säätää asetuksia kiertääkseen rajoituksia.
Näkymättömistä seinistä näkyviin rajoihin
Aiemmin Claude käytti piilotettuja suorituskykysuojatoimia, jotka toimivat ilman käyttäjän näkyvyyttä. Nyt Anthropic korvaa ne näkyvillä suojatoimilla, jotka ilmoittavat käyttäjälle välittömästi, kun sisältö laukaisee merkinnän. Yritys vahvisti muutoksen olevan suora vastaus yhteisön vaatimuksiin selkeydestä. Käyttäjät näkevät erityiset syyt sille, miksi viestit merkitään, kuten 'arkaluonteista sisältöä havaittu' tai 'kontekstuaaliset rajat ylitetty', yleisten virheilmoitusten sijaan.
Kompromissi: enemmän vääriä positiivisia tuloksia edessä
Anthropic myöntää, että näkyvät suojatoimet aiheuttavat enemmän virheellistä sisällön merkitsemistä. Tämä tarkoittaa, että harmittomat viestit – kuten historiallisten tapahtumien tai akateemisten aiheiden käsittely – voidaan estää useammin kuin piilotetussa järjestelmässä. Yritys totesi tämän lisäyksen olevan väistämätön seuraus läpinäkyvyydestä, vaikka se ei määritellyt odotettua kasvua. Insinöörit priorisoivat suojatoimien tarkkuutta, mutta varoittivat käyttäjiä odottamaan useampia keskeytyksiä siirtymävaiheen aikana.
Mitä käyttäjät kokevat
Näkyvät suojatoimet otetaan käyttöön välittömästi kaikissa Claude-liittymissä. Käyttäjät näkevät nyt selkeitä ponnahdusilmoituksia, jotka selittävät, miksi heidän syötteensä laukaisi merkinnän, mukaan lukien erityiset ohjeviittaukset. Vaikka jotkut toivottivat läpinäkyvyyden tervetulleeksi, toiset raportoivat heti pienistä turhautumisista, kun oikeutetut viestit merkittiin. Yritys ei ole sitoutunut vähentämään vääriä positiivisia tuloksia, mutta sanoi keräävänsä käyttäjäpalautetta järjestelmän hiomiseksi.
Anthropicin insinööritiimi seuraa varhaisia käyttöönottotietoja, kun käyttäjät kohtaavat uudet näkyvät merkinnät ensimmäistä kertaa.
