Anthropic zmienił swoje stanowisko w sprawie niewidocznych zabezpieczeń wydajnościowych dla Claude'a po krytyce społeczności dotyczącej incydentu z 'Fable 5'. Firma wdroży teraz widoczne zabezpieczenia zamiast ukrytych ograniczeń wydajności. Ta zmiana, ogłoszona we wtorek, zwiększy liczbę fałszywych alarmów dotyczących flagowania treści na całej platformie.
Fable 5 wywołuje oburzenie użytkowników
Incydent 'Fable 5' z zeszłego tygodnia sprawił, że Claude ograniczał odpowiedzi bez jasnych wyjaśnień, frustrując użytkowników i programistów. Członkowie społeczności zalali media społecznościowe i fora skargami na brak przejrzystości. Twierdzili, że ukryte limity wydajności uniemożliwiały zrozumienie, dlaczego blokowane są uzasadnione zapytania. Reakcja nasiliła się, gdy użytkownicy odkryli, że nie mogą dostosować ustawień, aby ominąć ograniczenia.
Od niewidzialnych murów do widocznych granic
Wcześniej Claude stosował ukryte zabezpieczenia wydajnościowe, które działały bez wiedzy użytkownika. Teraz Anthropic zastępuje je widocznymi zabezpieczeniami, które natychmiast powiadamiają użytkowników, gdy treść uruchomi flagę. Firma potwierdziła, że zmiana ta jest bezpośrednią odpowiedzią na żądania społeczności dotyczące jasności. Użytkownicy zobaczą konkretne powody, dla których wiadomości zostały oznaczone, takie jak 'wykryto wrażliwe treści' lub 'przekroczono granice kontekstowe', zamiast ogólnych błędów.
Kompromis: więcej fałszywych alarmów przed nami
Anthropic przyznaje, że widoczne zabezpieczenia spowodują więcej fałszywych alarmów dotyczących flagowania treści. Oznacza to, że nieszkodliwe wiadomości – na przykład omawiające wydarzenia historyczne lub tematy akademickie – mogą być blokowane częściej niż w ukrytym systemie. Firma oświadczyła, że ten wzrost jest nieuniknioną konsekwencją przejrzystości, choć nie określiła ilościowo oczekiwanego wzrostu. Inżynierowie priorytetowo traktują dokładność zabezpieczeń, ale ostrzegli użytkowników, aby spodziewali się częstszych przerw w trakcie przejścia.
Czego doświadczą użytkownicy
Widoczne zabezpieczenia są wdrażane natychmiast we wszystkich interfejsach Claude'a. Użytkownicy zobaczą teraz wyraźne powiadomienia wyskakujące wyjaśniające, dlaczego ich dane wejściowe wywołały flagę, w tym konkretne odniesienia do wytycznych. Podczas gdy niektórzy przyjęli przejrzystość z zadowoleniem, inni natychmiast zgłosili drobne frustracje związane z oznaczaniem uzasadnionych wiadomości. Firma nie zobowiązała się do zmniejszenia liczby fałszywych alarmów, ale stwierdziła, że zbiera opinie użytkowników w celu udoskonalenia systemu.
Zespół inżynieryjny Anthropic monitoruje wczesne dane z wdrożenia, gdy użytkownicy po raz pierwszy napotykają nowe widoczne flagi.
