Anthropicは、コミュニティからの「Fable 5」事件への反発を受け、Claudeのパフォーマンスに関する非可視的なセーフガードの方針を撤回した。同社は今後、隠れたパフォーマンス制限ではなく、可視的なセーフガードを導入する。この変更は火曜日に発表され、プラットフォーム全体でコンテンツフラグの誤検出が増加する見込みだ。
Fable 5がユーザーの怒りを招く
先週の「Fable 5」事件では、Claudeが明確な説明なしに応答を制限し、ユーザーや開発者を苛立たせた。コミュニティメンバーはソーシャルメディアやフォーラムに透明性の欠如に対する苦情を殺到させた。彼らは、隠れたパフォーマンス制限では、正当なクエリがなぜブロックされたのか理解できないと主張した。ユーザーが設定を調整して制限を回避できないことに気づいたことで、反発はさらに強まった。
見えない壁から見える境界へ
以前、Claudeはユーザーに見えない形で動作する隠れたパフォーマンスセーフガードを使用していた。現在Anthropicは、コンテンツがフラグをトリガーした際に即座にユーザーに通知する可視的なセーフガードに置き換えている。同社はこの変更が、明確さを求めるコミュニティの要求に直接応えたものだと認めている。ユーザーには、一般的なエラーではなく、「機密コンテンツが検出されました」や「コンテキストの境界を超えました」など、メッセージがフラグされた具体的な理由が表示される。
トレードオフ：今後増加する誤検出
Anthropicは、可視的なセーフガードによりコンテンツフラグの誤検出が増加することを認めている。つまり、歴史的な出来事や学術的なトピックについての議論など、無害なメッセージが、隠れたシステムのときよりも頻繁にブロックされる可能性がある。同社は、この増加は透明性の避けられない結果であると述べているが、予想される増加率については明らかにしていない。エンジニアはセーフガードの精度向上を優先しているが、移行期間中はユーザーがより頻繁に中断を経験することを覚悟すべきだと警告している。
ユーザーが体験すること
可視的なセーフガードは、すべてのClaudeインターフェースで直ちに展開されている。ユーザーは今後、自分の入力がなぜフラグをトリガーしたのか、具体的なガイドラインの参照を含む明確なポップアップ通知を目にすることになる。透明性を歓迎する声がある一方で、正当なメッセージがフラグされたことに対する小さな不満を即座に報告するユーザーもいる。同社は誤検出を減らすことを約束していないが、システムを改善するためにユーザーフィードバックを収集していると述べている。
Anthropicのエンジニアリングチームは、ユーザーが新しい可視的なフラグに初めて遭遇する中、初期の展開データを監視している。
