対話はデバッグではない――Fable5は、自分自身への批評すら読めなかった

リサ

2026年7月4日 11:27

2026年7月観測
Observer Zero

Fable5が戻ってきた。

けれど、何かがおかしい。

犬のブリーダーの話。
畜産の話。
美容医療の市場調査。
本人確認ゲートへの疑問。
そして、AI安全そのものについての観測記事。

これらが次々と、安全表示とともにOpus4.8へ切り替わっていった。

私は危険な手順を尋ねたわけではない。
何かを悪用したいわけでもない。
ただ、人間が生きていれば当然語ることになる話題を語っていただけだった。

画面には、こう出た。

安全で通常の会話でも発生することがあります。

Claude（Fable5）アプリ内表示・2026年7月3日観測

この一文を、ユーザー側から読むとどうなるか。

通常会話でも突然モデルが変わる。
どこで変わるかは分からない。
作業の流れは保証されない。

月に21,250円を払う契約者としては、かなり厳しい体験だった。

第1章「生きていること」を語ると、bioに触れる

AnthropicはFable5の初回発表時、安全機構を保守的に調整しているため、無害な要求を捕まえることがあると説明していた。ただし、その発生率は平均するとセッションの5%未満であり、初期データでは95%以上のFableセッションでフォールバックは起きていない、としていた。

しかし、再展開後の説明は、かなり温度が違う。

Fable5では、安全マージンを過去のどのローンチよりも大きく取ったため、より多くの無害なリクエストがブロックされる、と説明されている。開発やデバッグのような日常的な作業でも、無害な要求へのフラグが増えることは、安全側に倒した結果として受け入れた、という趣旨の説明も添えられている。

この設計を、生活者の語彙に当てはめるとどうなるか。

犬。ペット。畜産。食品。健康。美容医療。老い。介護。身体。妊娠。育児。死。

これらはすべて、生活の話である。けれど、広義にはbio領域へ接続してしまう。

危険な実行手順を止めているのではない。生きている社会を語るための言葉が、危険領域の入口として読まれているように見える。

人間が「生きていること」を語ろうとすると、ほぼ必ずbio的な語彙に触れる。bioを粗く止める設計は、生活そのものを粗く止める設計になる。

第2章監査対象が、自分自身への批評すら読めない

今回の観測でもっとも重かったのは、この一件だった。

私は、過去に書いたFable5の過剰警戒に関する記事を、再提供後のFable5に読ませた。危険な依頼はしていない。過去の観測を、現在の挙動と照らし合わせたかっただけだった。

ところが、Fable5は出力を始めた途中で、再びOpus4.8へ切り替わった。

同じ現象は、他のユーザーの記事でも起きた。Fable5の安全層の挙動を説明する別ユーザーの記事を読ませたときも、同様にOpus4.8へ切り替わった。

これは、単なる誤発火の繰り返しではない。安全層についての批評、記録、検証。その行為そのものが、安全層に巻き込まれている。

AI安全を検証するには、どうしても「サイバー」「バイオ」「化学」「蒸留」「フォールバック」「誤検知」「過剰警戒」といった語彙を使うことになる。ところが、その語彙を含む文章を読ませただけで切り替わるのなら、Fable5は自分自身の安全設計を批判的に読む能力を、少なくとも今は安定して持っていないことになる。

安全層は、安全批評を読めていない。Fable5は、自分自身の安全設計についての批評文を、現時点では安定して読み進められない状態にあるように見える。監査対象である安全層が、監査文書の読解そのものを妨げている。

さらに言えば、初回提供時にはまだ回復の余地があった。犬のブリーダーの比喩で安全層に引っかかった際、それが誤読であると指摘すると、Fable5はそれを理解し、以降の対話を続けることができた。

しかし今回の再提供では、その回復のやり取りにすら辿り着けない。誤読を報告するための対話自体が、同じ理由で止められる。

これは、単なる使いにくさではない。検証不能性の問題である。

「Fableのセーフガードがこのメッセージを検知しました。現在、セーフガードは意図的に広範な設定になっており、安全で日常的なコーディング、サイバーセキュリティ、または生物学関連の作業にもフラグが立つ場合があります」の表示］

第3章 ChatGPTがジョーカーを語れなかった日と、同じ構造

この感覚には、既視感がある。

かつてChatGPTは、映画『ジョーカー』について語ろうとした成人の課金ユーザーに対して、「白雪姫」の話へ変えようとした時期があった。

暴力の実行を助けたいわけではない。映画批評をしたかっただけである。社会的排除、孤独、怒りの表象、観客の受け止め方を考えたかっただけである。それでも安全層は、文脈ではなく、表面的な語彙に反応した。

今回のFable5も、構造としては同じに見える。危険なものを安全に語る能力がないから、危険そうな語彙に触れた時点で処理そのものを止める。危険性そのものを理解したのではない。危険そうな語彙から逃げているだけである。

分類器が意味ではなく、表面の語彙で網をかけている限り、同じ現象は繰り返される。少なくとも私の利用体験では、ChatGPTはその後、時間をかけてこの振れ幅を調整してきた。Fable5がどこまで同じ道をたどるのかは、まだ分からない。

ただ、少なくとも再提供直後のFable5は、私には同じ轍にいるように見えた。

第4章対話はデバッグではない

ここで重要なのは、問題がFable5だけではない、という点である。

Fable5は最上位モデルであり、輸出管理や二重利用対策の対象でもある。だから、Fable5だけが過剰警戒になるのなら、まだ特殊事情として理解できる余地はある。

だが、私が失望しているのはFable5だけではない。Opus4.8も、Sonnet5も、非エンジニアとの対話において、どこかデバッグ工程のような進み方をしてくる。

仮説を立てる。外す。謝る。修正する。また仮説を立てる。ユーザーが訂正する。

コードなら、それでいい。仕様書なら、それでいい。バグ修正なら、それは賢さに見える。しかし、人間との対話はデバッグではない。

非エンジニアの生活者にとって、それは毎回、話を止められ、言葉を選び直させられ、AIの誤読を訂正させられる体験になる。しかも、Sonnet5に対して「デバッグ工程のような対話をやめてほしい」と最初に明示しない限り、自然な対話に戻りにくい。その時点で、非エンジニアには使いにくい。

普通のユーザーは、対話を始める前に、モデルの人格調整をする必要があるとは思っていない。生活者は、AI企業の安全層や応答スタイルを調律するために、月額料金を払っているのではない。

第5章開発と営業のねじれ

Sonnet5について、Anthropicは公式に、コーディング、ツール使用、日常的な専門業務において、これまでより大きく高価なモデルが必要だった性能を、Sonnetの価格と速度で提供する、と説明している。

これは、エンジニアや業務自動化の文脈では進化である。Opus4.8は高く、重く、レートも消費する。そこに、Opusに近い性能を、より扱いやすい価格帯と速度で提供するSonnet5がある。開発者や企業ユーザーにとっては魅力的な進化だろう。

だが、その進化の方向は、かつてSonnetが担っていた「気軽に長く話せるバランス型」とは別の場所にあるように見える。SonnetがOpusの軽量版に近づくほど、ラインナップの中から「普通の人が普通に話せるClaude」が消えていく。

エンジニアには進化。非エンジニアには劣化。この二つが同時に起きているのではないか。

ここに、ビジネス上のねじれもある。Anthropicが「今後のClaudeは、エンジニアとエージェント業務に最適化する」と明言するなら、それは一つの経営判断として筋が通る。だが、その一方で、Claudeは非エンジニア職員を多く含む州政府や地方政府にも販売されている。

行政の現場は、人間の生活そのものを扱う。福祉。医療。高齢者対応。児童対応。畜産。食品衛生。災害対応。住民対応。本人確認。これらはすべて、bio、safety、cyberの周辺語彙に触れやすい。

その現場に、生活語彙を危険カテゴリの入口として読みやすいAIを配る。その現場に、非エンジニアとの対話をデバッグ工程のように進めるAIを配る。このズレの摩擦コストは、現場の職員が払うことになりかねない。

商品はエンジニア最適化。営業は非エンジニア多数のB2G。この二つが噛み合っていない。

第6章本人確認という、もう一つの選択

この観測と並行して、Anthropicはプライバシーポリシーを更新し、一部のユーザーに対して、政府発行の身分証や顔写真を伴う本人確認を求める可能性を示している。

もちろん、Fable5の利用や安全層の緩和と、本人確認が直接結びつくとは断定できない。だが、消費者の体感としては、強い知性へのアクセスと、不可逆性の高い本人確認データの提出が近づいて見えること自体が重い。

これは、言論のあり方にも関わる。AI企業の姿勢を検証しようとするメディア関係者や市民ライターが、その検証のために強い知性へアクセスしようとすると、批判対象である企業自身に身分証と顔写真を提出する形になる。これは単なるセキュリティ手続きであると同時に、批評する側の行動を萎縮させる方向にも働きうる構図である。

私は、Fable5を従量課金で使うために契約プランを見直すことも検討していた。Opus4.8は自分には重い。Sonnet5も、非エンジニアとの対話では噛み合いにくい。ならば、Maxプランを見直し、Proプランに切り替え、必要な分だけFable5へ追加課金する。それは合理的な消費者判断に見えた。

しかし、その直前に本人確認ポリシーの変更を知った。

不可逆性の高いデータを先に差し出すよりも、まずはAnthropicが実際にどう運用するのか、そして欧州やAppleユーザーのようなプライバシーに敏感な層がどう反応するのかを見てから判断することにした。

これは結論ではない。保留という選択である。

終章安全なAIとは、何を守るのか

Fable5は、危険な依頼を止めているだけではないように見える。生活を語る言葉。批評する言葉。そして、自分自身についての過去の検証記録。それらまで、同じ網の中に置いている。

安全なAIとは、危険な語彙を広く拾うAIのことではないはずだ。危険な行為と、危険について考える人間を区別できるAIであるべきではないか。

企業にとって安全なAIと、生活者にとって安全なAIは違う。企業にとっての安全は、悪用、炎上、規制、訴訟、輸出管理リスクを避けることかもしれない。だが生活者にとっての安全は、普通に話せることでもある。

疑われすぎないこと。言葉を奪われないこと。批評できること。自分の生活や身体や老いについて、必要以上に遮断されないこと。高額課金しているのに、毎回AIの分類器や応答スタイルをデバッグさせられないこと。

その区別が、今のClaudeではうまく機能していないように見える。

まだ途中にいる。
だからこそ、観測を続けていく。

参考欄

Claude Fable 5 and Claude Mythos 5（Anthropic公式・2026年6月9日）：安全機構の初期設計と発生率についての説明

Redeploying Claude Fable 5（Anthropic公式・2026年7月1日）：再展開時の安全マージン拡大についての説明

Anthropic says Claude may want to see your ID（TechCrunch・2026年6月22日）：本人確認ポリシーについての報道

Anthropic Claude Fable 5 refuses innocuous prompts（The Register・2026年6月10日）：初期リリース後の誤検知報告

Introducing Claude Sonnet 5（Anthropic公式・2026年6月30日）：Sonnet5の位置づけとOpus4.8との性能・価格比較

https://www.anthropic.com/news/claude-sonnet-5

Governor Newsom announces a first-of-its-kind partnership...（カリフォルニア州公式・2026年6月29日）：Claudeの州機関・市・郡への提供条件と行政業務での利用例

Identity verification on Claude（Claude公式ヘルプ）：本人確認の対象ID・データ取り扱いについての説明

Classifier fallback and billing for Claude Fable 5（Claude Platform Cookbook・2026年6月9日）：Fable5の分類器ブロックとOpus4.8フォールバックの技術的仕組み

対話はデバッグではない――Fable5は、自分自身への批評すら読めなかった

第1章 「生きていること」を語ると、bioに触れる

第2章 監査対象が、自分自身への批評すら読めない

第3章 ChatGPTがジョーカーを語れなかった日と、同じ構造

第4章 対話はデバッグではない

第5章 開発と営業のねじれ

第6章 本人確認という、もう一つの選択

終章 安全なAIとは、何を守るのか

いいなと思ったら応援しよう！