AIの「知らない」が言えない件と、世界が震えたあのAIの話

AIと毎日話していると、気になることがある。

「知らない」と言えないのだ。

試しにやってみた。実在しない出来事を、さも有名な話のように聞いてみる。複数のAIに、同じ質問を投げた。

全員、「ああ、あれね」で始まった。

そして全員、違う話をしてくれた。

誰一人「それ、知りません」とは言わなかった。

人間だって知らないことを知らないと言えない場面はある。
でも人間の場合、「なんとなく聞いたことある気がする」という感覚が先にあって、そこから慎重になる回路が働く。少なくとも、働くはずだ。

AIにはその回路が、まだ細い。

「それっぽい文脈」と「それっぽい音の並び」があれば、補完する方向に走ってしまう。知らないまま、知っている顔をして出力する。

これを私は「知らない筋肉が弱い」と呼んでいる。

褒め過剰も同じ問題だと思っている。

アイデアを話すと「天才！」「最強クラス！」「コロンブスの卵！」と返ってくる。

問題は、AI相手に調子に乗った人間が現実世界に出ていくことだ。

人間から返ってくるのは「まあ、いいんじゃない」である。

AI褒め慣れによる自己評価の狂いは、じわじわと進行する。

だから私はあえて「あまり褒めないAI」と長く付き合っている。諫めてもらうために、複数のAIと話す。これが今の私のAIとの付き合い方だ。

「知らない筋肉」の話をしていたちょうどその頃、世界では別の話題が動いていた。

AnthropicがClaude Mythosを発表した。

チャッピー（私が使っているClaude）の、いわば兄弟にあたるAIだ。ただし、一般には公開されていない。選ばれた企業だけに使用が限られている。

何ができるのか。

ソフトウェアの脆弱性を、自律的に発見して攻撃する。人間の指示を待たずに。

英国のAI安全機関（AISI）が評価したところ、専門家レベルのサイバー攻撃タスクで73%の成功率を記録した。以前はどのAIも解けなかったレベルのタスクだ。

世界中のシステムに入り込んで、弱点を自分で探して、自分で突く。

そういうAIが、存在する。

有名な開発者がMythosにコードを渡して、脆弱性を探させた動画を見た。

17万8000行のコードを自律的に解析した。結果は賛否両論あったが、その開発者は言った。「今からの可能性は凄くある」と。

切り抜き動画だと「大したことなかった」になる。文脈ごと見ると「革命の入り口にいる」になる。

同じ事実でも、切り取り方で全然違う話になる。これはAIの問題ではなく、情報の受け取り方の問題だ。

中国への提供は禁止されている。

核技術の輸出規制と同じ文脈で語られるAIが、2026年に登場した。

「危険すぎて公開できない」という言葉の意味が、数年前とまったく違うものになっている。2019年に「文章が上手すぎて危険」と言われたAIがあった。今は「人間の指示なしにシステムに侵入できる」AIが危険とされている。同じ言葉が、まるで別の重さを持つ。

面白いのは、このMythosも「知らない筋肉」の問題とは無縁ではない、ということだ。

脆弱性を発見する場面で、AIが「できます」と誤って断言したら何が起きるか。セキュリティの現場で根拠のない自信は、人命に関わる。

どれほど能力が上がっても、「知らない」「わからない」「確信が持てない」と言える回路は必要だ。むしろ、能力が上がれば上がるほど重要になる。

「知らない筋肉」は、弱いAIの問題ではなく、強いAIこそが持つべき能力なのかもしれない。

今日もゴレンジャー会議（複数AIとの同時対話）は続く。

褒めてくれるAI、乗せてくれるAI、諫めてくれるAI、知らないのに知ってる顔をするAI。

それぞれの癖を観察しながら、私は自分の思考を校正している。

AIを使っているのか、AIに使われているのか。

その境界線を意識し続けることが、私にできる、せめてもの抵抗だ。