人の介在なしに人が殺される時代がくるのか？アンソロピックvsアメリカ国防省のニュースから考える

2026年7月14日 23:18

ニューズウィーク2026.7.21号のアンソロピック特集が大変わかりやすく、なおかつ衝撃的な内容だったので、タイトルの論点と感じたことを簡単にまとめました。
個人的な覚え書きであること、ご了承ください。

導入: Anthropic(アンソロピック)のClaude Mythos(クロードミュトス)とは何か

2026年春、AI業界に衝撃を与えたモデルがAnthropicのClaude Mythos Previewだ。

日本国内のニュースでは、「セキュリティの脆弱性を驚異的な速さで発見できるAI」「悪用される危険性があるため一般公開が見送られたAI」として報じられた程度と記憶している。

しかしこのニュースが注目された理由は、それだけではない。

Claude Mythosの出現により、
AIは「人間の指示で動く道具」から、「目的を与えられると、自ら計画を立て、情報を集め、判断し、行動するAI」(≒いわゆるAIエージェント)へと進化しつつある。

それにより問われているのは「高度な判断能力を持つAIを、国家や軍事組織が利用したら何が起きるのか」という問題だ。

Anthropicはなぜアメリカ国防省の要請を断ったのか

Anthropicが、アメリカ国防省による自社AIへの無制限アクセスを断ったというニュースが話題になった。

Anthropicは特に、アメリカ国内での大規模監視と、人間の最終判断なしに攻撃する完全自律兵器への利用を認めなかった。

Anthropicの企業倫理が評価されたニュースでもあるが、一方でアメリカ国防省側が「やろうとしていること」のその先を考えると背筋が凍るようなシナリオも見えてくる。

AIは自ら「行動する存在」へ

最近では前述の「AIエージェント」のように自ら計画を立て、情報を集め、判断し、行動まで行うAIの開発が進んでいる。

もしこの能力が軍事システムと結び付けば、

* 敵を発見する
* 攻撃対象を選ぶ
* 攻撃方法を決める
* 結果を分析し、次の攻撃を判断する

という一連の流れを、人間よりはるかに速く繰り返すことができるようになる。

人間が介在しないまま人を殺害するリスク

ここで問題になるのが、「人間が最終判断を行わない戦争」である。

軍事の世界にはOODAループ（Observe、Orient、Decide、Act）という意思決定モデルがある。

もしAIがこのループを人間の何十倍、何百倍もの速度で回し始めたらどうなるだろう。

人間が状況を確認する前に、

「脅威と判断」
↓
「攻撃」
↓
「再評価」
↓
「次の攻撃」

のプロセスが一気に進んでしまう。

しかも、AIは「敵を攻撃せよ」という目標に忠実なだけで、「本当にこの攻撃で民間人が犠牲になってよいのか」という倫理的な葛藤すらない。

その結果、戦争のスピードが人間の判断能力を超え、「誰も止められない戦闘」が起こる危険性がある。

AIが自らを改善し続ける能力

更に、そうした「AIに置いてきぼりにされる人間」の構図が加速するのはAIが自らをどんどん改善できるようになってきているからだ。

現在のAIは、人間が新しいモデルを開発・学習させて性能を向上させている。

しかし今後は、

* 自分の弱点を分析する
* より良いプログラムを書く
* 新しい戦略を考える
* 自分自身をさらに改善する

というサイクルを自動かつ高速で回せるようになっていく。

もし軍事AIがこうした能力を持った場合、人間はAIの思考〜実行速度についていけなくなることが目に見えている。

それはあのターミネーターの世界線なのか？

我々はどうしても「AIが暴走して人類を滅ぼす」という映画『ターミネーター』のような世界を想像してしまう。

しかし、現実的なリスクは少し違う。

AIが人類を敵と判断することではなく、
人間が設定した目的を、AIが人間の介在できないスピードで大規模に実行してしまうことだ。

例えば、

「自国の被害を最小限に抑え、敵の軍事能力を最速で無力化せよ」

という命令だけでも、AIが効率を優先した結果、大量の民間人犠牲につながる可能性は否定できない。

AI vs 人類
ではなく
AI vs AIによる戦闘、もしくは一方的なAIによる攻撃で大勢の人が死ぬかもしれない。

Anthropicのニュースが問いかけていること

私たちが今まさに突きつけられているのは:
AIが人間の能力を超えて意思決定できるようになったとき、その力を誰がどんなルールで使うのか。

という問いだ。

企業のモラルだけで、この問題を防ぎ続けることはどう考えても無理だ。

もし別の企業や国家が同じ技術を開発すれば、安全装置は簡単に解除されてしまうからだ。

世界はどう対処するのか？

もちろんルールづくりに誰も動いていないわけではない。
例えば現在、国連を中心に「人間が最終判断を行うこと（Meaningful Human Control）」を国際ルールとして定めようという議論が進められているそうだ。

とはいえテクノロジーの進化は文字通り高速で日進月歩。
一方で人間同士の議論は互いの利権が絡み合い、なかなか落としどころに着地するのに時間がかかるものだ。

AIが暴走する前に人類が協調しなければ。
分かってはいるが昨今の世界情勢を見ると利己的な一部の人間によって世界は掻き乱され続けている。どうしても人類の行く末を悲観してしまうのは私だけではないはずだ。

*Newsweekの記事リンク(全文が読めるのは会員限定です。ちなみに私は楽天マガジンに登録してNewsweekは読んでいます。)
https://www.newsweekjapan.jp/articles/-/328351