「あとで外せばいい」は、だいたい間に合わない：米国防総省がAIを止められなかった構造
ある日、情報システム部から連絡が来る。
「このAI、月末で使えなくなります」
現場はまず、別のモデルに替えればいいと思う。
でも実際に止まるのは、AIではなく仕事の流れだ。
これは想像の話ではない。
2026年3月19日、ロイターが報じた米国防総省の混乱が、まさにそれだった。
以前から、この問題の経緯を追ってきた。「誰がブレーキを握るのか」が一貫した問いだった。今回の報道で見えたのは、実際にブレーキを引いた後に起きることだった。
この記事のポイント
生成AIは便利な道具として入り、気づくと業務の配管になる。
配管はスイッチのようには切れない。止めると仕事の流れごと止まる。
必要なのは活用ルールより先に、「止める日の設計」だ。
米国防総省で何が起きたか
事実の整理から入る。
米国防総省は2月27日、AI企業アンスロピックの製品「Claude」の排除方針を公表した。3月3日付の書簡で、同社は正式に「供給網リスク」に指定された。
表向きの理由は、同社が一部の軍事利用を制限していることだった。ただし政府は裁判書面で、利用制限だけでなく、アンスロピックを信頼できる供給者とみなせるか、戦闘インフラへの継続的なアクセスそのものがリスクではないかも争点だと主張している。
ここで誤解されやすい点がある。
アンスロピックは軍事利用そのものを拒否していない。情報分析、作戦計画、サイバー対応は広く支援していた。この交渉で争点になったのは「完全な自律兵器」と「米国内の大規模監視」の二点だった。
排除は簡単に見える。命令を出して、別のモデルに替えればいい。
しかしロイターによると、Claudeは機密ネットワークで運用を許可された最初の大規模AIモデルだった。パランティア社の情報統合システム「メイブン」や、開発支援ツール「Claude Code」を通じて業務に組み込まれていた。契約関係者はClaudeを「現時点で最良のモデルだ」と見ていたという。専門家の見積もりでは、代わりのモデルへの切り替えに新たな安全審査で12か月から18か月かかりうるとされた。
ロイターは、排除命令後に一部の業務が表計算ソフトに戻ったという当局者の証言も伝えている。
この話は、防衛に限らない。
省庁、自治体、大学、病院、企業。機微な情報と説明責任を抱える組織なら、どこでも起こりうる構造だ。
以前、「AIは製品ではなく水道になった」という記事を書いた。あのときは、AIがインフラ化していく過程を追った。今回は、インフラになったあとに「止めろ」と言われたときの話だ。
なぜ「外しにくく」なるのか
ここからは米国の事例を手がかりにしつつ、もう少し広く考える。
AIが外しにくくなるのは、性能が高いからだけではない。
たいていは、3つの条件が重なったときだ。
1. 社内の審査を通った
情報セキュリティ、法務、個人情報保護、監査。
一度これらを通ったモデルは、「使ってよいもの」として組織に定着する。
そして、別のモデルを使いたくなったときには、同じ審査をもう一度やる必要がある。
2. 仕事の手順に入った
最初は補助だったものが、やがて「これがある前提の手順」に変わる。
議事録の要約、調査の下書き、レビューの前処理、コード補助。
AIが抜けると、手順そのものに穴が開く。
3. 記録と説明責任に結びついた
どのモデルで、どの条件で、誰が処理したか。
その記録が報告書や監査と結びつくと、モデルの差し替えは「設定を変える」では済まなくなる。
この3つが揃ったとき、AIは「便利な道具」から「業務の配管」に変わっている。
配管は、スイッチのようには切れない。
壁の中を通り、別の設備とつながり、日々の流れそのものになっている。
米国防総省で起きたのも、この構造だった。
承認を通り、情報統合システムに埋め込まれ、機密処理の記録と結びついた。
排除命令が出ても、「モデルを入れ替える」では済まず、「仕事を組み直す」必要に直面した。
よく聞く3つの誤解
ここからは事実ではなく、私の観察と考えを書く。
日本の組織でも、似た前提が広がり始めていると感じる。
誤解1：複数の会社と契約しているから大丈夫
契約が複数でも、現場の運用が1社に寄っていれば、実質は一本足だ。
米国防総省も、書類の上では4社と契約を結んでいた。しかし報道によれば、機密ネットワークで最も深く組み込まれていたのはアンスロピック1社だったとみられる。
誤解2：人が最終確認しているから大丈夫
人が確認していることと、人手に戻せることは別の問題だ。
止めた日に、それまでの処理量を人が吸収できるか。その見通しがなければ、確認者がそのまま詰まりになる。
誤解3：利用ガイドラインを作ったから大丈夫
利用の手引きと、撤退の手引きは別物だ。
「どう使うか」を決めただけでは、「使えなくなった日にどうするか」は何も決まっていない。
導入するなら、先に持っておきたい問い
「こうすべきだ」と書くのは簡単だが、正直なところ、組織ごとに事情は違う。
ただ、少なくとも次の5つは、導入の時点で問いとして持っておいたほうがいいと考えている。
1. どこで何が使われているか、把握できているか
どの部署が、どのモデルの、どの版を、どの業務で使っているか。
接続先、手順書、担当者まで含めて記録があるか。
把握できていない依存は、外すこともできない。
2. 動かせる部分と、固定する部分を分けているか
入出力の形式、データの接続先、記録の管理、承認の流れ。
こうした基盤を、特定のモデルに依存しない形に保てるか。
一方で、深い最適化が必要な部分は、「ここは外しにくくなる」と自覚して固定する。
全部を交換可能にする必要はない。
でも、どこが動かせてどこが固定かは、最初に分けておく必要がある。
3. 乗り換えの合格基準があるか
別のモデルに替えたとき、何をもって「この業務に耐える」と判断するか。
品質、速度、費用、禁止事項への対応。
この基準がなければ、乗り換えの判断は最後まで「なんとなく不安」で止まる。
4. 止まった日の動き方を決めているか
別のモデルに切り替えるのか。人手に戻すのか。一部の業務を止めるのか。
避難訓練をしていない組織が火災に弱いように、「止める訓練」をしていない組織は本番に弱い。年に一度でも、「今日からこのAIが使えない」と仮定して動いてみる価値はある。
5. 誰が止めるかを決めているか
現場か。法務か。情報システムか。経営か。
誰が例外を認め、誰が継続の判断に責任を持つか。
ここが曖昧だと、停止の連絡が来ても全員が様子を見る。
逆に硬すぎると、現場は黙って抜け道を作る。
求められるのは、止める権限と現場の実情がぶつからないための回路だろう。
この話の正直なところ
ここまで書いて、予想される反応がある。
「そこまで外しやすさを気にしたら、深い活用はできなくなる」
それは、かなり正しい。
深く使えば外しにくくなるし、外しやすくすれば使い方は浅くなる。この二つは本当に引っ張り合う。
だから、目指すのは「完全に交換できる状態」ではないと思っている。
目指すのは、どこを固定したのかを自覚していること。
そして、固定した部分が壊れたときにどう動くかを、先に決めていること。
何もかも交換可能にすると、価値が薄くなる。
何もかも最適化すると、止める日が地獄になる。
その間のどこに線を引くか。
それが設計だと思う。
最後に残る問い
生成AIの話は、たいてい「何ができるか」から始まる。
性能、速度、コスト。そこに目が行くのは当然だ。
でも、組織として本当に効く問いは、少し違う。
明日、そのモデルが使えなくなったら。
90日で、どこまで仕事を守れるか。
この問いに答えられないなら、導入はまだ終わっていない。
活用が足りないのではなく、設計が終わっていない。
AIは、便利な道具として入ってくる。
そして気づくと、配管になる。
だから最初に作るべきは、活用の手引きだけではない。
止める日の設計図だ。
参考報道・資料
ロイター（2026年3月19日）「Hegseth wants Pentagon to dump Anthropic's Claude, but military users say it's not so easy」
アンスロピック公式声明（2026年2月26日・27日）国防・情報機関向けの支援方針と、二本の制限線について
米国防総省AI戦略（2026年1月）「合法な用途なら制限しない」契約標準について
米国防総省内部メモ（2026年3月6日）例外申請と準拠証明の要件について（ロイター・CBS報道による）
米政府裁判書面（2026年3月17日）供給網リスク指定の根拠と争点について