先端AIの国家管理で、日本は「使わせてもらう国」になるのか
読売新聞オンラインは、米政府が最先端AIを国家レベルで管理する構想を進め、G7各国に参加を呼びかけていると報じた。
「国家管理」と聞くと、政府が生成AIを所有し、一般利用者の使い方まで統制する姿を想像しやすい。だが、今回報じられている構想は、それとは少し違う。
対象として想定されているのは、高度なサイバー能力を持つと評価された一部の先端AIだ。こうしたモデルへのアクセスを、一定の条件を満たす国や企業などに認め、サイバー防御に活用しようとしている。
AIを国有化するというより、最も強力なAIを誰に使わせるかに、米政府が関与する構想に近い。
なぜ国家管理が必要とされるのか
先端AIは、システムの弱点を探し、修正方法を提案するために使える。
防御側には心強い能力だが、攻撃者に渡れば、侵入可能な弱点を探す作業などに転用される可能性もある。防御用と攻撃用で、まったく別の技術が使われるわけではない。
Yahoo!ニュースのコメント資料には、AIへプログラム解析を依頼した経験から、その能力に便利さ以上の怖さを感じたとする投稿もあった。犯罪集団や敵対国への流出を防ぐため、国家レベルの管理が必要だという意見も見られた。
こうした投稿が、AIの危険性を証明するわけではない。それでも、高性能なAIを利用した人が、その能力の高さに不安を覚えること自体は理解できる。
強力な能力は、一度広く公開されれば回収が難しい。「悪用禁止」と利用規約に書くだけで止められるとも限らない。
利用者を審査し、情報管理やセキュリティの条件を課すことには合理性がある。
管理されるのはAIより、利用資格だ
今回の構想で大きな意味を持つのは、AIモデルの所有権だけではない。
誰にアクセスを認めるのか。どの条件を課すのか。違反や安全上の懸念が生じたとき、誰が利用を止めるのか。
その決定権も、AIの性能と同じくらい重い。
これまでもAI企業は、自社サービスの利用規約を定め、提供する国や機能を選んできた。だが、先端AIが安全保障上の技術として扱われれば、提供先を企業だけで決めることが難しくなる可能性がある。
外交関係や情報管理体制によって、利用を認められる国・企業と、認められない側が分かれるかもしれない。
日本の政府機関や企業が「信頼できるパートナー」に選ばれれば、対象となる先端AIをサイバー防御に利用できる可能性がある。
日本だけですべてを開発するより、すでに存在する高度な技術を共有した方が、早く防御力を高められる場面もあるだろう。
ただし、利用を認められることと、利用条件を対等に決められることは別だ。
米国側が提供条件を変更した場合、日本はどこまで制度の見直しを求められるのか。政権や外交関係が変化しても、同じ条件で利用できるのか。仮に日本の重要システムが特定の米国製AIへ強く依存した後で、提供条件が変わればどうなるのか。
制度の詳細が見えない段階では、「信頼できる側」に入ることが、そのまま長期的な安心を意味するとは言えない。
国産AIを作れば解決するのか
コメント資料では、米国への依存を避けるため、日本独自のAI開発が必要だという意見が目立った。
その発想には理由がある。代替できる技術がなければ、提供条件を決める側との交渉力は弱くなるからだ。
ただ、国産AIを一つ作れば自立できるほど単純でもない。
高度なAIには、高性能半導体、大規模なデータセンター、安定した電力、学習用データ、専門人材が必要になる。
開発企業が日本にあっても、半導体やクラウドを海外に大きく頼れば、輸出規制や契約変更、供給障害の影響を受ける余地は残る。
優秀なAIモデルがあっても、それをサイバー防御に生かす組織や人材が不足していれば、防御力は上がらない。
日本に必要なのは、すべてを国内だけで作ることより、特定の国や一企業の判断だけで重要な能力を失わない状態ではないか。
国産AIを育てる。複数の海外技術を選べるようにする。重要システムを一つのモデルだけに依存させない。利用条件の変更や供給停止に備えた代替手段を持つ。
自立とは、海外技術を使わないことではない。使えなくなった瞬間に、何もできなくなる状態を避けることだ。
自由にすれば安全になるわけでもない
国家管理が、結果として技術の囲い込みにつながる可能性はある。
米国が提供先を選ぶ仕組みは、サイバー防御だけでなく、米国の技術的優位を維持する政策とも重なり得る。安全上の判断と産業上の利益を、完全に切り分けるのは難しい。
一方で、囲い込みを避けるために、最先端モデルを誰にでも公開すればよいとも言えない。
攻撃にも利用され得る能力であれば、アクセス管理は避けにくい。利用者を選ばない判断もまた、危険を引き受ける選択になる。
見るべきなのは、管理するか自由にするかという二択ではない。
「信頼できるパートナー」の基準は公開されるのか。参加国はルール作りに関われるのか。利用停止や条件変更の判断に意見を述べる仕組みはあるのか。サイバー防御を理由とした制限と、米国企業の競争力を守るための制限をどう区別するのか。
基準や手続きが見えなければ、安全管理と技術の囲い込みを外から区別するのは難しい。
日本は「信頼される側」に入るだけで十分か
先端AIが国家管理の技術になるとは、国家がAIの回答をすべて決めることではない。
最も強力な能力を誰に使わせるかが、企業の利用規約だけでなく、国家間の政策として決まり始めるということだ。
日本が米国主導の枠組みに参加することには、現実的な利点がある。危険性の高いAIを無制限に公開せず、一定の条件の下で同盟国の防御に使う考えにも合理性はある。
それでも、日本が「信頼できる側」と認められるだけでは足りない。
認定基準の策定にどこまで関われるのか。一方的な条件変更にどう備えるのか。特定のモデルが使えなくなっても機能する体制を作れるのか。
先端AIの国家管理で問われているのは、日本が米国を信頼するかどうかだけではない。
他国が決めた条件に従って使わせてもらう国になるのか。それとも、安全管理のルールを決める側にも回るのか。
今回のニュースが突きつけているのは、その違いである。