グローバルAIガバナンス原則の時代から能力の時代へ / UNDP・ACSH報告書を手掛かりに雑感

0　はじめに

　2023年以降の生成AIブームは、AIガバナンスの議論を「何を良しとするか」から「どう動かすか」へと強制的に押し流した。原則は相変わらず重要である。しかし、原則は羅針盤にすぎず、船のエンジンにも舵にもならない。社会にAIが常時稼働のインフラとして入り込んだ以上、統治の論点は、文書化された規範の整合性だけでなく、運用・監視・是正・説明の連鎖が回るか、そしてそれを回す能力があるかへ移る。

　国連開発計画（UNDP）とAstana Civil Service Hub（ACSH）が公表した報告書『Global Approaches to AI Governance: Policy, Legal, and Regulatory Perspectives』（以下「本報告書」という）は、この転換点を捉えた好素材である（注1）。本報告書は、政策・法・規制・倫理という言語化された枠組みを整理しつつも、それだけでは統治が成立しないことを、国別事例（カナダ、韓国、英国、カザフスタン、フィリピン等）を通じて具体化している（注1）。本稿は、本報告書の射程を素材として、断片化（fragmentation）の不可避性、因果関係の特定困難と説明責任の再設計、実装としてのガバナンス＝能力構築、の三点を軸に雑感を述べる。

1　問題の所在

　AIガバナンスが法的論点であることは疑いない。とりわけ、権利侵害の予防、差別の是正、説明責任の確保、監督権限の配置、救済手段の整備は、典型的に法の仕事である。他方で、AIは導入して終わりの対象ではない。学習データ、モデル更新、利用文脈、サプライチェーンの差し替え、これらによって挙動が変わり得る。ゆえに、静的な規範（ガイドライン、規程、契約条項）だけでは、動的なリスクの制御には届かない。

　本報告書が面白いのは、法規制や戦略（strategy）だけでなく、影響評価（impact assessment）の制度化、公共部門における透明性の仕組み、計算資源やデータ基盤への投資、公務員・規制当局の専門性といった能力（capacity）に強い比重を置く点である（注1）。ここで言う能力とは、単なる人材研修ではない。組織として、AIを識別し、分類し、運用し、事故時に止め、説明し、改善する一連の手続を実装する能力である。ガバナンスは文書の集合ではなく、実行される手続の束である、という当たり前の事実が、AIでは露骨に効いてくる。

2　断片化という問題と因果関係の特定

2-1　国際枠組みの増殖と相互運用性

　AIガバナンスの国際的枠組みは、既に単線ではない。OECDのAIに関する理事会勧告（いわゆるOECD AI原則）は、2019年以降、各国の原則策定に広く参照される共通語になった（注2）。UNESCOも、AI倫理に関する国際基準として「Recommendation on the Ethics of Artificial Intelligence」を採択し、各国に政策形成の道具立てを提供している（注3）。加えて、EUはリスクベースで法的拘束力を持つAI規制（AI Act）を成立させ、域外にも強い規律効果を持つ制度を提示した（注4）。東南アジアでは、ASEANがガイドを公表し、地域内での相互運用性（interoperability）を意識した枠組みを提示している（注5）。

　問題は、この増殖が悪だと切り捨てられない点である。各国の法文化、行政能力、産業構造、安全保障上の前提が異なる以上、単一の世界政府的枠組みは現実的でない。本報告書も、国際的には共通項が形成されつつも、規制の設計は各国の文脈に根差すと指摘する（注1）。つまり、断片化は不可避である。したがって次の争点は、断片化をなくすことではなく、断片化したまま破綻しない形をどう作るかにある。

　このとき、企業・行政の現場は二重の負荷を負う。外部に対しては、複数の原則・規制・標準の要求を満たす説明を求められる。他方で内部に対しては、日々更新されるAIの挙動を監視し、事故の芽を潰す運用が必要になる。両者は同じではない。外部説明は正当化の言語であり、内部運用は制御の言語である。ここを混同すると、立派なポリシー文書が残り、現場の制御が空洞化する。

2-2　因果関係の特定困難と手続責任へ

　AIシステムに起因する損害や不利益が生じた場合、伝統的な法理は、因果関係と帰責性（過失等）を軸に責任を構成する。しかし、AIにおいては、ブラックボックス性、データ偏り、組織内の意思決定連鎖、外部ベンダーや基盤モデル等のサプライチェーン、が絡み、単線的な因果を描きにくい。結果として、過度に原因の一点特定に拘泥すれば、救済が空転するか、あるいは技術理解の不足を埋めるために恣意が入り込む。

ここで重要になるのが、結果責任を補助する手続責任（プロセス責任）の設計である。EU AI Actが典型だが、リスク管理、技術文書、ログ、透明性、人による監督といった一連の義務は、まさに因果関係の完全解明を前提にしない統治の制度技術である（注4）。NISTのAI Risk Management Framework（AI RMF）も、法的拘束力こそないが、リスクを同定し、測定し、管理し、ガバナンスを実装するための実務フレームとして設計されている（注6）。因果関係の特定が困難であるほど、何をしたか（ログ）、何を見たか（モニタリング）、誰が止められたか（権限設計）が、説明責任の中核になる。

　本報告書の国別事例が示すのも、同じ方向である。たとえばカナダでは、公共部門の自動化された意思決定に対し、影響評価（Algorithmic Impact Assessment）を制度化し、質問票形式でリスクと緩和措置を点検させる（注7）。英国では、行政におけるアルゴリズム利用の透明性を確保するための記録標準（ATRS）が整備されている（注8）。ここで問われているのは、AIが正しい判断をしたかだけではない。組織が判断を正当化できる形で運用していたかである。

3　実装としてのガバナンス

　本報告書の射程は、政策・法・規制を整理しつつ、それらを支える土台として、インフラ、調達、人材、官民連携を繰り返し論じる点にある（注1）。この点は、AIガバナンスを規制の設計論に閉じ込めがちな議論への有効なカウンターである。

　第一に、公共部門は巨大なユーザーであると同時に、巨大な購入者である。公共調達は、市場に標準を押し出す静かな規制になり得る。調達要件に透明性、監査可能性、ログ保持、評価手続を埋め込めば、実質的にガバナンスが普及する。本報告書が、公的部門の影響評価や透明性の仕組みを強調する理由はここにある（注1）。

　第二に、計算資源（compute）とデータ基盤は、ガバナンスの前提条件になりつつある。韓国の事例では、包括的なAI法制の整備と並走して、GPU等の計算資源確保を国家戦略として位置付けていることが示される（注1）。ここには、単なる産業政策以上の含意がある。規制が実効性を持つためには、評価・検証・監査が必要であり、そのためには計算資源と人材が不可欠である。計算資源を欠く国は、AIを輸入するだけでなく、規律も輸入することになりやすい。主権（sovereignty）の問題が、抽象的理念ではなく、GPUとデータセンターの話に落ちてくるのが現代である。

　第三に、実装の型（テンプレ）を持つことが重要になる。ISO/IEC 42001のようなマネジメントシステム規格は、AIの企画から運用までを管理プロセスとして組み立てる発想を提供する（注9）。規制が細部に立ち入らない領域でも、組織内の型が整備されれば、説明責任のコストは下がり、事故対応の速度は上がる。逆に言えば、型がない組織は、同じ事故を繰り返す。

4　実務への応用

　以上を踏まえると、AIガバナンスの実務は、チェックリストの提出で終わるものではなく、回路（feedback loop）を作る仕事である。具体的には、AI資産の棚卸（どこで何が動いているか）、リスク分類（何が危ないか）、影響評価と承認（誰がGOを出すか）、運用監視とログ（何を見ているか）、介入・停止権限（誰が止めるか）、インシデント対応と学習（どう直すか）、の接続が要である。これらは、EU AI Act（注4）やNIST AI RMF（注6）、カナダのAIA（注7）などに散らばっているが、要するに統治を回す最小回路である。

　断片化した国際枠組みの下で、企業に必要なのは、各規制の逐条解釈を暗記することではない。外部要求が変わっても破綻しない内部統制の骨格を作り、そこに外部要求をマッピングすることである。原則は変わり得るし、法は更新される。しかし、回路が回っている組織は、更新に耐える。回路がない組織は、その都度新しいPDFを増やし、現場の混乱を増幅させる。

5　おわりに

　本報告書が示すのは、AIガバナンスが規範だけでなく能力の問題である、という直球の事実である（注1）。断片化は避けがたい。因果関係の特定は困難である。ゆえに、統治は理念の整合性だけではなく、手続の実装へ傾く。そこでは、法は重要だが万能ではない。最終的に社会を守るのは、組織が自らを監督できる仕組みと、その仕組みを動かし続ける能力である。

　AIガバナンスは、いわば未来の行政法学・企業法務の実務科目といえる。条文を読むだけでは単位が出ない、実際に動く回路を設計できるかどうかが問われているように思える。

6　グローバルAIガバナンス

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。