NIST AI RMF / AIリスク管理の翻訳としてのNIST AI RMF――法的ガバナンス接続のための雑感

0　はじめに

　AIガバナンスの議論を眺めていると、奇妙な断絶に気づく。法律とフレームワークが、互いに不可侵条約を結んでいるかのように振る舞っている点である。法学者は技術標準をあくまで民間の自主規制（ソフトロー）と呼び、技術者は法律をコンプライアンスという名の外的制約と呼んで、互いの領分を侵さないようにしている。しかし、実務の最前線において、この境界線はすでに溶融している。

　その触媒となっているのが、米国国立標準技術研究所（NIST）のAI Risk Management Framework（以下、AI RMF）である（注1）（注2）。形式上、AI RMFは任意利用（voluntary）を前提とする連邦政府のガイダンスに過ぎない。しかし、これがひとたび企業内の統制システム、調達要件、契約条項、そして監査の言語として流通した瞬間、もはや法的評価の“外部”にはいられなくなる。法は、社会に定着したリスク管理の作法を、善管注意義務や過失判断、あるいは説明義務の具体化のために、貪欲に参照しがちだからである。

　今回は、AI RMF（および2024年7月に公開された生成AIプロファイル NIST AI 600-1）を、単なる技術文書としてではなく、技術的リスクを法的評価へ接続するための翻訳プロトコルとして読み解く（注3）。具体的には、AI RMFの提示するプロセスが、いかにして法的責任の判断枠組み（予見可能性、結果回避義務、説明責任）と接続し、あるいは齟齬を来すのかを点検する。

　結論は単純である。AI RMFは法を代替しない。しかし、法はAI RMFを素通りしない。実務家にとって必要なのは、この両者の間の翻訳作業であり、その精度が企業のAI活用の法的安定性を左右することになるだろう。

1　問題の所在

　AIを巡る規律は、ハードロー（法令・行政処分）だけで完結しない。むしろ、技術の進展速度に立法が追いつかない領域では、ガイドライン、標準、フレームワークといったソフトローが実務の意思決定を支配し、その蓄積が法的な合理的な注意の中身を形作る。

　ここで厄介なのは、AI RMFのようなフレームワークが規範を名乗らなくても、実務上の期待値を強力に形成してしまう点にある。ひとたびAIリスク管理の標準的教典として認知されれば、それに従わない行動には「なぜ逸脱したのか」という説明責任が生じる。事故後に法廷や規制当局が問うのは、ブラックボックスの中身（ニューラルネットワークの重み係数）そのものというよりも、「なぜそのAIを採用し、そのリスクをどう見積もり、誰がどの資料に基づいて承認したのか」という意思決定過程の説明可能性である。

　法は、結果の正しさだけでなく、プロセスの合理性を審査する方向へ強い引力を持つ。AI RMFが法務にとって無視できないのは、このプロセスの言語を体系的に提供しているからである。AI RMFはリスクを、発生確率と影響の大きさの合成として捉え、ライフサイクル全体で反復的に扱うことを求める（注2）。

　「Govern（統治）」、「Map（特定）」、「Measure（測定）」、「Manage（管理）」という四つの機能は、法務・監査・技術の三者が同席できる、希少な共通語彙になり得る。逆に言えば、この語彙を使わずに我流で管理することは、有事の際に「標準的な注意義務を尽くしていなかった」と評価されるリスクを高めることになる。

2　NIST AI RMFの骨格：四つの機能と「信頼性」の分解

　AI RMFの中核は、前述の四機能である。加えてAI RMFは、自らの属性として、リスクベースであること、資源効率的であること、イノベーションに親和的であること、そして任意であることを掲げる（注2）。この「任意だが、現場で使える」という設計思想こそが、厳格すぎる規制と無秩序な自由の中間地帯に刺さる。

　重要なのは、四機能が直線的な手順ではなく、循環する機能として設計されている点にある。AIは運用後にデータのドリフトや利用文脈の変化によって挙動が変わり得る以上、リスク評価が開発時の一回切りで終わるはずがない。とりわけGovernは、他の三機能を横断する機能として位置づけられ、組織文化や責任構造を規定する（注2）。ガバナンスが機能していなければ、MapもMeasureもManageも、単なる「やったことにする」ための空虚な文書作成作業になりやすい。

　さらにAI RMFは、「信頼できるAI（Trustworthy AI）」という概念を単一のラベルで扱わず、以下の7つの特性へ分解して議論する（注2）。

　法的に言えば、これは論点の棚卸し表である。どの特性がどの法領域（製品安全法、個人情報保護法、差別禁止法、消費者保護法、不正競争防止法など）と接続し得るのかが見えやすくなる。たとえば「公平性」の欠如は憲法や雇用法制の問題となり得るし、「安全性」の欠如は製造物責任法（PL法）や不法行為法の射程に入る。

　他方でAI RMFは、具体的な「リスク許容度（risk tolerance）」を規定しない（注2）。ここに法との距離がある。数値を測定できたとして、何を「許容し得るリスク」とみなすかは、最終的には組織の価値判断であり、社会的な合意（法規制）の水準に依存する。フレームワークは“どう考えるか（How）”を与えるが、“どこまで許すか（Where to draw the line）”は各組織・各法域への宿題として残されている。

3　Govern：責任主体を後から探すのではなく先に作る

　Govern機能は、AIリスク管理の文化・役割・方針・説明責任を整備する領域である（注2）。カテゴリ「Govern 1」では、法的・規制的要件が理解され、管理されていることを求めている。ここでの法的含意は単純で、責任主体を「後から探す」のではなく「先に作る」点にある。

　AI事故が起きてから責任を按分しようとすると、証拠の欠落と関係者（データ提供者、モデル開発者、ファインチューニング実施者、デプロイ担当者、利用者）の増殖で泥沼化する。逆に、開発・調達・運用の各段階で、誰がリスク許容度を決定し（Govern 1.3）、誰がシステムを承認したのかを明確にしておけば、紛争時の“原因究明可能性”が上がる。法務にとってGovernは、AIガバナンス体制構築義務（会社法）の実質化そのものである。

　生成AIプロファイル（NIST AI 600-1）が主要検討事項としてGovernanceを強調するのも、この構造を意識してのことだと読める（注3）。生成AIは、モデル単体よりも、価値連鎖（バリューチェーン）全体の複雑さがリスクを増幅する。基盤モデルの学習データに含まれる著作権侵害リスク、RAG（検索拡張生成）における参照元の誤り、あるいはプラグインを通じた外部システムへの攻撃など、リスクの源泉は分散している。責任主体の設計を「モデル提供者」だけに押し付けても機能しない。各プレイヤーがどのリスクを管理（Manage）できる地位にあるかを、契約とガバナンス体制で事前に配分しておくことが、法的防御の第一歩となる。

4　Map：文脈を定義し、影響の射程を決める

　Map機能は、AIシステムの目的、利用環境、影響を受けるステークホルダー、失敗モードを把握し、リスクの輪郭を定める作業である（注2）。法的に言えば、ここは「何が保護法益か」「どの危険を予見すべきか（予見可能性）」を具体化する工程である。

　Map 1.1では「意図された目的（Intended purposes）」だけでなく、「潜在的な便益と負の影響」を文脈（Context）とともに特定することが求められる。ここで重要なのは、開発者が想定していなかった「誤使用」や「悪用」についても、合理的に予見可能な範囲で検討の俎上に載せることである。PL法理において、製造者は「合理的に予見可能な誤使用」についても警告や設計上の配慮を求められるが、Map機能はその検討プロセスを記録に残す作業といえる。

　生成AIの場合、このMapが極めて難しい。汎用目的技術（General Purpose AI）であるため、リスクが多次元に拡散しやすいからだ。生成AIプロファイルは、生成AI固有または増幅されるリスクとして以下の12項目を挙げている（注3）。

　Map機能でこれらを「自社のユースケース（チャットボット、コード生成、要約など）にどう当てはまるか」まで落とし込めないと、後工程の測定や管理が空回りする。たとえば、社内ヘルプデスク用チャットボットであれば、CBRNリスクは無視できるかもしれないが、コンファビュレーションによる業務誤りや、情報セキュリティ（社内機密の漏洩）は重大なリスクとなる。

　法務は、このマッピングが「社会通念上妥当」な範囲で行われているかを確認する必要がある。リスクを見落としていれば過失問責の対象となり、過剰に見積もればイノベーション阻害となる。

5　Measure：測定は技術ではなく、解釈の政治である

　Measure機能は、特定されたリスクや性能を定量的または定性的に測る。ここで誤解されがちなのは、測定が中立で客観的であり、自動化できるという幻想である。実際には、測るべき指標（メトリクス）は、目的と文脈に強く依存し、指標の選択自体が高度な価値判断（政治）を含む。

　たとえば「公平性」を測る指標は数多く存在する（統計的パリティ、機会均等など）が、これらは数学的に互換しない場合がある。ある指標で公平でも、別の指標では差別的となる。NISTのプレイブックも、差別影響（disparate impact）等のバイアス測定が法的文脈で一様に適用されないことに触れている（注4）。どの指標を採用したかは、「我々にとっての公平とは何か」という憲章的な宣言に等しい。法務担当者は、技術者が選んだメトリクスが、関連する差別禁止法や人権方針と整合しているかを問わねばならない。

　生成AIプロファイルが掲げるPre-deployment Testing（配備前テスト）は、このMeasureの現代版である（注3）。生成AIは確率的な挙動をするため、従来のソフトウェアテスト（単体テスト、結合テスト）だけでは不十分である。レッドチーミング（敵対的テスト）や、人間による評価（RLHF等のフィードバック）が含まれる。

　法的な観点では、Measureの結果（テストレポート）は、「結果回避義務を尽くした」と主張するための決定的な証拠となる。しかし、生成AIは「テスト環境では安全だったが、運用環境で特定のプロンプトにより脱獄（Jailbreak）した」という事態が頻発する。したがって、「テストで100点を取った」ことよりも、「どのようなテスト設計を行い、どの入力分布をカバーし、どの閾値をもって合格とし、その限界（残存リスク）をどう開示したか」を記録し、合理性を説明できる形で残すことが重要になる。

6　Manage：インシデントと変更管理が“規範”になる

　Manage機能は、特定・測定したリスクへの対応（受容、回避、軽減、移転）、継続的監視、是正措置を含む（注2）。リスクをゼロにすることは不可能であるため、Manageの本質は「残存リスクのガバナンス」にある。

　生成AIプロファイルが主要検討事項としてIncident Disclosure（インシデント開示）を挙げるのも、このフェーズの重要性を示す（注3）。生成AIは、プロンプト注入やデータ汚染など、従来のソフトウェアとは異なる攻撃面（Attack Surface）を持つ。インシデントが起きたときに、何をもって「想定内（許容範囲）」とし、どのタイミングで利用停止・周知・当局報告・利用者救済を行うかは、事後的に“あるべき行動”として評価されやすい。

　ここで法的にクリティカルなのは、Manage 2.2などで言及される「人間の介入（Human Oversight）」の実効性である。AI RMFは、リスクが高い場合には人間による監視や承認（Human-in-the-loop）を推奨する。しかし、現場の人間がAIの出力内容を理解できず、単に承認ボタンを押すだけの「ゴム印（rubber stamping）」になっていれば、法的な監視義務を果たしたことにはならない。Manage機能が求めているのは、形式的な承認フローではなく、人間が実質的にリスクを統制できる環境の整備である。

　また、生成AIによる偽情報が公共的意思決定を攪乱し得るという指摘（Information Integrityリスク）は、技術リスクであると同時に、民主主義のプロセスや証拠の信用性という法の中核を揺さぶる（注3）。企業が自社のAIによる偽情報の拡散を放置した場合、プラットフォーム規制や不法行為法上の責任が問われる可能性がある。法務が管理プロセスに関与すべき理由は、形式的な法令違反の有無を数えるためではなく、有事の際に「我々はここまでやった」と説明できる運用（Defensibility）を設計するためである。

7　雑感

　EU AI Actのように、リスクベースでAIを包括的に規制する法的枠組みも登場している（注5）。違反すれば巨額の制裁金が課されるハードローの世界である。他方、日本ではAI事業者ガイドラインのようなソフトローが整備され、事業者の自主的な取り組みを促している（注6）。

　この多層構造の中で、NIST AI RMFはどこに位置するのか。それは“規制”そのものではなく、“規制に耐えうる実務”を作るためのアーキテクチャである。EU AI Actが「高リスクAIにはリスク管理システムを構築せよ」と命じたとき、具体的に何をすれば「構築した」ことになるのか。その解像度の高い答えの一つがAI RMFである。

　言い換えると、AI RMFは「法遵守のチェックリスト」ではないが、「法的評価に耐えるための記録と統制」を促す装置である。法務担当者がAI RMFを読むべき理由は、AIの技術的詳細を理解するためというより、紛争や監査に耐えるためのプロセス設計を、技術者と共通言語で詰めるためである。「Map 1.1はやりましたか？」「Measureの結果、公平性の指標はどう定義しましたか？」「Manageとして、人間はどこで介入しますか？」これらの問いは、将来どこかでそのまま法廷での尋問事項になり得るのではないか。

　結局のところ、AIガバナンスとは、数理的な最適化ではなく、異分野間の翻訳である。モデルの挙動を、組織の意思決定に翻訳し、その意思決定を、社会の規範（法）に翻訳する。その往復運動を、少しだけマシにするための共通プロトコルが、NIST AI RMFだと言えるだろう。法律家はコードを書けないかもしれないが、このプロトコルを通じて、コードの社会実装に法の精神を注入することはできるはずであるように思える。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。