AIと行政 / アルゴリズム透明性の「記録」標準――英国ATRSガイダンス雑感

0　はじめに

　年越しに書き溜めたAIに関して役立つ資料について雑感を付して7点掲載する。今年も皆さんにとっていい年であることを心より祈念する。
　行政領域におけるAIガバナンスの議論は、しばしば「透明性（transparency）」という言葉で一気に片付けられがちである。

　アルゴリズムはブラックボックスであってはならない、説明可能（Explainable）でなければならない、という規範的要請に異論はない。しかし、透明性とは、それ自体が自律的に機能する高邁な理念ではなく、極めて泥臭い運用の技術である。何を、誰が、どの粒度で、いつ更新し、どこに置くのか。そこを設計しなければ、透明性は単なるのスローガンとして空転するか、あるいは現場を疲弊させるだけの過剰な開示要求となりかねない。

　英国政府は2021年より、Algorithmic Transparency Recording Standard（以下、ATRS）と呼ばれる枠組みを整備してきた。これは、公的機関がアルゴリズム・ツールを利用する際に、その仕様や目的、リスク評価などを統一フォーマットで記録し、公開するための標準である。当初はパイロット運用であったが、2024年には中央省庁等に対して必須適用（mandatory scope）の方針が示され、2025年現在、本格的な実運用フェーズに入っている。

　今回は、ATRSを用いる公共部門向けガイダンス（Guidance for organisations using the ATRS）及び必須適用の範囲・例外ポリシー（Mandatory Scope and Exemptions Policy）を素材に、この「透明性の実装技術」としての「記録（recording）」に注目する。行政がいかにして「中身のよくわからない高度な計算機」の説明責任を果たすべきか、その具体的な作法についての論考である。

1　問題の所在

　AI、あるいはより広範なアルゴリズム・ツールが行政決定や公共サービスに関与する局面では、常に二つの対立する力が同時に、かつ逆方向に働く。

　第一に、意思決定の迅速化・均質化・効率化への行政的要請である。福祉給付の不正検知、パトロールの最適化、チャットボットによる窓口対応など、行政リソースが枯渇する中で自動化への要請は不可逆である。人間が裁量で行っていた判断を、データに基づいて自動化あるいは支援することで、行政効率と公平性を担保しようとする力学である。

　第二に、説明可能性の希薄化への法的懸念である。ここでいう説明可能性は、モデルの数学的な解釈可能性（interpretability）だけを指すのではない。むしろ、行政法学や政治学が伝統的に扱ってきた、手続的透明性の欠如が問題となる。そもそも当該ツールが行政手続のどこに位置し、誰が最終判断者（human-in-the-loop）であり、その出力がどの程度「決定」に影響するのか、この配置図が見えないこと自体が、適正手続（due process）上の瑕疵となり、社会的コストとなる。住民からすれば、自分が対峙しているのが人間の裁量なのか、機械のスコアリングなのか、あるいはその複合なのかが判然としない状態は、行政への根源的な不信を生む。

　さらに、現代の行政におけるAI導入は、外部調達と極めて親和的である。高度な機械学習モデル、特にLLM（大規模言語モデル）のような汎用基盤モデルを、一行政機関がスクラッチで開発することは稀である。多くは既製のAPIを利用するか、民間ベンダーが開発したソリューションを導入する。

　すると、ツールの内部構造、学習データの詳細、検証の経緯といった重要情報が、行政組織の内部に存在しないという事態が容易に起こる。情報はサプライチェーン上に分散し、それに伴い責任の所在も曖昧になる。透明性を求める声が高まるほど、「公開できる情報が手元にない（ベンダーしか知らない）」あるいは「ベンダーの営業秘密や知的財産の壁に阻まれる」という、極めて実務的かつ物理的な壁に突き当たるのが現状である。

　この情報の不在を前提としたとき、いかなる透明性確保の手法があり得るのか。ATRSはその一つの解を示そうとしている。

2　ATRSの輪郭と対象

　ATRSは、英国の公的機関（中央省庁及び一部の独立機関）が利用するアルゴリズム・ツール（algorithmic tool）について、一定の項目をテンプレートに沿って記入し、GOV.UK上のリポジトリ等で記録として公開する枠組みである。

　まず注目すべきは、ATRSが対象とする技術の範囲である。名称が示す通り、対象はAIに限定されず、アルゴリズム・ツールと広く定義されている。ガイダンスによれば、これには複雑な統計モデルやルールベースのシステムも含まれる。

　必須適用範囲と例外に関するポリシー（Mandatory Scope and Exemptions Policy）によれば、ATRSの作成・公開が義務付けられるのは、以下のいずれかに該当するツールである（注2）。

　前者は、補助金の受給資格判定や、リスクベースの検査対象選定などが該当する。後者は、チャットボットや自動応答システムなどが該当する。一方で、内部的な事務効率化ツール（例：画像文字認識によるアーカイブ処理等）や、政策立案のための一般的な分析モデルであっても、個人の権利義務に直結しないものは義務化の対象外（推奨扱い）となる。

　このスコープ設定は、透明性のコストとベネフィットのバランスを考慮したものである。すべてのExcelマクロを公開する必要はないが、市民の人生を左右する計算や、市民が直接話しかける相手については、その正体を明かすべきだという線引きである。技術的な定義論争（これはAIか否か）にリソースを割くのではなく、行政作用への影響度（Impact）で透明性の要否を決めるプラグマティックな態度が見て取れる。

3　記録の二層構造

　ATRSの構造的特徴は、情報の受け手を明確に分けた「二層（Tier）構造」にある。ガイダンスは、透明性の相手方を「一般の読者」と「専門的に検証する者」に分け、それぞれに必要な情報粒度を用意している。

　Tier 1（基本情報）は、一般市民（non-expert audience）に向けた要約である。

　ここには、専門用語を排した平易な言葉で、「このツールは何をするものか」「なぜそれを使うのか」という目的と概要が記述される。たとえば、「このツールは、申請書の記述内容から優先度を判定し、担当者の割り振りを支援するために使われています」といったレベルの記述である。これは、行政サービスのユーザーインターフェースとしての透明性であり、市民が「自分の手続きにAIが使われているか」を知る権利に応えるものである。

　Tier 2（詳細情報）は、専門家・研究者・メディア・監査人等の外部監視者向けである。

　ここには、以下の項目が含まれる（注1）。

　この層別化は、透明性における情報の氾濫（information overload）問題への対処である。全ての情報を羅列すれば透明性が高まるわけではない。誰に向けた情報かを区別し、一般市民には納得を、専門家には「検証」の材料を提供することで、実質的な説明責任を果たそうとする設計思想が読み取れる。広報担当者は技術的詳細に溺れずに済み、技術担当者は曖昧な形容詞で誤魔化すことを許されなくなる。

4　サプライチェーンと「不知の記録」

　特に強調したいATRSの白眉は、外部調達品（off-the-shelf products）への対応である。

　前述の通り、生成AIを含む現代の調達実務では、モデルを自前で訓練していないことが常態化している。行政機関がAPI経由で利用する基盤モデルの訓練データセットを、利用主体である行政機関が詳細に把握することは不可能に近い。従来の透明性議論では、ここがボトルネックとなり企業秘密の壁の前で立ち尽くすことになりがちだった。

　しかし、ATRSガイダンスおよびテンプレートは、この点について極めて実務的な解決策を示す。組織が訓練・検証・改変をしていない既製モデルについては、モデル仕様や開発データ仕様の欄を「空欄」にするか、あるいは「開発元が保有しており詳細は不明である／該当なし」の旨を記述して進むことを許容（あるいは推奨）しているのである（注1）。

　一見すると透明性の後退に見えるかもしれない。「中身を知らないまま使っているのか」という批判を招きかねないからだ。だが、これは「推測で埋める」ことを制度が禁じ、「知っている範囲」と「知らない範囲」の境界線を、公的記録として固定化させることに意味がある。

　行政機関が「我々はこのツールの学習データについて把握していないが、運用段階での入力データについては責任を持つ」と明記することは、責任分界点の明確化である。もし後にアルゴリズムの挙動に問題が生じた際、それが使い方の問題（行政の責任）なのかモデルの欠陥（ベンダーの責任）なのかを切り分けるための一次資料となる。

　また、ATRSへの記入義務があること自体が、調達契約においてサプライヤーに情報開示を迫るテコ（leverage）として機能する。「国の基準でここの記述が必要なので教えてほしい」という要請は、単なる努力義務よりも強い交渉力を持つからである。

5　例外・秘匿と公開のデフォルト

　もちろん、行政における透明性は無制約ではない。ATRSの必須適用に関するポリシーは、例外設計をFOIA（英国情報自由法）の免除類型に整合させる方針を明示している（注2）。

　具体的には、国家安全保障、国防、国際関係を害する恐れがある場合や、法執行・犯罪捜査に支障をきたす場合、そして知財や営業秘密に関わる場合などが考慮される。

　興味深いのは、ゲーミング（gaming）への懸念に対するバランスである。アルゴリズムの判定ロジックや閾値を詳細に公開しすぎると、悪意ある申請者がシステムの裏をかいて不正に給付を受けたり、捜査を逃れたりするリスク（回避行動）がある。ATRSガイダンスは、この点について、「広範なシステム概要や意思決定プロセスにおける役割」を公開することと、「個別の判定閾値や変数の重み」を秘匿することは両立すると説く。

　ポリシーは、例外を適用する場合でも、「記録全体を出さない（完全非公開）」ではなく、「機密部分のみを黒塗り（redact）し、それ以外の部分は公開する」ことを原則として推奨する。いわゆる「公開のデフォルト」である。そして、黒塗りした箇所については、なぜ非公開にしたのかの理由（Exemption category）を付記させる。

　この発想は、透明性を“オール・オア・ナッシング”にしない。むしろ、公開可能な範囲を最大化するために、秘匿を微細化する技術（redaction with explanation）を制度化している。透明性の議論が「全部出せ」対「出せない」の二項対立に陥りがちな状況では、地味だが効く設計である。

6　日本への示唆

　ひるがえって日本を見れば、AIガバナンスはソフトロー中心に整備されてきた。たとえば総務省・経済産業省の「AI事業者ガイドライン」は、AIの開発・提供・利用にあたっての基本的考え方と取組を整理し、リスクベースのアプローチを推奨する（注4）。また、デジタル庁による政府情報システムの整備方針等でも、透明性の確保は謳われている。

　しかし、行政機関自身が利用する個別のアルゴリズムについて、標準化されたフォーマットで「記録を公開する」制度技術は、英国ほど確立されていない。自治体レベルでは、いくつかの自治体が独自にAI利用方針や登録制度を試行しているが、国全体として統一された「記録様式（Schema）」は存在しない。そのため、自治体がチャットボットを導入しても、あるいは警察が予測型システムを実験しても、その事実はプレスリリースや議会答弁の断片として散在するのみである。

　2025年現在、AIの規律密度は世界的に高まっている。日本においても、AI戦略会議等の議論を経て、法の整備や既存法の解釈指針の具体化が進められている局面である（注5）。ここから先、日本で問われるのは、「理念」や「体制」だけでなく、個別運用の可視化をどう回すか、という実務である。

　ATRSは、透明性を“政策スローガン”から“作業手順”へ落とし込む具体例として参照に値する。特に、調達仕様書に「ATRSへの記入協力」を条件として盛り込むことで、ベンダーからの情報提供を契約上の義務にするという英国のアプローチは、日本の行政調達においても直ちに取り得る戦術である。

　もっとも、移植は単純ではない。日本の情報公開制度・調達慣行・行政の説明文化は英国と異なる。英国のようにGitHubでJSONデータを公開する文化が、直ちに日本の行政現場に馴染むとは思えない。だからこそ、テンプレートが効く。テンプレートは文化を飛び越えないが、文化に“型”を与える。型があれば、省庁間や自治体間での比較が可能になり、市民や研究者による外部監査のコストが下がる。透明性とは、まず比較可能性（comparability）である。英国の事例は、完璧な透明性を目指すのではなく、まず「書式の統一」から始めた点において、現実的な参照項となる。

7　雑感

　透明性が現場で嫌われる最大の理由は、高尚な隠蔽意図があるからではなく、単純に「面倒くさい」からであることが多い。日々の業務に追われる中で、技術的な仕様を整理し、分かりやすい文章に書き直す作業は、甚大なコストである。

　ATRSは、その「面倒くささ」を、テンプレート化と役割分担（Tier分け）によって工業製品のように処理可能なものにしようとしている。透明性を、担当者の「倫理観」や「頑張り」に依存させず、淡々と処理される「ワークフロー」に組み込むこと。これがガバナンスの実装である。

　逆説的だが、AIという最先端技術を統御するのは、こうした地味で伝統的な帳簿の技術なのかもしれない。

　ただし、懸念がないわけではない。記録は形式さえ整えば、実態を隠す「紙芝居」にもなりうる。Tier 1の美しい説明文が、Tier 2の空欄だらけの実態を覆い隠してしまうリスクである。あるいは、一度作成された記録が更新されず、モデルのドリフト（性能劣化）や運用変更が反映されないまま放置される「ゾンビ記録」化のリスクもある。

　結局のところ、記録制度は書いて終わりではない。その記録が、組織内の意思決定プロセスにおいて、あるいは外部からの監査において、実際に参照され、批判に晒されるサイクルの中に位置づけられているかが問われる。透明性は、静的な状態（Static）ではなく、動的な営み（Dynamic process）である。ATRSという箱を用意した英国が、今後その箱の中にどのような魂を入れていくのか、あるいは単なる形式的な事務負担として形骸化していくのか。その運用実態こそが、次なる検証の対象となるだろう。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。