生成AIによる規則起草と行政の理由―米国運輸省事例を素材として雑感

0　はじめに

　2026年1月、米国の調査報道機関ProPublicaは、米国運輸省（Department of Transportation、以下DOT）がGoogleの生成AI「Gemini」を用いて、交通安全に関わる規則案の作成を加速させる構想を進めていると報じた（注1）。報道によれば、DOTのジェネラル・カウンセルであるGregory Zerzan氏は、職員との会議において「完璧な規則は要らない。非常に良い規則である必要すらない。good enoughでよい」という趣旨の発言をし、短期間で規則案を量産する姿勢を示したという（注1）。同種の内容はArs Technicaでも報じられている（注2）。

　この話は、技術側の感覚では「文章作成の効率化」「定型作業の自動化」として理解されがちである。だが、行政法の視点では少し厄介である。規則は単なる文章ではなく、文章化の過程そのものが、行政が何を根拠に何を考慮し、どのような理由でその結論に至ったのかを外部に示すための装置だからである（注3・注4）。そして、生成AIは「それっぽい文章」を作るのが極めて得意である。行政法において最も危険なのは、間違った結論そのものより、間違った結論がもっともらしい理由によって保護され、検証不能な形で制度に埋め込まれることである。

　今回は、DOTの事例を素材として、生成AIが行政のルールメイキングに入り込むとき、法がどこで躓くのか、また、どのような設計であれば「使う」という選択が制度的に成立しうるのかを検討する雑感である。

1　問題の所在　生成AIは「何を」速くするのか

　ProPublica報道で象徴的なのは、スピード至上の語彙である。規則案を30日で作る、Geminiなら20分で草案を吐き出せる、前文の多くは「word salad」だからAIでよい、という発想が顔を出す（注1・注2）。ここで立ち止まるべき点は、「速さ」の対象が、規則の本文（Code of Federal Regulationsに入る規範部分）なのか、それとも前文を含む説明部分なのか、という区別である。

　米国の行政手続法（Administrative Procedure Act、以下APA）は、典型的な意見募集手続（notice-and-comment rulemaking）を定め、公告、意見提出、そして最終規則の公表という枠組みを置く（注3）。重要なのは、同法が単に「規則本文」を作れと言っているのではなく、採択される規則には「根拠と目的に関する簡潔な説明」を組み込むことを求めている点である（注3）。つまり、前文は飾りではなく、行政の判断が「合理的な行政判断」として外部に耐えるかを支える中核である。

　他方、日本でも、行政手続法の改正により意見公募手続が法制化され、命令等の制定過程で広く意見を募り、それを考慮し、結果を公示する構造が取られている（注5・注6）。ここでも、制度の眼目は「案を作ること」だけではなく、「案がどのような手続と理由により形成されたか」を外部化する点にある。

　したがって、生成AIが速くするのが文章の生成だけであるなら、行政法の問題は比較的単純である。問題は、文章生成の加速が、理由形成の過程、考慮要素の点検、説明責任のための記録の堆積、という制度的摩擦まで一緒に削ってしまうときに生じる。

2　「word salad」の誘惑と前文の法的機能

　「前文はword saladである」という発想は、実務の感覚として理解できなくもない。規則案の前文には、法的権限の列挙、背景事情、コスト・ベネフィット、代替案の検討、意見への応答など、一定の型が存在する。型がある以上、生成AIが得意な領域である。むしろAIが最も得意な領域は、型の再現である。

　しかし、ここに二重の危険がある。

　第一に、前文を「どうせ定型」とみなすことで、前文が担っている法的機能が過小評価される危険である。前文は、単なる説明ではなく、行政がその判断に至ったことを正当化するための構造である。APAの司法審査では、行政行為が「恣意的・専断的」でないかが問われるが（注4）、この問いは、まさに前文における理由付けの質と直結する。前文が薄いと殴られる。前文が厚いと安心する。だが、生成AIは「厚い前文」を低コストで生成する。ここに、制度の想定していなかった形の文章インフレが起こりうる。

　第二に、「word saladをAIでよい」と言った瞬間、前文の役割が「対外的な説得」から「内部的な手続管理」へ反転する危険である。ルールメイキングは、文章化によって初めて、組織内の法務、政策部門、技術部門、さらには監督機関との調整が可能になる。文章は、内部の調整コストを引き受けるための共通言語である。ところが、生成AIで文章を安く作れると、調整のための共通言語が調整の結果ではなく調整の前提として先に出てしまう。文章が議論の成果ではなく議論を省略するための道具になる。

　この反転は、行政法の設計思想と相性が悪い。制度は、摩擦によって行政を遅くしているのではない。摩擦によって行政を説明可能にしているのである。

3　生成AIが生む三つの外部化　判断・責任・記録

　DOT事例が示すのは、生成AIが文章作成の外注ではなく、行政判断の外部化を誘発する可能性である。外部化には少なくとも三種類ある。

　第一に、判断の外部化である。生成AIは結論を出しているように見える。しかし、実際には過去の文章パターンの再構成に過ぎない。行政のルールメイキングで必要なのは、既存法令との整合、技術的実現可能性、執行可能性、利害調整、そしてどの価値を優先するかという規範判断である。文章生成が速くなるほど、判断が文章の出来栄えに吸収される誘惑が強くなる。理由が整って見えると、結論が妥当であるかの検証が後景化する。

　第二に、責任の外部化である。ProPublica報道では、AIが作ったものを人間が校正する仕事になる、というイメージが語られている（注1）。あるDOT職員は、プレゼンターの描く将来像を「我々の仕事は機械の成果物を校正することになる」と表現した（注1）。ここで起きるのは、責任の分断である。AIが書いた。人間が直した。だが、最終的に誰が「この規則は、これらの事実認定と価値判断に基づく」と言えるのか。校正という行為は、責任を引き受ける行為に見えて、実は責任の所在を曖昧にすることがある。なぜなら、校正は文章の表層を直せても、判断の根拠を再構築しないからである。

　第三に、記録の外部化である。行政法は、事後的な検証を可能にするために、手続と記録を重視する。米国では、行政行為の審査は「記録」に基づくことが基本となり、合理的な説明が記録に乗っているかが問われる（注4）。日本でも、意見公募手続の結果公示等を通じて、意見がどう扱われたかが外部化される（注6）。生成AIを使う場合、どのプロンプトで、どのモデルで、どの出力をどのように採用・修正したかが、実質的に判断の経路である。だが、この経路は、現状の行政手続が当然に保存する対象として設計されていない。結果として、判断の経路だけがブラックボックス化し、外からは立派な前文だけが見える、という最悪の構図が成立する。

4　ハルシネーションと「常軌を逸した無責任」

　生成AIが抱えるリスク要因として、いわゆるハルシネーションの問題は避けて通れない。これは、AIが事実に基づかない情報を、さも事実であるかのように自信をもって生成する現象である。2025年においても、AIのハルシネーションによって裁判所が混乱し、弁護士が制裁を受ける事例が相次いでいる（注2）。

　今回、AI起草の対象となっているのが、航空機、ガスパイプライン、有害化学物質を積載する貨物列車などの交通安全に関わる規則である点は、倫理的な懸念を一層増幅させる。ある職員が「wildly irresponsible（常軌を逸して無責任）」と評したように、これらの領域における規則の不備は、物理的な爆発、墜落、脱線といった災害に直結する（注2）。

　DOTの元AI担当責任者であるMike Horton氏は、Geminiを使って規則を書く計画について「高校生のインターンにルールメイキングをやらせるようなものだ」と批判している（注1）。交通安全規則は人命に直結することを指摘したうえで、彼は「彼らは速く動いて壊したがっているが、速く動いて壊すということは人が傷つくということだ」と述べた（注1）。

　報道によれば、Geminiによる起草のデモンストレーションでは、生成された文書にCode of Federal Regulationsに入るべき実際の条文テキストが欠落しており、職員がそれを埋め合わせなければならない事態が発生したという（注1）。これは、大規模言語モデルが「意味」を理解して法を起草しているのではなく、あくまで確率的に「法のような文章」を出力しているに過ぎないことを示している。

5　専門知の軽視と監視役への変質

　本件が示唆するもう一つの論点は、行政職員の役割変容と専門知の軽視である。

　DOTの構想では、AIが規則作成の80%から90%を担い、人間である職員は「AI対AIの相互作用を監視する」という役割に退くことが想定されている（注1）。しかし、これは「人間がAIの誤りを適切に修正できる」という前提に立った、楽観的な設計であると言わざるを得ないかもしれない。

　認知科学における自動化バイアスの知見が教えるところによれば、人間は自動化システムが提示した情報に対して、検証を怠り、その正当性を過大評価する傾向がある。AIが作成した9割方完成された流暢な法案を前にして、残りの1割に潜む微細だが致命的な論理矛盾や事実誤認を見抜くことは、白紙から起草する以上に高度な集中力と専門能力を要する作業である。

　報道で職員が指摘しているように、DOTの規則策定は「主題に関する数十年分の専門知識、および既存の制定法、規制、判例法への精通」を要する複雑な作業である（注1）。AIに下書きを委ねることで、職員が自ら手を動かして法文を練り上げる過程で培われる暗黙知や法的感覚が失われる恐れがある。

6　行政手続という摩擦　「理由」は遅さの副産物ではない

　ここで強調したいのは、行政手続の遅さは、単なる非効率ではなく、説明責任のための構造であるという点である。米国APAは公告・意見提出という形式を要求し（注3）、その後に根拠と目的の説明を要求する（注3）。この構造は、行政が自分の判断を文章化し、他者からの批判可能性の下に置くことを制度的に強制している。日本の意見公募手続も、意見を募り、考慮し、結果を公示することで、行政の形成過程を一定程度可視化する（注6）。言い換えれば、手続は文章を作るためではなく、文章が批判可能になるために存在する。

　生成AIがルールメイキングに入ると、この関係が崩れる可能性がある。生成AIは批判可能な文章を作るのではなく、批判されにくい文章を作る。批判されにくい文章とは、語彙が多く、接続詞が滑らかで、反論を先回りして言及だけしている文章である。これは、学術論文でも同様に危険であるが、行政の前文で起きると、危険度が跳ね上がる。なぜなら、その文章が、裁判や議会、監督機関、社会に対する説明責任の代替物として機能してしまうからである。

　要するに、生成AIが得意なのは、行政法が嫌う「説明責任の偽装」である。もちろん、行政が意図的に偽装するとは限らない。問題は、制度が偽装を見抜きにくい形に変質することにある。

7　生成AIを使うなら何を設計すべきか

　では、生成AIを行政が一切使うべきでないのか。そう断ずるのは容易だが、現実的ではない。むしろ論点は、「どの工程に」「どの条件で」使うかである。

　この点、米国ではAI活用を促進する政策文書も存在し、例えばOMBは各省庁に対し、AI活用を加速しつつ、市民的自由やプライバシー等の保護を維持するよう求めている（注7）。他方で、AI調達に関する別のOMBメモは、「非政府主体によるAI利用を規律する規制活動」は射程外であると明示する（注8）。ここには、政策としてのAI推進と、ルールメイキングへのAI導入が必ずしも同じ文脈で整理されていない、というギャップがある。

　ギャップを埋めるために、最低限設計すべきポイントは、次の三つである。

　第一に、用途の限定である。意見の分類・要約や既存資料の検索補助のように、出力が「判断の根拠そのもの」になりにくい工程は相対的に許容可能性が高い。他方、規則本文の条文案や、法的権限・事実認定・コストベネフィット評価を含む核心部分の生成は、原則として高リスクである。特に、前文のうち「根拠と目的」に当たる部分（注3）は、単なる定型ではなく、法的審査の焦点となるため、AIにそれっぽく書かせることの危険が大きい。

　第二に、記録の設計である。生成AIを用いた場合、プロンプト、参照資料、モデルのバージョン、出力、採用・修正の履歴を、後から検証できる形で保存する必要がある。これは技術的なログの問題ではなく、行政法上の「理由の経路」を保存する問題である。ProPublica報道が示す「校正係」という未来像（注1）は、ログがなければ、校正の妥当性も検証できない未来像である。

　第三に、説明責任の言語化である。行政が生成AIを使った場合、「どの部分に使い、どの部分は人間が責任を負って判断したのか」を、前文や結果公示において明確に書くべきである。行政手続は、最終的には人間の判断を社会に提示する仕組みである。生成AIを使ったことを隠すと、社会は「判断の主体」を誤認する。これは信頼の問題であり、信頼を失うと、結局は訴訟・政治的反発・制度改変でコストが跳ね返る。

8　雑感　良い文章は良い規則の代替にならない

　生成AIが行政の前文を書く、という話の怖さは、AIが間違うからではない。怖いのは、AIが間違いを隠す形で正しそうな文章を生成し、制度がそれを説明として受け入れてしまう点である。

　行政法は、文章を重視する。だがそれは、文章が美しいからではない。文章が、判断の根拠を固定し、批判と検証を可能にするからである。文章が固定されると、行政は後出しジャンケンができない。だから文章は、行政にとって拘束であり、社会にとっては手がかりである。生成AIが文章を自在に作れるようになると、この拘束が緩む。拘束が緩むと、批判可能性が落ちる。批判可能性が落ちると、説明責任が空洞化する。ここまで来ると、行政法の土台が揺れる。

　技術は速い。法は遅い。だが、この「遅さ」は、単なる時代遅れではなく、安全装置でもある。DOT事例は、生成AIが行政の文章作成に入り込むことが、単なる効率化ではなく、行政法が依拠する理由と記録の構造の再設計を要求することを示している。今後の論点は、生成AIを禁止するか許可するかではなく、どの摩擦を残し、どの摩擦を減らすか、という制度設計の問題として立ち現れるはずである。

　対岸の火事としてこれを眺めることはできない。日本においても、デジタル行財政改革や行政の効率化が叫ばれ、生成AIの活用実証が進んでいる。人手不足に悩む日本の行政現場にとって、「数ヶ月の仕事を20分で」という謳い文句は甘美な響きを持つ。しかし、我々は立ち止まって考える必要がある。法や規則とは、単なるテキストデータの集合体なのだろうか。それは、社会の構成員が合意し、安全と秩序を守るために積み上げてきた英知の結晶ではないのか。AIによって量産された「十分でよい」規制が、空の安全や鉄道の安全を脅かすとき、その代償を支払うのはAIでも、その開発企業でもなく、生身の人間である。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。