AI政策に残される「責任の空白」－政府のAI会議から読み解くアジャイル・ガバナンスと救済のタイムラグ
生成AIの社会実装が、かつてないスピードで進んでいます。
日本政府は「世界で最もAIを開発・活用しやすい国」を目指す方針を打ち出し、積極的に予算を投じています。
日本のAI政策は、イノベーションを阻害しないよう、厳格な法規制（ハードロー）を極力避け、指針・ガイドライン等のソフトローを中心とするアジャイルなガバナンスを選択しました。
これにより、制度設計は「柔軟性」を重視した形で進められています。
「まずは既存の法律で対応し、カバーしきれない部分を新たな枠組みで補完する」という日本型モデルとも評されます。
ただ、政府の会議資料や議事要旨を読みながら、あることが気になっていました。
責任はどのように位置づけられるのか、被害者救済はアジャイルであり得るのか。
今回は、まず、公開された議事要旨や政策資料に基づき、AIの制度設計に関する議論がどのように積み上げられてきたのか、その政策検討プロセスを整理します。次に、被害の実態に鑑みて、アジャイルなガバナンスと被害者救済のタイムラグについて考えます。
1. AI戦略会議とAI制度研究会
生成AIをめぐる制度設計の議論は、2023年5月以降、内閣府のAI戦略会議とAI制度研究会を中心に進められてきました。
これらの検討には行政だけでなく、構成員（委員）として、大学の研究者、関連社団法人、企業（NEC、さくらインターネットなど）、企業を支える弁護士も複数参画し、イノベーションと技術的リスクへの対応との両立が中心的なテーマとして扱われています。
また、AIの研究開発や社会実装に関わる企業（ABEJA、Preferred Networks、ベネッセコーポレーション、NTT、ヤマト運輸、Google Asia Pacific、Facebook Japanなど）から、直接ヒアリングが行われています。
2. 政府会議における検討の流れ：既存法による対応の整理
（1）AI戦略会議（第2回・第9回）：検討の前提と既存制度の確認
第2回AI戦略会議（2023年5月26日）において、AIの利活用とリスクへの対応について、既存の法制度との関係を整理しながら議論が行われました。
その後、第9回（2024年5月22日）の資料では、AIによる問題への対応として、民法、刑法、著作権法、個人情報保護法、プロバイダ責任制限法（現在の情報流通プラットフォーム対処法）などの既存制度が挙げられています。
まずはこれらの制度の適用可能性を確認するという、日本のAI政策における制度的な基本姿勢が示されました。
（2）AI制度研究会（第2回から第5回）：個別分野への適用と組み合わせ
2024年8月に設置されたAI制度研究会の議論でも、この方向性が確認できます。
第2回AI制度研究会（2024年8月23日）では、AI利用が企業活動に組み込まれる以上、事業特性に応じた既存法による対応が重要であるとの発言が記録されています。
続く第3回（2024年9月10日）では、包括的AI規制を直ちに設けるのではなく、個別分野の規制、ソフトロー、既存法を組み合わせるべきとの意見が示されました。
さらに第4回（2024年9月12日）では、既存法によって新たなAIリスクにも一定の対応が可能であるとの見解が現れ、第5回（2024年12月26日）では、医療機器や自動運転、重要インフラなどの基盤サービスについては、既存の法令やガイドライン体系の下で対応すべきであると整理されています。
（3）合同会議と「中間とりまとめ」：日本型モデルの明確化
2024年8月2日のAI戦略会議（第11回）とAI制度研究会（第1回）の合同会議では、イノベーション促進とAIの安全性確保・リスク対応との両立が重要な政策課題として整理されました。
ここでも、新たな包括的規制を直ちに導入するのではなく、既存制度を基礎とした対応を検討するという考え方が前提となっています。
こうした議論から、2025年2月に決定した「中間とりまとめ」に至り、個人情報、著作権、偽・誤情報等への対応について、既存法等を中心とする対応が前提であることが明示されました。
（4）少数意見と企業の意見
会議の過程では、一部の委員等から、被害救済や説明責任に関わる問題提起が繰り返しなされています。
例えば、消費者保護の観点からは、「AIを用いたSNS広告の投資詐欺や、偽サイトと気づかずに商品を購入した相談が多数寄せられている」として、「詐欺的なものに対する法的規制や救済手段が必要」、「詐欺的な消費者トラブルに関しては消費者の利益を最優先に考え、厳格な法規制が必要」と指摘する声があがっています。
また、偽情報や社会の混乱についても、「誰もが社会を混乱させる力を手に入れた」事態の深刻さが指摘され、「プラットフォーム事業者において検証技術を開発し、コンテンツにラベル付けするなどの積極的な対策や実装の推進が必要」との意見も出されています。
さらに、企業の採用活動等でAIが人を評価・選別するリスクに言及し、「機械によって人を評価するというのは、人間の尊厳に反するという強い意見もヨーロッパを中心にあり、正確性をどのように担保しているのかが議論になる」との警鐘も出されています。
この他にも、第4回AI制度研究会で、外部有識者の中央大学国際情報学部の須藤修教授から、「AIが引き起こした被害への明確な責任規定が必要」との指摘があり、AIのライフサイクル（開発者、実装者、利用者等）に応じた綿密な責任設定や、業界ごとのガイドラインの必要性も指摘されています。
他方で、企業側からはビジネス視点の意見が相次いで出されています。
まず、強い懸念として、「大型生成AIの規制も、イノベーションを阻害する」、「規制がかかりすぎること自体がリスクであり、制約内でしかデザインができなくなるのは問題」、「漠然とした不安や憶測のみをもってAIの発展を阻害してはいけない」といった声が上がりました。
その上で、新たな規制の必要性については、「AI活用は事業活動に埋め込まれるため、事業特性に応じた既存法対応が重要」、「既存の法制度でフォローできないような具体例は特になく、社会問題にもなっていない認識」、「既存法でAIの新しいリスクに対応できると考える。強制執行能力があるならば、例外を増やす必要はない」と、現行法で対応可能であるとの認識が示されました。
今後のアプローチとしては、「予防の側面があるホワイトリスト型は過度な規制となる懸念が高いため、法規制は事例をもとにしたブラックリスト型が望ましい」、「AI規制ではなく、個別分野の個別規制、ソフトローと既存法の併用がベスト」、「今は官民共同となって、ガイドラインに基づいた対応を行い、ベストプラクティスを作っていく段階」など、ソフトローを中心とした柔軟な対応を求める意見が大勢を占めました。
委員からも、まずは既存法（個別法）を適用・執行し、足りない部分を補完すべきというアプローチが広く支持されました。
ここから、中間とりまとめの最終的な方向性が、「国が指針を整備し、事業者による自主的な対応を促す」という控えめな表現に落ち着いたと評価できます。
（5）AI法と人工知能基本計画への反映
これらの会議で整理された議論は、2025年5月に成立した「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）、同年12月の「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」、「人工知能基本計画」といった政策文書に反映されています。
AI法には罰則がなく、事業者による「指針の遵守」を促す枠組みに留まりました。
また、2025年12月に閣議決定された最新の人工知能基本計画においても、誰が責任を取るのかという民事上の責任問題は「AI利活用における事故や損害が発生した場合の民事責任の所在や範囲について、在り方を検討する」という将来的な記述に留まりました。
3. 生成AIによる被害の実態
ここで、警察庁サイバー警察局と金融庁の各公表資料とマスコミ報道から、近時における日本国内の生成AIによる被害を整理します。
まず2024年は、生成AIの悪用が実際の刑事事件として現れた点に特徴があります。
2024年5月、生成AIを使ってファイル破壊機能を持つ不正プログラムを2023年3月に作成した容疑（不正指令電磁的記録作成罪）で、警視庁が被疑者を逮捕しました。生成AIの悪用が抽象的なリスクではなく、国内で摘発される現実の問題であることが明確になりました。
生成AIを悪用した本人確認書類の偽造やわいせつ画像の生成事例も確認され、被害がサイバー犯罪にとどまらない複合的な問題として認識され始めました。
2025年になると、被害の具体像が一気に広がります。
特に、毎日新聞が精力的に報道し、性的ディープフェイクは、生成と拡散の容易さから急速に拡大し、著名人に限らず一般女性や子どもにも、学校の行事写真や卒業アルバムの悪用などで被害が及んでいることが報じられました。
同年4月には、生成AIで作成したわいせつな画像のポスターをオークションサイトで販売し、全国で初めて摘発された事例が報道され、表現の問題を超えて刑事事件として扱われる事例も現れています。
また、生成AIによって巧妙なフィッシングメールやなりすましが容易に作成され、自然な日本語のメールや偽サイトが作成され高度化することで、従来よりも見抜きにくい金融被害が問題となり、被疑者の検挙事例も確認されています。
2026年には、こうした被害が統計や犯罪被害者政策議論の中でより明確に位置づけられています。
警察庁によれば、性的ディープフェイクに関する相談は2024年に100件以上に上り、2025年も増加傾向にあると報じられました。
また、警察庁は、2026年2月に「18歳未満の画像を使った性的ディープフェイクの被害相談・申告のうち、同級生や同じ学校の生徒が加害者であるケースが約6割に上った」との統計を公表しました。
性的なディープフェイクは人格権・性的尊厳の侵害として論じられ、児童被害についても、加害者が同じ学校関係者であるケースが多いなど、身近な関係の中で発生する問題として認識されるようになっています。
また、生成AIによる画像加工がSNS上で拡散される事例も注目され、被害は生成行為にとどまらず、プラットフォーム上での流通や再拡散を含む問題へと広がっています。
このように、日本における生成AI被害は、不正プログラム作成、フィッシング・なりすまし、性的ディープフェイクという三つの領域で具体化し、2024年の初期摘発から、2025年の被害の拡大、2026年の児童の被害と拡散構造の可視化へと展開してきているといえます。
4. 責任設計に向けた課題
すでに被害が現実化している中で、責任の問題は将来の課題ではなく、現在進行形の制度課題です。
原子力発電や宇宙開発といった先端技術分野では、事故が起こる前の制度設計段階から、責任についても検討されました。生成AIとこれらとの違いは、AI制度設計時に、すでに被害者が存在し、発生し続けているという点にあるともいえます。
最終的に、AI分野の「誰がどのように責任を取り、被害者を救済するか」という問題は、内閣府が担うAI政策の中核とは別トラックの構造になっています。
経済産業省において、2025年8月に「AI 利活用における民事責任の在り方に関する研究会」が別途設置され、2026年に入っても議論が継続しています。現在、「AI利活用における民事責任の解釈適用に関する手引き（案）」のパブリックコメントが行われています（2026年3月19日締切）。
ただし、この研究会の目的は、民法における過失や因果関係等の既存の概念を変えることなく、解釈の指針を示すことに留まっています。
既存法による対応は、基本的に事後的な紛争解決と個別責任の認定を前提とする枠組みです。
「推進のスピード」と「救済の遅れ」の間に生じるタイムラグ。
生成AI関連企業と一般国民との間に圧倒的な情報格差（情報の非対称性）がある中で、現行法で対応可能とすることは、被害を受けた国民側にAIの内部構造やアルゴリズムの不備を証明するよう求めることになり得ます。
とりわけ、生成AIは従来のAIと比べて、内部構造のブラックボックス化が進んでおり、被害者が原因や責任主体を立証すること自体が著しく困難となる構造は、従来の制度が想定していなかった課題といえます。
日本としては、生成AIの社会実装において、被害者の立証負担や救済のタイムラグを減らすアジャイルな責任設計を立案し、イノベーションと両立しつつ、調和的で信頼性の高い制度モデルを世界に示すことが、国際的なルールメイキングにおける日本の強みにつながるのではないかと考えます。