生成AI時代の責任設計－犯罪被害者政策が先に示した「子どもの被害」という視点

　生成AIの議論は、これまでAI政策の中で進んできました。
　しかし、すでに切実な問題が起こり始めています。

　生成AIの被害は、AI政策の議論よりも先に、犯罪被害者政策の現場で深刻な形をとって現れています。

　このシリーズでは、生成AIの普及によって生じつつある「個人の尊厳」と制度の問題を考えています。

　前回の記事では、生成AIの利用が広がる中で、誰が説明し、誰が責任を取るのかが事前に明確になっていない構造について取り上げました。

　今回は、生成AIによる児童の被害を通して、責任設計の問題を取り上げます。

1. 犯罪被害者政策の議論の中で

　2026年3月10日、高市早苗総理を会長とする政府の犯罪被害者等施策推進会議（推進会議）において、「第5次犯罪被害者等基本計画（案）」と「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律に基づく、児童買春・児童ポルノ事犯における被害児童の保護施策の実施状況に係る検証・評価について（案）」の2つが決定されました。

　まもなく閣議決定が行われる予定です。

　日本では、犯罪被害者等基本法（平成16年法律第161号）第8条に基づき、現在、5年ごとに犯罪被害者等基本計画が策定されています。
　この計画は、犯罪被害者や遺族のための施策や対応方針に関する国の基本的な方向性を示す政策文書です。

　その策定過程では、計画に盛り込むべき事項の検討や施策の実施状況の検証・評価などを⾏うために、有識者や被害者・遺族などから構成される「基本計画策定・推進専門委員等会議」が設けられています。

　その会議において、生成AIによる児童の被害が議論の俎上に載せられました。

2. 生成AIによる児童の被害

　きっかけとなったのは、第55回・第56回基本計画策定・推進専門委員等会議の過程において、ご自身も犯罪被害者の遺族であり、犯罪被害者支援に長年取り組んできた新全国犯罪被害者の会（新あすの会）の近藤さえ子委員による問題提起でした。

　弁護団の私を含め、新あすの会では、次のような問題意識を共有しています。

　生成AIの普及により、児童を対象とする性的画像等を含む不適切なコンテンツが、従来より容易に作成・拡散され得る状況が生じています。

　本人の同意なく作成された性的画像がSNS上で拡散される事案も報告されており、プラットフォーム事業者による適切な対応が求められます。

　児童は、被害の影響を受けやすい一方で、自力で救済にアクセスすることが難しい立場にあります。

　そのため、とりわけ、児童を対象とする性的コンテンツへの対応については、法制度の整備や事業者への実効的な措置を含め、政府として必要な対策を進める必要があります。

　こうした問題意識から、生成AIの問題を被害者政策の視点から検討する必要性を提起しました。

3. 児童買春・児童ポルノ禁止法に基づく検証から浮かび上がった問い

　この問題意識は、「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律に基づく、児童買春・児童ポルノ事犯における被害児童の 保護施策の実施状況に係る検証・評価について（案）」に盛り込まれました。

　その3頁には、以下の内容が明記されています。

　一見すると、小さな出来事のように見えるかもしれません。

　しかし制度の動きを見ている立場からすると、これは重要な一歩です。

　それは、生成AIによる被害の問題が、AI政策の議論からではなく、被害者政策の側から浮かび上がってきたという点にあります。

　なぜ今、犯罪被害者政策の側で問題が顕在化したのか。

　その背景には、生成AIの普及が加速度的に進み、SNS上で児童被害が拡大しやすくなっていることがあります。また、プラットフォーム側の対応が追い付かず、被害者側も救済にアクセスすること自体が容易ではないという事情があります。

　AI政策の議論では、これまで主に、産業振興、国際競争力、AIの安全性、技術的リスクといったテーマが中心に扱われてきました。

　もちろんこれらは重要な論点です。

　しかし、実際の被害の可能性という観点から見たとき、別の問いも現れてきます。

4. 生成AIの被害の特徴

　そこには、生成AI被害の構造の変化があります。

　生成AIによるコンテンツは、従来のインターネット問題とは少し異なる特徴を持っています。

　例えば、画像や動画が容易に生成され、元の投稿が削除されてもコピーが残り、本人の知らないところで同じ人物をもとにしたコンテンツが再生成されるといった点です。

　このような状況では、削除中心の対応だけで十分なのか、被害の実態からみて、被害者に従来の制度で対応するよう求めることが適切なのかという疑問も生じます。

5. 犯罪被害者政策が示した意味

　生成AIの被害は、技術の問題であると同時に、個人の尊厳の問題です。

　しかし、AI政策の議論では、安全性や技術的対策を中心に検討が進められてきました。

　また、産業振興は国力にとっても重要です。

　その一方で、日本の産業政策の歴史を振り返ると、後回しにされて苦しんできた人々がいたのではないかという視点も忘れてはならないように思います。

　だからこそ、AI政策の議論が進む中にあって、犯罪被害者政策の議論の中で、児童の視点からこの問題が提起されたこと、そして、司令塔機能が強化された警察庁が感度高く受け止め、政策文書に反映されたことには、大きな意義があります。

　日本の犯罪被害者政策において、今回の推進会議決定にかかる2本の政策文書は、多くの論点において、歴史的な転機ともいえるものです。

　私自身、第5次犯罪被害者等基本計画に向けた議論の過程で、警察庁が前進しつつ、被害者や遺族の声に真摯に向き合いながら、各種制度の改善に向けてこうした声をどう位置付けるべきか模索し続けていた姿が強く印象に残っています。

6. 生成AI時代の責任設計

　AI政策において、被害が生じた場合に、誰が説明し、誰が前に出て責任を取るのかという仕組みの問題は、まだ十分に整理されているとは言い難いように思われます。

 　生成AIの進展は止まりません。
　だからこそ、犯罪被害者政策が先んじて示したこの視点を、いかにAI産業全体のガバナンスの中に統合していくかが、これからの責任設計の鍵になるのではないでしょうか。

　次回の記事では、日本のAI政策の議論をたどりながら、責任の問題がどのように位置づけられているのかを検討します。