誰が説明し、誰が責任を取るのか－生成AI時代のガバナンスと責任設計
気づかないうちに、自分の名前や画像が生成AIに使われていたらどう感じるでしょうか。
以前の記事では、「削除しても終わらない被害」を取り上げました。
今回は、誰が説明し、誰が引き受けるかが決まっていない構造について考えます。
1. 生成AIの利用と責任の所在
生成AIの利用は、すでに文章作成、画像生成、業務効率化、行政手続の補助など、社会のさまざまな領域に広がっています。
生成AIの社会実装が進むにつれ、その革命的ともいえる利便性や可能性に関する議論は急速に蓄積されつつあります。
一方で、実際の利用場面に即してみると、技術の性能や倫理原則とは別の次元で、説明しにくい違和感が生じる場面が少なくありません。
それは、生成AIの利用によって何らかの不利益や問題が生じた場合に、誰が説明責任を負い、誰が最終的に責任を引き受けるのかが、事前に明確になっていないという点です。
具体的には、次のような状況が生じうると考えられます。
どこで、どのように利用されているのかが当事者には把握できない（事後的な異議申立てが困難である）。
本人であれば選ばなかったであろう文脈で利用される可能性がある（人格的利益を損なうリスクが高い）。
しかも、その利用が直ちに違法であるとも言い切れない（法的救済の対象から漏れやすい）。
その結果として、問題を感じても、誰に対して異議を申し立てればよいのか分からない（責任主体が不明確で救済にアクセスできない）。
難しいのは、これらの状況が、個別の事象として見た場合には、必ずしも明確な加害意図を伴うものとは限らない点です。
むしろ、制度上の前提が未整理なまま技術利用が先行することで、説明の主体や責任の帰属が宙に浮いた状態が生み出されている点に特徴があるといえます。
つまり、悪意のある攻撃者だけでなく、良かれと思って使ったユーザーやシステム自体が、無自覚に誰かの尊厳を削りうるという構造的リスクといえます。当事者が制御不能で極めて影響が大きな不利益が生み出される問題なのです。
そして、この問題は、技術的な性能の問題というよりも、生成AIを社会に組み込む際の制度設計および組織設計の問題として捉える必要があると考えます。
2. 「ルール」だけでは足りないガバナンス
生成AIをめぐっては、すでに多くのガイドラインや倫理原則が示されています。企業の利用規程、行政の指針、国際的な原則など、その蓄積は決して少なくありません。
ただし、私は、利用に関するルール作りに偏っているのではないかと考えています。
本来のガバナンスとは、単に「守るべきルール」を列挙することではなく、次の点があらかじめ明確にされていることが重要です。
誰が判断したのか、
どこで人が関与したのか、
どこで止めることができたのか、
止められなかった場合に、誰が前に出るのか。
こうした責任の帰属が明確であって初めて、ガバナンスは実質的に機能します。
私は、この考え方を「責任設計」 （Responsibility by Design） と呼びたいと思います。責任設計とは、生成AI利用のどの段階で誰が判断し、どこで止められるかを事前に設計することです。ガイドラインは「どう振る舞うべきか」を示す行動規範ですが、責任設計は「問題が起きたときに誰がフロントに立つか」を決める組織の体制にも関わります。
犯罪被害者支援の現場が求めているのは、「誰が責任を持って被害を止めるか」という責任設計です。
3. 責任設計がない社会で起きること
責任設計が曖昧なまま生成AIが利用されると、問題が生じた際に、「システムの仕様だった」、「想定外の事態だった」、「個別の判断ではなかった」といった説明が繰り返されがちです。
その結果、誰も責任を取らないまま、被害や不利益だけが残ることになります。
このような状況は、生成AIに限った話ではありません。新しい制度や技術が導入されるたびに、これまで何度も繰り返されてきた光景です。
説明できない仕組みは、最終的に、声の小さい人から切り捨てられていく傾向があります。生成AIによる被害（フェイクポルノや誹謗中傷の拡散など）は、往々にして「個人の尊厳」という、経済合理性の外側にあるものがターゲットになります。
そして、説明できない仕組みがもたらすのは、単なる不便ではなく、救済を諦めさせる社会構造につながりうるのです。
4. 誰が引き受けるかを決め始めた欧米と、日本の確かな一歩
欧州（EU）や米国に目を向けると、AIをめぐる議論が、技術の是非や倫理原則から一段進み、誰が責任を負うのかという点に焦点が移りつつあります。
例えば、世界に先駆けて2024年に成立したEUのAI法 （AI Act）に加え、現在、EUでは、AI責任指令 （AI Liability Directive：2025年に一旦撤回）を含む被害者救済に関する議論が重要視されるようになっています。これは、AIによって被害を受けた人が、誰に損害賠償を請求できるかの法的責任を明確にするためのものといえます。
また、米国では、国立標準技術研究所 （NIST） が公表したAIリスクマネジメントフレームワーク （AI RMF）が、法的拘束力はないものの、事実上標準化した基準となっています。ここでは、AIを開発・運用する組織の中にガバナンスを置き、「誰がどのリスクを管理し、何かあった際に誰が対応するか」という組織内の責任体制（Accountability）を可視化することが重視されています。
つまり、EUは法的責任の明確化（誰に損害賠償を求められるか）のアプローチ、米国は組織内の責任体制の可視化（誰がどのリスクを管理するか）のアプローチです。いずれも、責任の空白を作らないための仕組みづくりであり、技術の是非とは別の議論です。
そして、両者に共通しているのは、AIそのものを万能視することも、全面的に禁止しようとすることもしていない点です。ここで問われているのは、AIを使うかどうかではなく、使った結果を誰が引き受けるのかという、極めて実務的な問題です。
この流れを見ると、生成AIのガバナンスとは、価値観の対立の問題ではなく、責任の所在を明確にする制度設計の問題であることが、よりはっきりしてきます。
こうした世界の潮流の中で、日本でも、警察庁の基本計画策定・推進専門委員会議において、新全国犯罪被害者の会（新あすの会）の委員が指摘したことに端を発し、2025年12月から、児童の視点からの議論が始まりました。
児童は生成AIによる被害の影響を受けやすく、かつ自力で救済にアクセスしにくい層であるためです。
私も「生成AI時代の被害者に、国はどう向き合うべきか」という視点から、第5次犯罪被害者等基本計画等に反映されるよう、委員のサポートをしてきました。
5. 誰もが責任設計の当事者
私自身としては、解決策は単一の方法ではなく、複数の手法の組み合わせになると考えています。すなわち、技術的なプロトコル（AIによる自動管理）と法的な権利定義をセットで設計すること、「予見可能性の再定義」（AIであれば変異・増殖することは予見できたはずだ、という論理）、さらに生成的検閲（Generative Filtering）の義務化などが、中心的な要素になっていくのではないかと予測しています。
生成AIを使う私たち一人ひとりが、責任設計の当事者でもあるのです。
便利さの裏側で、誰が説明し、誰が引き受けるのか。これは社会全体で考えるべき問いと考えます。