AIハームと人権――ICAAD/KWM報告書を読む雑感
１ はじめに
人工知能（AI）の社会実装が急速に進展する中、その利活用に伴う人権侵害リスクへの懸念は高まる一方である。もっとも、これまで数多く提唱されてきたAIによる「ハーム（harm）」の類型化やインシデントデータベースの多くは、AIが引き起こす事象と、国際人権法上の具体的な人権侵害との対応関係を明示的に示してこなかった。
こうした中、ICAAD（International Center for Advocates Against Discrimination）と法律事務所King & Wood Mallesons（KWM）が公表した2025年報告書『Artificial Intelligence Harm and Human Rights: A High Level Exploration of the Interaction of AI Harms』（以下「本報告書」）は、このギャップを埋めるための重要な試みといえる。本稿では、同報告書が提示する分析枠組みを紹介し、AIガバナンスにおける「人権」の位置づけを見てみたい。
２ AIハームと人権の乖離という課題
本報告書の根底にある問題意識は、「AIの利用に起因する人権侵害リスクをいかに整理・評価すべきか」という問いにある。AIの応用領域や被害類型が拡大する中、従来の規制やガバナンス策では人権保護が追いついておらず、企業も政府も依然としてAIと人権との結びつきを十分に認識していないとの危機感が示されている。
例えば、チャタムハウスのケイト・ジョーンズらが指摘するように、企業や各国政府・国際機関が策定したAI倫理原則の多くは人権への言及を欠き、各国のAI戦略も人権との関係を深く掘り下げていないのが実情である。AI業界と人権コミュニティの対話も乏しく、ビジネスの現場では「人権は自社のAIには無関係」と考える向きさえ多い。
こうした状況に対し、国際人権法の枠組みをAIガバナンスに取り入れる動きも進みつつある。OECDのAI原則（2019年）は人権尊重を掲げ、EUのAI規則（AI Act）も「人間中心」のAIと基本権保護を目的に据えている。さらに2024年には欧州評議会（CoE）で世界初の包括的なAI条約（Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law）が作成され、人権・民主主義・法の支配の観点から各国にAI規制措置を義務づける内容が盛り込まれた。
しかし、これらは依然として発展途上の枠組みに過ぎない。本報告書は、多くの国・企業において「AIによる人権侵害」が可視化・具体化されていない現状に一石を投じ、AIによるハームと人権保護上の論点とを直接結びつける体系化の試みとして位置づけられる。
３ 10の基本的人権とAIハームのマッピング
本報告書の中心的な成果物は、第3部で提示される「AIハームと人権のマッピング表（Table 2）」である。これはAIに関連する典型的なハームを10種類の「基本的人権」カテゴリーと紐づけて整理したものであり、実務的なチェックリストとしての機能が期待される。以下、その主要な類型を概観する。
1. 平等権・非差別（Equality and Non-Discrimination）
AIシステムによって人種や性別などに基づく差別的取扱いが発生するリスクである。例えば、バイアスのある信用スコアや保険料算定モデルにより特定の人種・属性集団が不利な結果を被る事例が挙げられる。学習データや開発者の偏りにより差別が増幅される懸念があり、特に行政判断や教育、金融、医療、雇用等の分野では要注意とされる。
2. プライバシー権（Privacy）
個人の私生活や個人データがAIによって不当に干渉されるリスクである。大量の個人データ収集に基づく監視AIや、顔認識システムによる無断の個人識別が典型例である。オランダのSyRI事件（2020年）のように、恣意的なデータ統合利用がプライバシー権侵害として違法と判断された事例も存在する。
3. 適正手続（Procedural Fairness）
司法手続や行政判断にAIが介入することで、公正な審査を受ける権利が損なわれるリスクである。再犯リスク予測等が刑事司法で用いられる際、ブラックボックス性により当事者が算出過程に反論できず、知らぬ間に権利制限を受ける危険性が指摘されている（米国のLoomis事件等）。
4. 生命・身体の安全及び健康への権利（Freedom from Physical and Psychological Harm）
AIの誤作動による事故や、ディープフェイク等による精神的被害が含まれる。本報告書は、生成AIによる性的なディープフェイクの作成・拡散を深刻視し、AIによる新たな性暴力・嫌がらせとして位置づけている。また、チャットボットが利用者に自殺をそそのかすような事例も、このカテゴリーで扱われる。
5. 表現・情報及び思想・良心の自由（Freedom of Expression, Information, Thought and Religion）
SNS等におけるアルゴリズム検閲や、AI監視による萎縮効果が論点となる。生成AIがフェイクニュース拡散に利用され、人々が真実の情報にアクセスできなくなるリスクや、権威主義体制による検閲へのAI活用が懸念されている。
6. 意義ある雇用への権利（Right to Meaningful Employment）
採用AIによる差別的選別や、アルゴリズム管理による過酷な労働環境が問題となる。Amazon社の採用AIが女性を低評価していた事例や、プラットフォーム労働者の評価アルゴリズムが不透明である問題などが含まれる。
7. 科学の恩恵を受ける権利（Right to Enjoy the Benefits of Scientific Progress）
「AI格差」の問題である。先進国や大企業がAIの恩恵を独占し、グローバルサウスや社会的弱者が取り残される状況は、国際人権規約等が保障する科学の恩恵を享受する権利に反する可能性がある。
8. 差別的憎悪扇動の禁止（Prohibition of Advocacy of Hatred）
生成AIがヘイトスピーチやデマの拡散に悪用され、特定集団への暴力を煽るリスクである。AIが匿名かつ大規模にヘイト扇動を行い得る点は、新たな人権上の脅威である。
9. 集会の自由・結社の自由（Freedom of Assembly and Association）
顔認識やSNS分析により抗議活動参加者が特定・監視され、活動が萎縮するリスクである。テクノロジーによる市民監視には厳格な法的統制が不可欠である。
10. 公務参加権（Right to Take Part in Public Affairs）
AIによる世論操作やディープフェイクを用いた選挙干渉が、民主的プロセスの公正さを損なうリスクである。有権者の判断を歪めるマイクロターゲティング広告などもここに含まれる。
４ AIガバナンスにおける実務的含意
本報告書が提示するマッピング表は、あくまで「出発点」に過ぎない。各AIシステム固有の文脈や影響の深刻さを踏まえた詳細な分析（人権インパクト評価：HRIA）と組み合わせて活用される必要がある。欧州評議会が公表したHUDERIA（AIシステムの人権・民主主義・法の支配インパクト評価手法）のようなツールとも補完関係にあるといえよう。
特筆すべきは、本報告書の枠組みがEUのAI規則（AI Act）との親和性を有する点である。AI規則が基本権影響評価を義務づける高リスク領域（司法、雇用、必須サービス等）は、本報告書が整理した人権カテゴリーと概ね重なっている。したがって、本報告書のマッピング表は、企業がコンプライアンス評価や人権デューディリジェンスを実施する際の有用なチェックリストとして機能し得る。
AIと人権の関係性は、技術の進展に伴い常に変化する。本報告書が包括的に洗い出した論点群は、断片化しがちなAI倫理・法規制の議論を「人権」という共通言語（Common Language）で統合し直すための貴重な叩き台となるだろう。「AI時代に人権をいかに守るか」という問いに対し、守るべき権利の全体像を俯瞰し、自らの課題を自己診断するツールを提供した点で、本報告書の意義は大きいかもしれない。
参考文献
[1] ICAAD & King & Wood Mallesons, Artificial Intelligence Harm and Human Rights: A High Level Exploration of the Interaction of AI Harms (2025).
URL: https://icaad.ngo/2025/09/29/ai-harm-and-human-rights/
[2] Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225, 2024).
URL: https://rm.coe.int/1680afae3c
[3] Human Rights Council, Artificial intelligence procurement and deployment: ensuring alignment with the Guiding Principles on Business and Human Rights, A/HRC/59/53 (2025).
URL: https://www.ohchr.org/en/documents/thematic-reports/ahrc5953-artificial-intelligence-procurement-and-deployment-ensuring
[4] Kate Jones, Glossary of Artificial Intelligence (Chatham House, 2023).
URL: https://www.chathamhouse.org/sites/default/files/2023-01/2023-01-10-AI-governance-human-rights-jones.pdf
[5] State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
URL: https://www.wicourts.gov/sc/opinion/DisplayDocument.pdf?content=pdf&seqNo=171690
[6] NJCM v. Netherlands (SyRI), District Court of The Hague, ECLI:NL:RBDHA:2020:865 (2020).
URL: https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878
（マガジン）「AIと法-雑感」
※目次は以下を参照
note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。