欧州評議会「人権とAIハンドブック（草案）」を読む / 既存規範とセクター別適用の射程 雑感

Ⅰ　既存規範の翻訳という作業

　欧州評議会（Council of Europe: CoE）の人権運営委員会（CDDH）傘下にある起草グループ（CDDH-IA）が、「人権とAIに関するハンドブック」の草案（第1章から第3章）を公表している〔注1〕。

　AI規制を巡っては、EUの「AI法（AI Act）」やCoEの「AI枠組条約（Framework Convention）」といった新たなハードローの策定に耳目が集まりがちである。しかし、実務家や法学者にとって真に難問となるのは、上位規範の抽象的な文言を行政・司法の個別の現場でどう適用するかという解釈の作法にある。本ハンドブック草案（以下「本案」）は、欧州人権条約（ECHR）および欧州社会憲章（ESC）という既存の人権法体系を、AIシステムのライフサイクルにいかにして「翻訳」し適用するかを試みた実務的文書といえる。七つの公共ガバナンス・セクターにわたる内容であり、草案段階ながらAI法研究者にとって無視しがたい素材を提供している。

1　「生ける文書」法理とAI

　本案の根底にあるのは、ECHRやESCを「生ける文書（Living Instrument）」とみなす法理である〔注2〕。AIのために全く新しい人権概念を発明するのではなく、「正当な目的」「必要性」「比例性」といった伝統的審査基準を、アルゴリズムによる意思決定という新たな事象にあてはめる。ここには、長年にわたり判例を積み重ねてきたCoEの自負と、既存体系の強靭さへの信頼が読み取れる。

　第2章において、説明可能性（Explainability）や解釈可能性（Interpretability）が定義されているが、これらは単なる技術用語の解説にとどまらない。説明可能性とは、技術的実現可能性を前提として、AIシステムがなぜ特定の出力を生成したかについて十分に理解可能な説明を提供する能力を意味する〔注3〕。いわゆるブラックボックス問題は、意思決定の理解を困難にするだけでなく、バイアスや不正確さ、いわゆるハルシネーションといった欠陥を隠蔽しうると指摘される〔注4〕。技術的な不透明性が、いかにして法的なデュー・プロセスの欠如につながるか。この因果関係を解きほぐす作業が、本案の核心部分であるように思われる。

2　国家の積極的義務と先駆的国家の責任

　もう一つの理論的柱は、国家の積極的義務（Positive Obligations）の強調である。AI開発の多くが民間企業によって行われている現状において、国家は単に人権侵害を行わない消極的義務だけでは足りない。私人間の関係、たとえばAI事業者と利用者、プラットフォーマーと労働者の関係において生じうる権利侵害を防止するため、適切な規制や監督を行う義務を負うことが再確認されている〔注5〕。AIシステムの開発・展開において官民連携や民間からの調達が一般的である状況を考えれば、この積極的義務の水平的効力はAIガバナンスの法的枠組みの出発点となる。

　あわせて注目されるのが、S. and Marper v. UK判決で示された、新技術の先駆的役割を主張する国家の特別な責任という法理の位置づけである。本案はこの法理を裁量の余地（margin of appreciation）の文脈で引用し、新技術の広範な利用がもたらしうる便益と保護される権利との間の適切な均衡を図る特別な責任を先駆的国家が負うと述べている〔注6〕。AIの開発競争が激化する中、この法理の射程がどこまで及ぶかは今後の判例の展開にかかっている。

3　横断的人権課題の特定

　本案は、セクター横断的な人権課題として、差別禁止と平等、プライバシーと個人データ保護、実効的な救済の三つを特定する〔注7〕。これらがAIシステムのライフサイクルにおける横断的な関心事であり、特定のセクターに限定されないとの整理は、以下のセクター別分析の全体を支える基礎をなしている。

　透明性・説明可能性の要請と知的財産権・営業秘密の保護との衝突も横断的な論点である。本案は、企業のAIシステムが知的財産法制や営業秘密法制によって保護されうることを認めつつ、アルゴリズム・システムに関する閣僚委員会勧告CM/Rec(2020)1を引いて、知的財産権や営業秘密が透明性を妨げたり説明責任を阻害するために利用されてはならないとしている〔注8〕。

Ⅱ　セクター別適用の射程

　本案の第3章後半は、司法行政、医療、社会福祉、法執行・公共安全、移民・国境管理、労働、教育の七つのセクターにおけるAIの人権影響を分析する。各セクターについて、主要なAIユースケースの特定、関連する人権と原則の検討、加盟国の実践への言及という共通の構成を採る。全セクターの詳論は紙幅の制約上困難であるから、示唆に富む四つの領域に絞って検討する。

1　司法行政における「武器対等」とバイアス

　欧州サイバー司法ネットワーク参加国の司法制度において、これまでに125のAI統合システムが使用ないし試行されている〔注9〕。ユースケースは、判例法の検索やe-ディスカバリーから、意思決定支援、司法判断の予測、オンライン紛争解決にまで及ぶ。完全に自動化された意思決定プロセスは欧州ではまだ報告されていないとされるが〔注10〕、意思決定を支援するAIシステムは、ECHR第6条の公正な裁判を受ける権利の複数の要素に影響を及ぼしうる。

　本案が特に力を入れるのが二つの論点である。

　第一に、裁判官の独立性・公平性とAIバイアスの関係である。AIシステムにおけるバイアスは、アルゴリズムないし数学的処理に対する中立性の一般的認識と、裁判官自身の技術バイアスゆえに、容易には識別しがたい。加えて、AIへの過度の依存が司法判断の標準化を招き、とりわけ任期が恒久的でなく国民投票の対象となる裁判官や、個人責任（懲戒、民事、刑事）を問われうる裁判官がAIの推奨に従わざるをえないと感じるおそれがある〔注11〕。この自動化バイアスへの懸念は、理論上のものではなく実務的に深刻な問題を孕んでいる。

　第二に、武器対等の原則との緊張である。当事者がAIによって分析されたデータの十分な精査を拒否された場合、ECHR第6条上の問題が生じる。知的財産権と営業秘密法が当事者のアクセスを制限しうるうえ、モデルの複雑性自体が被告にとって重大な障壁となる〔注12〕。

　Sigurður Einarsson and Others v. Iceland事件では、申立人が検察の使用したe-ディスカバリーシステムのデータ全体にアクセスできなかったことが争われた〔注13〕。欧州人権裁判所は、少なくとも一つの証拠群へのアクセス拒否がECHR第6条第3項(b)に基づく問題を提起することを認めたが、結論としては非違反と判断した。本案はこの事件を、AIと公正な裁判の接点を示す先例として位置づけている。

2　社会福祉とSyRi判決の教訓

　社会福祉分野の記述で中心に据えられているのが、オランダのSyRi判決である。ハーグ地方裁判所は、社会福祉詐欺の可能性を特定する目的で使用されたアルゴリズム（Systeem Risico Indicatie）とその根拠法が、ECHR第8条第2項の求める必要性と比例性の要件を満たさないと判断した〔注14〕。国連の極度の貧困と人権に関する特別報告者がアミカス・キュリエ意見書を提出し、SyRIが貧困層やその他の脆弱な集団を標的としていることの差別的かつスティグマ化する効果を強調したことも付言されている〔注15〕。

　効率的な資源配分という名目の下で、社会的弱者がアルゴリズムによる選別の対象となり、かつその理由がブラックボックス化される事態は、もっとも警戒すべきシナリオの一つであろう。本案は、一見中立的なデータ（郵便番号や消費行動など）が、民族性や社会経済的地位のプロキシ（代替変数）として機能し、間接差別を引き起こすリスクにも自覚的である〔注16〕。詐欺検知システムが、特定の集団の経験を不均衡に反映するデータで訓練されている場合、バイアスに基づくリスクプロファイルが作成され、個人のみならず、システムが同質的と認識する集団全体の差別禁止権を侵害する結果となりうる〔注17〕。

　透明性と説明責任に関しては、AIシステムが関与するケースが、事案に関する事実が全面的にまたは大部分において当局の排他的知識の中にある場合に該当しうるとし、欧州人権裁判所や欧州社会権委員会が挙証責任を当局側に転換してきた判例法理に言及している〔注18〕。この挙証責任の転換がAIによる福祉判断の文脈でどう具体化されるかは、今後の重要な論点である。

3　法執行と顔認識技術の萎縮効果

　法執行セクターでは、Glukhin v. Russia判決が詳しく引用されている〔注19〕。当局が平和的抗議に参加した申立人の調査に顔認識技術を使用した同事件において、欧州人権裁判所は、ECHR第8条（私生活の尊重）および第10条（表現の自由）の違反を認定した。処理された個人データが申立人の平和的抗議への参加に関する情報を含んでおり、したがって政治的見解を明らかにするものであったことが重視された。政治的見解を明らかにする個人データは、より高い保護水準が求められるセンシティブデータの特別カテゴリーに属するとされている〔注20〕。

　本案は、高度に侵入的な顔認識技術を用いた平和的抗議参加者の特定・逮捕が、表現の自由（ECHR第10条）および集会の自由（ECHR第11条）に対する萎縮効果をもたらしうるとの判示を確認している〔注21〕。特にライブ顔認識技術の使用については、濫用に対するいっそう強化された安全措置が必要であるとの指摘がなされている〔注22〕。

　監視技術の進展に鑑み、本案は伝統的な安全措置を超えた追加的措置として、アルゴリズム・バイアス、透明性、説明可能性・解釈可能性、説明責任に関する問題に対処するための措置が必要となりうるとする。必要な場合には、特定のAIシステムの監視目的での使用の明示的禁止をも含みうるとの言及がある〔注23〕。

4　労働における監視と団結権への脅威

　労働分野の記述で特に目を引くのは、職場におけるAI監視が労働者の表現の自由（ECHR第10条）、団結権（ECHR第11条、ESC第5条・第28条）に及ぼす萎縮効果への言及である。

　本案は脚注において、Amazonが従業員のチャットアプリで「Union」「Slave labour」「Representation」「Unite/Unity」といった言葉をAIモデルでブロックすることを検討していたとされる報道を取り上げている〔注24〕。労務管理の効率化という名目で導入されるAIツールが、デジタルの裏側で密かな言論統制や組合活動の監視として機能しうることへの警戒である。

　コミュニケーション、交流、移動を監視することは、使用者が組合活動を抑圧し、集会を妨げ、あるいは労働者の発言を萎縮させることを可能にする。組合活動を理由とする使用者の差別から従業員を保護することの欠如が萎縮効果を生じさせ、他の者がその組合に加入することを思いとどまらせ、ひいては組合の消滅につながりうるとの欧州人権裁判所の判示もあわせて引用されている〔注25〕。

　本案はまた、ECHRの下で使用者による通信監視が行われる場合に求められる比例性の判断枠組みとして、Bărbulescu v. Romania大法廷判決で示された六つの考慮要素を参照している〔注26〕。事前の明確な通知の有無、監視の範囲と侵入性の程度、使用者に正当な理由があったか否か、より侵入性の低い代替手段の有無、従業員への帰結と監視結果の使用方法、濫用に対する適切な安全措置の有無である。AIを用いた職場監視の文脈でこれらの要素がどう適用されるかは、各国の立法と判例の双方において具体化が求められる。

Ⅲ　むすびにかえて

　本案は草案段階の文書であり、第4章（新たな課題に関する考察）はまだ含まれていない。また、本案自身が認めるとおり、欧州人権裁判所も欧州社会権委員会もAIの人権への影響をいまだ直接的には扱っていない〔注27〕。したがって、本案が展開する議論はあくまで既存の判例法からの類推であり、将来の判例によって修正される余地は大きい。裁量の余地の法理がAIの文脈でどの程度の幅をもつかは、具体的な事案の集積を待たなければ確定しない。

　それでも、本案が示す論理構成は、AI規制を巡る議論が、原則の宣言から適用の実践へとフェーズを移していることを如実に物語っている。既存の人権法体系の解釈論を通じてAIの人権影響に対処しようとする欧州の手法は、方法論として興味深い。日本においては、AIガバナンスに関する法的議論がソフトローを中心に展開されてきた経緯がある。欧州のような強力な人権裁判所を持たない日本において、本案のような解釈の補助線が持つ意味は、むしろ大きいかもしれない。憲法上の権利保障や行政法上の原則をAIシステムにどう適用するかという問いは、比較法的な検討課題として残される。

他にもEU AI法については網羅的にまとめているため、必要あらば以下の目次を参照いただきたい。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。