AIと人権 / アルゴリズム的権威主義の実相 / 民主主義国家の技術輸出 / 欧州議会報告書 雑感

Ⅰ　見えざる統制基盤としての人工知能

　欧州議会向けの詳細分析報告書を改めて通読した。同氏は、人工知能が中立なツールではないという前提に立ち、技術の発展と基本的人権の保護を両立させる国際的な枠組みの必要性を訴えている。この問題意識は、避けて通れない。

　本稿が参照するのは、H. Akin Ünverが2024年5月に執筆した報告書「Artificial intelligence (AI) and human rights: Using AI as a weapon of repression and its impact on human rights」である〔注1〕。欧州議会人権小委員会の要請を受けた政策分析文書であり、中国・ロシア・イランを軸とした事例研究と、EUへの政策提言を体系的に整理している。以下、特に検討に値すると判断した論点を中心に論じる。

1　デジタル抑圧の精密化と二つの局面

　本報告書はAIによる抑圧を性格の異なる二つの局面に整理する〔注1〕。

　第一の局面は、AIシステムに内在するバイアスが意図せざる差別的結果をもたらすケースである。採用選考・与信判断・刑事司法における人種や性別による不均等な処遇がその典型であり、開発者の主観的悪意とは無関係に、学習データの偏りや設計上の瑕疵がシステムの出力に反映される。第二の局面は、国家が意図的にAIを活用して反対意見を抑圧し、特定集団を精度高く標的化するケースである。本報告書は、EU AI法の禁止行為に列挙された生体情報の分類・顔画像の一括収集・感情認識・ソーシャルスコアリングが、まさにこの第二の局面への立法的応答であると位置づける〔注1〕。

　二局面論は単純化の側面もある。どちらの局面に該当するかの認定は、国家の意図の立証という困難な問題を伴う。しかし規制設計の観点では処方箋が根本的に異なる。前者にはアルゴリズムの透明性確保とデバイアス技術が主たる対応となり、後者には禁止規定・制裁・輸出規制という強制的手段が求められる。この区別を曖昧にしたまま規制論議が進むと、課題の所在と解決手段が乖離する恐れがある。

　中国の新疆ウイグル自治区の事例は、第二の局面の最も先鋭化した形態として本報告書が詳細に記録している〔注1〕。2015年開始のSharp Eyesプログラムは2005年のSkynet監視網を拡張し、監視カメラ・車両ナンバープレート認識・MACアドレスなどの多様なデータを統合する。新疆で稼働するIntegrated Joint Operations Platformは住民の政府発行IDカードと身体的特徴を紐づけ、当局が社会不安定の指標と判断した行動パターンを継続的に追跡する。この監視インフラを法的に下支えするのが、2016年サイバーセキュリティ法・2017年国家情報法・2021年データセキュリティ法という民間企業への強制協力を定める国内法体系である。事後的な犯罪捜査ではなく、アルゴリズムが算出したリスク基準に基づく事前管理へと国家の治安維持が移行している現実がここにある。

　ロシアについては、2022年のウクライナ侵攻以降にデジタル統制が急速に精密化した経緯が示される〔注2〕。ルネット法の施行によりロシアのインターネットを外部から切り離す法的根拠が整備され、ディープ・パケット・インスペクション技術の展開と相まって、政府はデジタル空間の言論をリアルタイムで制御する能力を高めた。2022年11月に開始されたオーカスプロジェクトは、機械学習と自然言語処理を用いてウクライナ戦争に関する情報やLGBTQ+関連コンテンツを自動検閲するだけでなく、禁止情報を拡散した個人のデジタル上の痕跡を追跡する機能も持つとされる〔注3〕。イランは国家情報ネットワークの整備により市民を国際インターネットから切り離す一方で、在欧イラン人ディアスポラが国内反体制派へのVPN提供を試みた際にAIを活用したプロファイリングと位置情報解析によりその活動を特定・妨害した実態が記録されている〔注4〕。亡命者による情報アクセス支援という回路もまた、AIによる越境監視の標的となりうるという観察は、従来の情報統制論の射程を超えた問題を提起している。

2　民主主義国家の技術移転という問題

　アルゴリズムによる統制は権威主義体制に固有の現象ではない。本報告書は、この点を正面から論じる〔注5〕。

　米国等の民主主義国家においても、法執行機関が予測的取り締まりや顔認証技術を導入した結果、過去の犯罪データに潜む人種的偏見が増幅され、特定のコミュニティに対する過剰な監視が生じた例が記録されている。デトロイトでは顔認証技術の誤認識により黒人男性が誤って逮捕される事案が起き、ロサンゼルスの予測的取り締まりツールはマイノリティの居住地域を高リスクと繰り返し判定した。この判定は現在の犯罪統計ではなく、過去の取り締まりパターンを反映したものにすぎなかった〔注6〕。

　より根深いのは、欧米の企業が開発した高度な監視システムや諜報ツールが、輸出を通じて権威主義国家の抑圧能力を裏付けている構造である。イスラエルのNSOグループが開発したスパイウェア「Pegasus」は、スマートフォンに侵入してデータへのアクセスや盗聴を可能にし、ジャーナリスト・人権活動家・法律専門家の監視に利用された。米国は2021年11月にNSOグループをエンティティリストに追加し、米国技術へのアクセスを制限した〔注7〕。自国内では人権保護を法的に規定しながら、市場の論理に従って他国における抑圧の手段を提供するという状況は、技術を輸出する企業・それを黙認する国家・法的遵守を根拠として協力するプラットフォームという多層の責任連鎖として理解される。アップルが中国App Storeから検閲回避アプリを削除し、LinkedInがかつて中国法令に従いコンテンツを手動・アルゴリズムの双方で検閲していた事実も〔注1〕、この連鎖の一端に位置づけられる。

Ⅱ　規範形成の限界と欧州連合の試み

1　リスクベースの法規制

　欧州連合は人工知能法を通じて、システムをリスクの程度に応じて分類し、基本的人権に対する許容できないリスクを持つ用途を原則禁止するアプローチを採用した。国家によるソーシャルスコアリングや公共空間でのリアルタイム遠隔生体認証の制限は、国際的なルール形成において一定の基準設定機能を果たしうる。

　ただし、法規制が技術の進化速度に追いつけないという問題は残る。固定的な法規範は技術の進展に対して後手に回る宿命にあり、本報告書自身も、定期的な見直しと更新のメカニズムを組み込んだ適応可能な規制枠組みの必要性を強調する〔注8〕。法がカバーしきれない隙間をいかに継続的に埋めるかが実務上の中心的な争点となる。

2　輸出管理の実効性

　法規を定めるだけでは、国境を越えるデータの流れや技術移転を掌握することは困難である。本報告書は、2024年1月に公表されたEconomic Security Packageによる輸出管理体制の強化を踏まえ、EUに対して、人権影響評価プロトコルの確立・デュアルユース規則の改正・輸出ライセンス要件の厳格化・最終用途の透明性確保の義務づけを提言する〔注9〕。市場へのアクセスを人権基準の遵守と明確に結びつけることで、経済的影響力を梃子として技術の適切な利用を促すというアプローチである。

　筆者が加えると、アルゴリズムはソフトウェアとして物理的な物品とは異なる速度で国境を越えるため、ワッセナー・アレンジメントをはじめとする既存の多国間輸出管理体制との連携を深め、ソフトウェア技術への適用可能性を精緻化することが求められる。本報告書の提言はEU独自の制度設計を中心としているが、国際的な多国間協調なしには抜け道を塞ぐことができないという点も見据える必要がある。

　さらに、規範設定者としてのEUの信頼性が内部的整合性に依存するという本報告書の指摘は傾聴に値する〔注10〕。対外的に掲げる原則を域内において実践していなければ、他国を規律しようとする主張の説得力は失われる。加盟国内における高度技術輸出の管理を含め、EUが自国の行動と標榜する価値の整合性を不断に点検する責任を負うという論点は、規範の外部輸出と内部実施の関係をめぐる法学的な問いでもある。

Ⅲ　むすびにかえて

　人工知能技術は統治のコストを劇的に押し下げ、国家が社会の隅々まで不可視の権力を浸透させることを可能にした。権威主義国家における抑圧的利用の実態は、民主主義社会に対しても自らの法制度と技術との向き合い方を厳しく問い直している。

　本報告書を通読して改めて確認されるのは、AIによる抑圧が特定の悪役による一方的な問題ではなく、技術を輸出する企業・それを黙認する国家・法的遵守を根拠として協力するプラットフォーム・規範を掲げながら自国内の整合性を問われる民主主義国家という多層の責任連鎖に埋め込まれた構造的問題であるという点である。アルゴリズム的権威主義に対抗するためには、輸出管理・技術監査・国際協力という複数の政策手法を組み合わせた対応が求められる。国家権力による技術の濫用を防ぐ制度的保障をいかに設計するかは、法学における継続的な検討課題であると考える。詳細は、原典をご確認いただきたい。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
P.S. This is shared for academic discussion only.