#383「AIがあなたを『潜在的犯罪者』と見なす国――世界が揺れるプレイクライム（犯罪予測）テクノロジーの実態」（探求爆発デイズ#81）
1日1探求を発信していく探求爆発デイズ。起業家・経営者としての久米村の溢れ出す好奇心と探究心をAIフル活用により“爆発”させ、新たな智へたどり着くための探究シリーズです。
AIがフルで使えるなら、問いを持ったならリサーチ、リサーチ、リサーチ、そして、探究の森に迷い込む、そこで分かったことを思考のフレームワークに落とし込んでみます。
日々の疑問や興味をきっかけに、歴史、発明、イノベーション、テクノロジー、タブー、経営、サブカル、SFなど多彩なテーマを深掘りし、多面的な考えや意外な発見やアイデアが連鎖する“知的刺激”をお届けしています。
今回は、EU AI ACT2025シリーズ（DarksideAI）。EUが禁止する技術をリサーチしてみました。今回は、犯罪予測技術について。プレクライム。
はじめに：EU AI法が突きつけた「ノー」の意味
もし、あなたが街を歩いているだけで、AIシステムがあなたの過去の行動、交友関係、さらには表情や歩き方から「将来犯罪を犯すリスクが高い」と判定を下し、警察の監視対象リストに載せるとしたら？
SF映画のような話だが、これは既に世界のいくつかの都市で現実となりつつある「予測ポリシング（predictive policing）」の一端だ。しかし、この動きに欧州連合（EU）が待ったをかけた。
策定中のAI規制法（AI Act）第5条1項(d)は、「AIシステムを用いて個人をプロファイリングしたり、その人の性格的特徴を評価することで、その人が将来犯罪を犯すリスクを算定・予測する行為」を原則として禁止すると明記したのだ。これは、AIによる「プレクライム（犯罪予測）」、つまり「この人物は将来、罪を犯す可能性が高い」というレッテル貼りを許さないという強い意志表示である。
なぜEUはこれほど厳しい態度でのぞむのか。背景には、過去の犯罪データや個人情報をAIで分析し、犯罪発生場所や「要注意人物」を割り出す試みが世界各地で行われ、その結果、深刻な差別、プライバシー侵害、そして誤判定といった問題が噴出したことへの強い懸念がある。
本稿では、このEU AI法の視点を羅針盤とし、欧州、アメリカ、中国、そして日本における犯罪予測AIの具体的な事例を深掘りする。それぞれの制度的背景、技術的な仕組みの危うさ、露呈した倫理的問題、そして社会に与えたインパクトと規制の現状を多角的に検証し、比較考察することで、テクノロジーと人間社会が共存するための道筋を探る。
欧州：「効果なし」の烙印と人権への回帰
欧州各国では、2010年代から犯罪予測AIの導入が試みられたが、その多くは期待外れの結果に終わり、倫理的な批判にさらされてきた。
ドイツで導入された「Precobs（Pre Crime Observation System）」は、侵入盗などの過去データから「近接反復理論（ある場所で犯罪が起きると、近隣でも連鎖的に発生しやすい）」に基づき、数百メートル四方のエリアの犯罪発生確率を予測した。しかし、バイエルン州などでの試行では、当局者が「犯罪率が低すぎてPrecobsでは有意な予測ができなかった」と認めるなど、限定的な効果しか示せなかった。バーデン＝ヴュルテンベルク州では導入が見送られたものの、警察内部には「データ主導で動く」という発想自体を肯定する向きもあったという。この「データへの過信」は、後に述べる各国の事例でも共通して見られる落とし穴だ。
オランダでは、国家警察が開発した「CAS（Crime Anticipation System）」が、中央犯罪データベースや人口統計などを統合し、犯罪が起きやすい場所と時間を予測した。「欧州で最も進んだ予測ポリシング」と評された一方で、アルゴリズムの不透明性や、特定の住民への偏見助長が問題視された。特に悪名高いのは、ロアーモンド市の「Sensing Project」だ。このシステムは、通過車両のナンバープレートや車種をリアルタイム解析し、「移動犯罪集団」を検挙しようとしたが、東欧ナンバーの車などに「加点」する設計は、アムネスティ・インターナショナルから「明確な差別であり基本的人権の侵害」と痛烈に批判された。興味深いのは、こうした問題がありながらも、当初オランダ国内では市民の関心が薄く、十分な社会的検証がなされなかった点だ。これは、技術の持つ「新しさ」や「効率性」といった側面に目が眩み、潜在的なリスクが見過ごされる典型的なパターンと言えるだろう。福祉給付不正検出システム「SyRI」が裁判所から違法と判断された事件も、アルゴリズムによる偏見再生産への警鐘となった。
イギリス（EU離脱前）でも同様の試みがあった。ダラム警察の「HART（Harm Assessment Risk Tool）」は、逮捕者の再犯リスクを「高・中・低」で予測したが、独立評価では「中リスク」判定の誤りが多く、アルゴリズムの透明性も欠如していた。ケント州警察は米国製「PredPol」を試用したが、「犯罪発生地点の予測には役立ったが、肝心の犯罪削減に結びつけられたか示すことは困難だった」として契約を打ち切っている。予測が当たっても犯罪が減らなければ、それは単なる「未来の覗き見」に過ぎず、実社会への貢献とは言えない。
これらの欧州での経験は、予測AIが決して万能ではなく、むしろ差別やプライバシー侵害といった深刻な副作用をもたらし得ることを白日の下に晒した。アムネスティ・インターナショナルが2020年に「立法による歯止めが整うまで全ての予測ポリシングを停止すべきだ」と勧告したのも、こうした危機感の表れであり、EU AI法における禁止規定へと繋がる大きな流れとなった。
アメリカ：予測ポリシング発祥の地の苦悩と転換
予測ポリシングの概念が生まれ、最も積極的に活用されてきたアメリカでは、その弊害もまた最も深刻な形で顕在化した。
全米で広く使われた「PredPol（現Geolitica）」は、過去の事件データから「今日ここで犯罪が起きそうなホットスポット」を地図上に表示し、警官のパトロールを誘導した。ロサンゼルス市警（LAPD）などが導入し、当初は「犯罪減少効果あり」ともてはやされた。しかし、その効果は長続きせず、むしろ黒人やヒスパニック系の住民が多く住む地域を繰り返し「高リスク」と判定し、結果的に「偏った警備履歴を増幅し有色人種コミュニティの過剰監視を自動化している」という痛烈な批判を浴びた。カリフォルニア州サンタクルーズ市は、全米で初めてPredPolを試験導入したが、住民の反発を受け、2020年には市議会が「予測ソフトは警察が過去に重点捜査した場所へまた警官を送り込むだけで、有色人種地域への偏見パトロールを強める」として恒久的禁止を可決。人種的不公正が、テクノロジーによっていかに巧妙に再生産されるかを示す象徴的な出来事だった。LAPDもPredPolの契約を打ち切ったが、その後に発表した「データ活用による地域密着型警察活動（DICFP）」が、実質的に旧来のプログラムの焼き直しではないかとの疑念も持たれている。「看板の掛け替え」では、根本的な問題解決には至らない。
個人単位のリスク予測として注目されたシカゴ警察の「戦略対象者リスト（SSL）」は、さらに深刻な問題を露呈した。約40万人の逮捕歴のある人物にリスクスコアを割り振り、「将来銃撃事件の加害者または被害者となる可能性が高い人物リスト」を作成。しかし、その存在が明るみに出ると、スコアの信頼性の低さ、運用の杜撰さ、そしてリストによる介入が逮捕偏重を助長し冤罪リスクを高める可能性などが次々と指摘された。実際、リスト上位者の多くは何の事件にも関与せず、一方で銃犯罪に関与した人物の多くは高リスクとされていなかった。秘密裏に進められたこの壮大な実験は、成果なく2019年に廃止された。
司法領域で用いられる「COMPAS（Correctional Offender Management Profiling for Alternative Sanctions）」は、被告人の量刑判断などに使われる再犯リスク評価ツールだ。2016年、調査報道機関ProPublicaが、COMPASが黒人被告に対し、白人被告の約2倍の割合で「高リスク」と誤判定していたことを暴露し、全米に衝撃が走った。「人種は計算に入れていない」という開発元の主張とは裏腹に、社会に内在する構造的差別がアルゴリズムを通じて増幅される現実を突きつけた。ウィスコンシン州最高裁は、判事がスコアを参考情報の一つとして用いる限り許容されるとしつつも、「COMPASの算出根拠は非公開であり、専門家ですら結果を説明できない。このようなツールの使用には極めて慎重であるべき」と警告した。ブラックボックスの中で下されるAIの判断が、人の人生を左右することへの強い懸念が示された形だ。
アメリカの事例は、地理ベースから個人ベースへと進んだ予測AIが、いずれも「統計的偏りの固定化」という倫理的ジレンマと、「予測精度・有効性の実証不足」という実務的課題に直面したことを示している。市民団体やメディアの追及、そして一部自治体の決断により、予測ポリシングは縮小傾向にあるが、連邦レベルでの明確な規制はなく、問題の根は深い。
中国：国家による監視と「プレクライム」社会実験
欧米とは対照的に、中国では政府主導でAIを駆使した予測的治安維持が国家戦略として強力に推進されている。その実態は、世界で最も先鋭的かつ人権上のリスクが高いと言わざるを得ない。
最も象徴的なのが、新疆ウイグル自治区における大規模な予測監視プログラムだ。当局は「一体化統合作戦プラットフォーム（IJOP）」と呼ばれるシステムを運用し、監視カメラやスマートフォンアプリから収集した膨大な個人データをAIで分析。住民の日常行動から「微細な兆候（micro clues）」――例えば、スマホの使用停止、近所付き合いの変化、自宅の裏口利用など――を検知し、「当局にとって潜在的脅威」と見なした人物を自動的にリストアップする。そして、実際に犯罪を犯していなくても、AIの予測に基づいて「再教育施設」と称される収容所に送致されるケースが後を絶たない。これは、無罪推定や適正な司法手続きを完全に無視した「テクノロジーによる予防拘禁」であり、ヒューマン・ライツ・ウォッチなど国際人権団体から厳しく非難されている。しかし、中国当局はこれを「テロ対策・安定維持のためのハイテク活用」と正当化し、国内での異論を許さない。
新疆以外でも、「平安城市」構想の下、AI監視網が中国全土に広がり、「プレ犯罪」の検出が試みられている。個人の経済状況、交友関係、ネット閲覧履歴などをAIで解析し、犯罪を起こしそうな人物をスコアリングするシステムが開発・導入されているとの報告もある。一部では、顔画像から「犯罪者相」を見抜くという、疑似科学的なAI研究まで行われた（これはさすがに信頼性がなく批判を浴びたが）。さらに、監視技術企業は、歩き方や表情から緊張度や攻撃性を推定し、不審者をリアルタイムで検知するソリューションを警察に提供している。駅や空港での実験も報じられており、日常の些細な仕草が犯罪の予兆と見なされかねない、ディストピア的な監視社会が現実のものとなりつつある。
中国のケースで際立っているのは、AI活用それ自体が人権抑圧の強力なツールと化している点だ。政府が絶対的な権力を持ち、異論を封じ込める体制下では、AI予測の誤りで無実の市民が拘束されても、それを検証し是正する仕組みが存在しない。EUが目指す人権を重視したAI規制とは、まさに正反対の方向を突き進んでいる。
日本：静かなる試行と「人間中心」の模索
日本では、欧米ほど先鋭的な犯罪予測AIの導入事例は多くないものの、一部の警察機関で試行や実証実験が進められている。
京都府警は2016年、NECと共同で「予測型犯罪防御システム」を開発し、全国で初めて実運用を開始した。過去10年分の府内犯罪データをAIで解析し、犯罪が起こりやすいエリアを数百メートル単位で予測、地図上に可視化してパトロールの重点化を図るという、PredPolに近いアプローチだ。神奈川県警も同様のシステム導入計画を発表し、名古屋市では地域防犯カメラの映像解析と組み合わせた予測モデルの実験が行われた。これらの取り組みについて、劇的な犯罪減少効果が報告されているわけではないが、「空き巣の発生が多い地域や時間帯を可視化でき、パトロール効果の検証に役立てている」といった限定的な評価がなされている。人種問題が顕在化しにくい日本でも、例えば外国人技能実習生の寮がある地区が空き巣多発地点としてマッピングされるなど、特定のコミュニティへの偏見を助長する可能性はゼロではない。現状、国内で予測ポリシングに対する大きな社会的議論は起きていないが、それは十分な情報公開と市民的検証が不足していることの裏返しとも言える。
政府レベルでは、2019年に「人間中心のAI社会原則」が策定され、AI利用における公平性確保やプライバシー尊重が謳われた。総務省や経済産業省もAI利用に関するガイドラインを発出し、社会に大きな影響を与えるAIについては説明責任と人間の関与の必要性を指摘している。犯罪予測AIを名指しした規制はないものの、有識者会議では「AIが差別や人権侵害につながり得る用途」の一例として議論されている。日本の警察が個人の将来犯罪可能性をスコアリングしているとは公表されておらず、現状では踏み込んだ活用は控えられていると見られる。しかし、AI技術への期待が高まる中、今後本格導入する自治体が出てくる可能性は否定できない。日本の特色は、米欧のような市民団体による強力な監視よりも、政府のソフトロー（非強制的な指針）による事前抑制に重きが置かれている点だ。このアプローチが真に機能するかは、今後の展開を注視する必要がある。
犯罪予測AIに巣食う共通の「病巣」：バイアス・精度・透明性の三重苦
各国の事例から浮かび上がるのは、犯罪予測AIに共通して潜む深刻な課題だ。
データに内在するバイアスの増幅: AIは過去のデータを「学習」する。そのデータが、過去の偏った取り締まりや社会に根深く存在する差別を反映していれば、AIはそれを忠実に学習し、あたかも中立的な科学的根拠があるかのように増幅して出力する。PredPolが黒人居住区を繰り返し「高リスク」としたり、COMPASが黒人被告を不当に「高リスク」と判定したのは、まさにこの「Automated Bias（自動化された偏見）」の典型だ。オランダのSensing Projectのように、アルゴリズム設計自体に差別的な要素が組み込まれるケースすらある。「人が行えば違法な人種プロファイリングを、機械が肩代わりする」という構図は、AIだから公平という安易な「テクノロジー神話」を打ち砕く。
精度の限界と誤警報（False Positives）の悲劇: 未来を完璧に予測することは、現在のAI技術では不可能だ。犯罪という複雑で偶発性の高い事象ならなおさらである。シカゴのSSLがリストアップした「リスク人物」の多くが無関係だったように、COMPASの暴力犯罪予測的中率が20%程度（5人中4人は外れる）と報告されたように、誤警報は避けられない。これは、無実の市民に不当な疑いの目を向け、警察資源を浪費させるだけでなく、本当に注意すべき脅威を見逃す「False Negatives（見逃し）」のリスクも伴う。ドイツのPrecobsが「犯罪率が低すぎて統計予測に適さない」と評価されたように、ツールの限界を認識せず過度な期待を抱くこと自体が危険だ。
ブラックボックスと説明責任の不在: 多くの予測AIのアルゴリズムは、企業秘密などを理由に公開されず、なぜ特定のリスク判定が下されたのか、市民はもちろん、当事者でさえ知ることができない。COMPASのスコア算出根拠やシカゴSSLのアルゴリズムが秘匿されていたのはその典型だ。これは、民主主義社会における監視テクノロジーが負うべき説明責任の原則に反する。EUのGDPR（一般データ保護規則）は、個人に法的影響を与える自動化された決定について説明を求める権利を保障しているが、従来の予測ポリシングの多くはこの要請を満たしていなかった。
自己実現的予言と「データ信仰」の罠: AIが「この地域は危険だ」と示せば、警察はそこを重点的にパトロールし、結果として逮捕件数が増える。すると、そのデータが再びAIに学習され、その地域のリスクスコアがさらに上昇するという悪循環（フィードバックループ）が生じる。これは「自己実現的予言」であり、偏ったデータが強化・再生産され、「やはりあの地域は犯罪が多い」という誤った確信を警察内部に植え付けかねない。データは客観的な真実ではなく、人間の行動や判断の産物であるという視点が欠落すると、「データが示すなら間違いない」という危険な「データ信仰」に陥る。
これらの課題は、犯罪予測AIが単なる技術的な問題ではなく、社会の公平性や正義のあり方そのものを揺るがす根源的な問いを孕んでいることを示している。
世界の対応は三者三様：EU・米・中・日のコントラスト
犯罪予測AIという「パンドラの箱」に、各国はどう向き合っているのか。その対応は、それぞれの法制度や価値観を色濃く反映し、興味深いコントラストを描き出す。
EU：法による断固たる「禁止」と人権の砦
EUは、AI規制法において、個人のプロファイリングに基づく犯罪リスク予測を「許容できないリスク」として明確に禁止対象とした。これは、欧州に深く根ざした人権尊重の理念、特に歴史的な経験からくる国家による監視への強い警戒感が背景にある。「何も悪いことをしていない個人が、AIによって潜在的な危険人物として扱われるべきではない」という思想が、この厳格な規制を支えている。EU域内では、PredPol型であれSSL型であれ、個人を犯罪者予備軍としてプロファイリングするAIシステムの運用は、今後事実上不可能となる。この法による強制的な禁止というアプローチは、世界でも突出しており、「人権と倫理を守るAI利用」の旗手たらんとするEUの強い意志の表れだ。
アメリカ：自治体ごとの自主規制と市民運動のダイナミズム
アメリカには、EUのような連邦レベルでの包括的なAI規制法は存在しない。サンタクルーズ市のように予測ポリシングを禁止する自治体もあれば、依然として運用を続ける警察署もあるなど、対応は分権的で多様だ。しかし近年、ニューヨーク市やロサンゼルス市といった大都市を中心に、市民の懸念を受けて市議会が規制に乗り出す動きが活発化している。ホワイトハウスが発表した「AI権利章典」は法的拘束力こそないものの、刑事司法分野などリスクの高いAI利用に慎重な姿勢を示している。アメリカの特色は、トップダウンの禁止措置よりも、市民団体、ジャーナリズム、そして裁判所といったボトムアップの圧力が、技術の乱用を是正する上で重要な役割を果たしてきた点にある。この柔軟性はイノベーションを促進する一方で、人権保障の明確さという点ではEUに譲ると言えるだろう。
中国：国家戦略としての推進と「安定維持」の論理
中国政府は、AIを国家統制と治安維持の強力なツールと位置づけ、警察分野への積極的な導入を国家戦略として推進している。「新一代AIガバナンス原則」といった倫理指針も存在するが、それは主に産業振興や国際協調を意識した対外的なポーズであり、国内の公安活動においては人権よりも「社会の安定」や政権維持が絶対的に優先される。予測ポリシングを禁止する国内法はなく、むしろ「AI技術で犯罪を未然に防止する」と肯定的に喧伝される。司法も政府の方針に追随するため、市民がAIによる不当な扱いの是正を求めることは極めて困難だ。これは、EUやアメリカとは根本的に異なる価値観に基づいたアプローチであり、国際的なルール形成においても独自の道を歩んでいる。
日本：「予防的ガイドライン」によるソフトな統制と静観
日本は、EUと中国の中間的な立ち位置と言える。人権尊重を掲げつつも、EUのような法的拘束力のある厳格な規制を導入するには至っていない。一方で、中国のように国家主導で野放図に推進するわけでもなく、政府策定の倫理指針やガイドラインを通じたソフトな統制を試みている。犯罪予測AIの導入は、現時点では一部自治体警察によるパイロット的なものに留まり、国として積極的に推奨しているわけではない。背景には、比較的良好な治安状況、そして万が一の不祥事に対する行政の責任回避の心理も見て取れる。結果として、大きな社会問題となる前に慎重姿勢が取られている形だが、明確な禁止規定がない分、組織内の判断で不透明な形で技術導入が進むリスクも否定できない。市民による監視と十分な議論が、今後ますます重要になるだろう。
EU AI法のレンズを通せば：他国の事例の多くが「レッドカード」
もしEU AI法第5条1項(d)の基準を他国の事例に適用すれば、その多くが「違法」と判断される可能性が高い。
アメリカのPredPolのような地域ベースの予測システムも、結果的に特定の住民グループをプロファイリングしていると解釈されれば、EUの基準では問題視されるだろう。個人の居住地域によって「犯罪予備軍度」を算出するような発想自体が、EUの人権感覚とは相容れない。
シカゴ警察のSSLや中国新疆ウイグル自治区のIJOPのような、個人にリスクスコアを付与し「要注意人物リスト」を作成する行為は、まさにEU AI法が禁止しようとしている「AIを使ったデジタルな烙印押し」そのものであり、明確に違法となる。EUの考え方は「予防は許容されるが、予測に基づく個人の選別や差別は許されない」というものであり、これらのシステムは後者に該当する。
司法分野で用いられるCOMPASのような再犯リスク評価ツールも、そのブラックボックス性や性格特性に基づく評価が、EUの禁止要件に近いと見なされる可能性がある。既に犯罪を犯した者に対する評価であっても、「将来の犯罪」を予測し、個人の権利に重大な影響を与える以上、極めて慎重な扱いが求められる。
日本の地域予測システムも、個人ではなく地域・時間帯に着目したものであれば、EU AI法の直接の禁止対象とはならないかもしれない。しかし、その予測ロジックが特定の個人属性（例：若者が多い地域だから高リスク）に過度に依存していると見なされれば、問題となる余地はある。
このように、EUの基準は他国の既存の取り組みに対して極めて厳しい評価を下すことになる。これは、AI技術の開発や導入を進める企業や政府機関にとって、無視できない国際的な潮流となるだろう。
未来への羅針盤：国際的な規制調和と「信頼できるAI」への道
犯罪予測AIをめぐる各国の対応は多様だが、今後は国際的な規制の調和や、実務におけるリスク評価基準の共有が不可欠となる。
民主主義国と権威主義国との間にはAI利用に関する根本的な価値観の隔たりがあり、一朝一夕にルールを統一することは難しい。しかし、G7やOECD、UNESCOといった国際的なフォーラムでは、人権尊重や法の支配を前提としたAI倫理原則の策定が進んでおり、これは一つの共通基盤となり得る。中国のような国家主導の監視システムに対しては、国際世論や外交的圧力を通じた粘り強い働きかけが求められるだろう。
テクノロジー企業は、各国の規制動向を注視し、人権侵害に加担することのないよう、グローバルな事業戦略を慎重に構築する必要がある。EUで禁止されるようなシステムを規制の緩い国々に輸出するような動きは、国際的な批判を免れないだろう。
そして最も重要なのは、犯罪予測AIというテクノロジーに安易に頼るのではなく、人権を尊重し、コミュニティとの信頼関係に基づいた、より公正で効果的な治安維持の方法を模索することだ。AIを用いる場合でも、そのプロセスは透明性を持ち、人間の監督下に置かれ、常にその有効性と倫理性が検証されなければならない。
予測ポリシングが突きつけた教訓は、AIの導入・活用には、その負の影響を徹底的に検証し、社会的な合意に基づく厳格なコントロールが不可欠であるという、極めて普遍的なものだ。EUのAI法は、その困難な課題に対する一つの明確な回答を示した。この動きが国際社会に広がり、各国がそれぞれの文脈の中で「倫理的で信頼できるAI」の実現に向けた具体的なステップを踏み出すことが、今まさに求められている。未来の社会が、AIによってより安全になるのか、それとも新たな不自由と不平等を生み出すのか。その岐路は、私たちの選択にかかっている。
参考文献・情報源リスト
EU AI Act (Proposal for a Regulation laying down harmonised rules on artificial intelligence)
Amnesty International reports on predictive policing and surveillance technologies.
Human Rights Watch reports on surveillance in Xinjiang, China.
ProPublica's investigation "Machine Bias" on COMPAS.
Academic research and news articles cited or implied in the original text regarding Precobs, CAS, Sensing Project, HART, PredPol, SSL, IJOP, and Japanese predictive policing systems.
Reports and guidelines from Japanese government bodies (e.g., Cabinet Office, Ministry of Internal Affairs and Communications, Ministry of Economy, Trade and Industry) on AI ethics and governance.
White House Blueprint for an AI Bill of Rights.