スペイン・セゴビア「AIの良き利用ガイド」 / EU AI規則の地方自治体への実装 / オートメーション・バイアスと人間の監督 雑感
Ⅰ EU AI規則の現場への浸透
EU AI規則（Reglamento (UE) 2024/1689、以下「RIA」という）が2024年に成立し、各加盟国においてその実装が進められている。これまで多くの議論は、国家レベルの監督機関や大手テック企業のコンプライアンスに焦点を当ててきた。しかし、規制の実効性を担保するのは、市民と直接接点を持つ地方自治体の現場である。
スペインのセゴビア県議会（Diputación de Segovia）が公表した「AIの良き利用――地方自治体への責任あるアプローチ」〔注1〕は、この「現場への実装」という観点から検討に値する資料である。同ガイドは、セゴビア県の地方自治体データ保護事務所（OPDEL）が作成したものである〔注2〕。地方自治体の職員がRIAをどう解釈し、日々の業務に落とし込むべきかを示す実践的な手引書となっている。
以下では、このガイドを素材として、EU AI規則が地方行政の末端においてどのように受容されようとしているのかを検討する。
Ⅱ 責任あるAIとオートメーション・バイアス
1 技術的権威主義への警戒
本ガイドは、行政におけるAI利用の目的を、公共サービスの質と効率の向上に置く。同時に、AIの濫用が政府と市民との間の権力の非対称性を深め得るとして、技術的権威主義（autoritarismo tecnológico）への陥穽を警戒している〔注4〕。EU AI規則の前文やデジタル10年のための権利原則宣言（2022年12月15日）が掲げる人間中心の理念を、地方行政の文脈に引き直した記述といえる。
2 オートメーション・バイアスの問題
筆者が着目するのは、本ガイドが行政特有のリスクとして、オートメーション・バイアス（sesgo de automatización）を明示している点である〔注5〕。AIの出力結果を無批判に受け入れ、それを自身の判断として行政処分を行う危険性は、行政裁量の逸脱や適正手続の形骸化につながりかねない。
EU加盟国においては、個人がアルゴリズムのみに基づく決定の対象とされない権利を有する。本ガイドもこの原則を踏まえ、行政決定の過程には、十分な権限と技術的能力を備えた人間が、能動的かつ実質的に関与しなければならないと述べている〔注6〕。
本ガイドがAIを「監督と管理を必要とする才能ある幼児（un bebé superdotado necesitado de supervisión y control）」〔注7〕と形容している点は、やや比喩的ではあるが、人間の監督（human oversight）の不可欠性を直感的に伝える表現として理解できる。
Ⅲ リスク分類の実践的適用
RIAの核心であるリスクベース・アプローチについて、本ガイドは地方自治体の職員向けに平易な形で提示している〔注8〕。
（1）許容できないリスク（riesgo inaceptable）に分類されるのは、サブリミナル技術や操作的手法を用いた行動変容など、民主主義社会において容認し得ない利用形態である。
（2）ハイリスク（alto riesgo）には、重要インフラの安全コンポーネントとして機能するAIシステムなど、市民の生命や安全に関わるものが含まれる。厳格な要件遵守が求められる。
（3）限定的リスク（riesgo limitado）には、住民向けチャットボットやディープフェイク生成システムが該当する。本ガイドでは、ディープフェイクについてスペイン語で「ultrasuplantaciones」という表現が用いられている。AIであることを明示する透明性義務が課される。
（4）最小リスク（riesgo mínimo o nulo）は、スパムフィルターなど意思決定に実質的な影響を与えないものである。
この分類自体はRIAの構造に沿ったものであるが、重要なのは、地方自治体の各部署が自らの使用するツールをこの分類に照らして評価するための判断基準として提示されている点にある。
Ⅳ 地方自治体に求められるアクション
本ガイドの後半では、地方自治体がとるべき行動指針を列挙している〔注9〕。筆者が特に注目する項目を取り上げる。
1 インベントリの作成と目的の特定
庁内で使用されているすべてのAIシステムを棚卸しし、それぞれの利用目的とユースケース、および認可されたユーザーを特定することが求められている。シャドーITの防止という観点からも、管理の第一歩として妥当な措置である。日本の自治体においても、生成AIの業務利用が急速に拡大するなか、同様の棚卸しが実施されているかは検証の余地がある。
2 推論プロセスの把握とデータ品質
AIシステムがどのような推論ステップを経て出力に至るのかを正確に把握すること、および質の高いデータで適切に訓練することが求められている〔注10〕。ブラックボックス化したAIの出力を行政処分の根拠とすることへの警戒感が読み取れる。本ガイドは、市民が行政決定の根拠と理由を知る権利を有することに言及しており〔注11〕、AIの不透明性がこの権利を侵害しかねないとの問題意識は明確である。
3 AIリテラシーの確保
AIシステムの運用に関わる職員に対し、適切なスキル、知識、理解を身につけさせること、すなわちAIリテラシー（alfabetización en materia de IA）の向上が明記されている〔注12〕。前述のオートメーション・バイアスを防ぎ、実質的な人間の監督を機能させるための前提条件といえる。
Ⅴ むすびにかえて
スペインは、EU内でもいち早くスペイン人工知能監督庁（Agencia Española de Supervisión de Inteligencia Artificial, AESIA）を設置した国の一つである。AESIAには、RIAに基づく検査、確認、制裁の権限が付与されており、規則の実施を支援するガイド群も公表している〔注13〕。本ガイドもAESIAの役割を意識した内容となっている。
日本の地方自治体においても、生成AIの業務利用ガイドラインの策定は進んでいる。しかし、法的拘束力のある規則と直結した形での運用指針は多くない。リスクレベルに応じた義務の濃淡の設定や、基本的人権への影響評価という視点は、わが国の自治体における議論においても、より意識されるべき論点であると筆者は考える。
〔注1〕 Diputación de Segovia, Oficina de Protección de Datos para las Entidades Locales (OPDEL), "Buen uso de la IA: Un enfoque responsable para las entidades locales" (DL SG 3-2026).
〔注2〕 Id. at 2.
〔注3〕Diputación de Segovia, supra note 1, at 3.
〔注4〕 Id. at 4.
〔注5〕Id. at 5.
〔注6〕 Id.
〔注7〕Id. at 7-8.
〔注8〕Id. at 9-10.
〔注9〕Id. at 10.
〔注10〕Id. at 6.
〔注11〕Id. at 10.
〔注12〕Id. at 8-9. AESIAのガイド群は aesia.digital.gob.es にて公開されている。
〔注13〕Id. at 2（「Los textos de esta Guía no han sido estructurados ni redactados utilizando inteligencia artificial.」）.
（マガジン）「AIと法-雑感」
※目次は以下を参照
note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。