『EU AI規制枠組み規則案』勉強会報告
世界経済フォーラム第四次産業革命日本センターでは、欧州委員会が4月21日に発表したAI規制枠組み規則案に関する知見を深めるため、規則案に関する勉強会を5月13日に開催いたしました。
当センターのスタッフ、フェロー、インターンなど15名以上が参加し、オンライン会議システムを通じて、活発な議論が展開されました。
AI規制枠組み規則案の概要
ポイント
・EU域外の事業者にも適用されうる（罰則規定あり）
・AI使用リスクの4分類
・認証機関による事前/事後規制
本規則案は、AIが用いられる場面に応じて講じられるべき施策と、それに伴う罰則規定が提示されています。
適用範囲は広く、EU域内のAIシステム提供事業者・利用者のみならず、AIシステムのサービスがEU域内で利用される場合には、EU域外のAIシステム提供事業者や利用者にも及ぶことがあります。
規則案では、AIの利用リスクに応じて4つに分類し、それぞれのリスクレベルにおいて求められる対応が区別されいます（リスクベース・アプローチ）。
リスクに応じた4分類
（1）使用禁止：使用不可
例）公共の場で警察が行うリアルタイムの顔認証技術を用いた捜査、政府による個人情報を用いた個人の信用格付け（行方不明者の捜索、テロリストの脅威防止など除く）
（2）ハイリスク：事前/事後審査が必要
例）一般的な顔認証、インフラ管理、企業の人事、国境管理
（3）ローリスク：ユーザーは相手がAIだと通知される必要がある
例）チャットボット
（4）最小限リスク
例）迷惑メールの阻止
使用禁止行為に違反した場合は、高額の制裁金として課されます。具体的には、（a）3000万ユーロもしくは（b）世界総売り上げの6％のどちらか高い方です。使用禁止行為以外の類型で違反があった場合は、（c）2000万ユーロもしくは（d）世界総売り上げの4％のどちらか高い方が制裁金として課されます。
各加盟国は、適合性評価のための認証機関（第三者機関）を設置するほか、各国の監査当局の代表・欧州データ保護監督官から構成され欧州委員会が議長を務めるEuropean AI Boardを設置するなどして、事前/事後の規制に努めます。
意見交換会の様子
開催前の準備として、私（インターン佐藤）がレジュメ担当として、規則案の概要を7ページにまとめ、事前に共有いたしました。
当日は、レジュメを用いて報告を行った後、参加者全員で質疑応答とディスカッションを行いました。例えば、以下のようなコメントがありました。
GDPRのように、導入時の混乱が生じるのではないか。あまり強い規制をかけると、規則自体の有名無実化やイノベーションの停滞に繋がることが懸念される。
他国の事業者に対して、どれだけ認証機関がモニタリングの機能を発揮できるのか期待したい。
AIの監査を第三者が行うためには、モデル検証用のデータセットを第三者機関が用意する必要があると思われるが、現実的に可能なのだろうか。集められたとして、検証性・再現性はどう担保されるのか。
本規則案では、データ品質やセキュリティの強靭性・堅牢性などが強調された一方で、公平性や反差別など定量的な定義が難しい部分に踏み込んだ記述が少ないのではないか
このほか、世界経済フォーラムが発行した白書「顔認証における責任のある制限、フロー管理のユースケース（Responsible Limits on Facial Recognition, Use Case: flow management）」との比較も行われました。
白書では、飛行機に搭乗する乗客への顔認識技術（FRT）の利用に焦点を当て、航空会社が責任を持ってFRTを活用するためのフレームワークを提案しています。ツールキットでは、FRTの責任ある利用のための10の行動原則を企業に示しており、さらに、第三者認証機関が運営する審査フレームワークも提案していました。
このフレームワークは、輸送業界の主要プレーヤーである成田空港、パリ空港（Groupe ADP）、SNCF （フランスの国営鉄道会社）、先端技術企業の日本電気株式会社（NEC）やアイデミア（IDEMIA）、さらに日本、フランス、EUの政策立案者などと共同で設計されたものです。
レジュメ担当の所感
本法案は、GDPRに引き続きEUが打ち出す域外適用の規制案として提示されたものでしたが、その適用範囲の広さから対応を迫られる日本企業も多く、国内においても様々なメディアで取り上げられていました。
民間のみならず国家単位でのAI活用が進む中で、国際的なAIの使用規則が必要となる一方、罰則を設けEUが独自に定めた規則に従わせる手法には産業界からも反発の声が上がっています。
人々の安全を最優先としつつも、対象国・企業を拡大したマルチステークホルダーでの対話を継続し、全世界で受容される理想的なAI規制の枠組みが誕生することを願っています。
執筆：世界経済フォーラム第四次産業革命日本センター インターン 佐藤良磨
企画・構成：世界経済フォーラム第四次産業革命日本センター プロジェクト戦略責任者 工藤郁子