EU AI Act / Bitkom「AI規制実施ガイドライン」を読み解く ～汎用AI・プロバイダー化リスク・AIリテラシー義務を中心に～

はじめに

　EUについてこれまで複数回取り上げてきた。EUにフォーカスしてきた一番の理由は、国内企業にも影響を及ぼしうるためである。そうした意味でEU のAI規制は実務的な重要性も極めて高い。

（EUのAI規制は、EU域外の国々や企業に影響を与える。国や企業はEUの規制を自主的に遵守する必要がある（ブリュッセル効果）。）

（参考）

　そんな中、今回は実務的に参考になりうるものと考え、以下のガイドラインを取り上げる。翻訳や解釈に誤りがある可能性もあるため、詳細は原典を確認していただきたい。

　ドイツのICT業界団体Bitkomが公表した『AI規制実施ガイドライン（Umsetzungsleitfaden KI-Verordnung）』は、EUのAI規則（いわゆる「AI法」）への企業実務対応を支援する包括的な手引きである。

　Bitkomの2024年調査によれば、企業の69%がAI規則への対応について支援を必要としているとされ、本ガイドラインはそうしたニーズに応えるものである。AI規則（Regulation (EU) 2022/1689）は2024年6月に成立し、AIシステムの安全性確保と信頼性向上を目的に、リスクに応じた義務や禁止行為などを定めている。

　Bitkomガイドラインは、この規則の関連条文や考慮事項を分析し、企業が自社のAIシステムを適切に法的分類・リスク評価し、必要な義務を履行できるよう、Q&A形式のステップに沿って実務的助言を提供している。

　今回は、同ガイドラインの内容のうち、特に汎用AI（GPAI）とAIシステムの区別、AIシステム運用者（デプロイヤー）の「プロバイダー化」リスクと適合性評価義務、そしてAIリテラシー義務（AI規則第4条）と企業対応という3点に焦点を当て、そのポイントと示唆を考察する。

１　汎用AIモデルとAIシステムの区別：適用範囲への影響

　Bitkomガイドラインの冒頭では、まず「自社のシステムはAI規則上のAIシステムに該当するか？」という根本的な問いから検討が始まる。ここで重要なのが、汎用AIモデル（GPAIモデル）とAIシステムの定義上の区別である。　

　AI規則の適用範囲はこの概念に大きく左右され、多くの規定はAIシステムにのみ適用される一方、ごく一部の規定が汎用AIモデルに適用される。言い換えれば、あるソフトウェアやモデルがAIシステムにもGPAIモデルにも当たらなければAI規則の対象外となる。したがって自社の技術がどちらに該当するかを見極めることが、コンプライアンスの出発点となる。

　汎用AIモデル（GPAIモデル）とは、AI規則第3条で新たに定義された概念であり、大規模データで包括的に訓練され、流通形態を問わず多様なタスクを適切に遂行でき、数多くの下流システムやアプリケーションに統合し得る高い汎用性を備えたAIモデルを指す（研究開発中やプロトタイプ段階のモデルは除外される）。典型例として、昨今注目される大規模言語モデル（LLM）などがこれに該当し得るとガイドラインも指摘する。

　一方、汎用AIシステム（GPAIシステム）とは、そのような汎用AIモデルに基づき構築され、直接または他のAIシステムへの組み込みを通じて様々な目的に使えるAIシステムを指す。例えば、汎用的な言語モデルを組み込んで特定業務向けに提供されるチャットボットは、その意味で汎用AIシステムといえるだろう。

（参考）アメリカ州法

　重要なのは、AIモデル自体はユーザーインターフェース等を備えていない限りAIシステムではないという点である。AIモデルはAIシステムの中核的構成要素であるが、それ単体では動作環境に統合されていないため「システム」としての性質を欠く。AIモデルにインターフェース等のコンポーネントを付加し、アプリケーションに組み込んではじめてユーザーが利用可能なAIシステムとなる。AI規則上も「AIモデル」という用語自体は定義されていないが、ガイドラインでは「AIシステムは通常ユーザーインターフェースを備えた完成品のアプリケーションであり、AIモデルはその裏で動作する技術的コア部分」であると整理している。

　この区別ゆえに、AI規則は従来の製品規制になかった形で、AIモデル（汎用AIモデル）の提供行為にも一定の直接規制を及ぼしている。具体的には、汎用AIモデル提供者には一般的なAIシステム提供者とは異なる特則が適用され（例えば生成系AIの出力の透明性確保義務等）、モデルのリスク度合い（システミックリスクの有無）に応じて追加義務が課される可能性がある。もっとも「汎用AIシステム」という区分自体には直接の法的効果がなく、結局は通常のAIシステムとしてリスク分類・義務履行を判断することになる、とガイドラインは解説する。

　要するに、自社が提供・使用するものが「単なるAIモデル」なのか「AIシステム」なのかで適用義務が大きく異なり、さらにそれが汎用AIモデルに該当すれば追加の規制要件を検討する必要があるということである。

２　デプロイヤーのプロバイダー化リスク：提供者義務と適合性評価

　次に、ガイドラインが強調する論点が「AIシステム運用者（ユーザー）が、自ら提供者（プロバイダー）とみなされてしまうリスク」である。AI規則では提供者（Provider）とユーザー（User）の役割が明確に定義されている。

　提供者は簡潔に言えば「AIシステムを市場に投入する者」（開発者や販売者等を含む）であり、ユーザーは「個人利用以外の目的でAIシステムを使用する者」（企業内利用者など）である。この区別に基づき、本来、開発・提供者側に課される重い義務（高リスクAIの適合性評価や技術文書作成、CEマーキング等）と、ユーザーに課される義務（使用上の留意義務や監督義務等）は異なる。しかし場合によってはユーザーが「新たな提供者」と見なされ、提供者と同等の責務を負うことがあり得る。これが「デプロイヤー（展開者）のプロバイダー化リスク」である。

　ガイドラインでは、汎用AIモデルの活用ケースを例に取り、この問題を詳しく解説する。例えば自社でAIモデルを開発せず、外部から入手した汎用AIモデル（API経由で提供されるモデル等）を自社サービスに統合して利用するだけであれば、通常その企業はAIモデルの提供者とは見なされない。モデルのアルゴリズムや重み付け自体に手を加えず、いわば「ブラックボックスな汎用モデル」をそのまま呼び出して使う場合である。

　具体的には、検索エンジンで外部知識を補強するRAG（Retrieval-Augmented Generation）手法や、プロンプトエンジニアリングでモデルの出力を調整する手法などは、モデル自体の学習部分を改変するものではなく、こうした場合は企業の役割に変化は生じない（提供者とはならない）とされる。

　一方で、自社独自のデータでAIモデルを追加訓練する「ファインチューニング」等を行った場合は、法的評価が変わり得る。一度流通したAIモデルをさらに開発し直して新たなモデルとして提供するようなケースでは、その企業がAIモデルの提供者とみなされる可能性が出てくる。

　AI規則第3条第23項は「重大な変更（significant change）」という概念を定めており、提供者が想定していなかった変更でAIシステムの適合性（コンプライアンス）に影響を及ぼすものは重大な変更と扱われ、当該変更を行った者が新たな提供者とみなされると規定している。

　ガイドラインもこの基準を指針として示し、ファインチューニング等によってモデルの本来の機能が大きく変化し、客観的に見て再度の適合性評価が必要となる場合には、ユーザー企業が提供者として再定義されると説明する。もっとも「どの程度の変更で提供者と見なされるか」の境界はケースバイケースであり、明確な線引きが難しい点も指摘されている。

　さらにガイドラインは、モデル自体を改変しない場合でも提供者となり得るケースに注意を促す。それは、企業が汎用AIモデルを組み込んだ具体的なAIシステムをユーザーに提供する場合である。

　例えば、外部の大規模言語モデルを用いて自社顧客向けにチャットボットサービスを開発・提供する企業を考える。この企業自身はモデルの開発者ではなく、モデル提供者から見ると単なるユーザーにあたる。

　しかしその企業は、完成したチャットボットというAIシステムをエンドユーザーに提供している以上、そのシステムの提供者と評価される可能性がある。

　ガイドラインも「チャットボットという具体的AIシステムに関しては、当社の評価では企業はプロバイダー（提供者）とみなされる」と述べている。　
　実際、AI規則の透明性義務（第50条第1項など）は「プロバイダーは、ユーザーがAIと対話していると認識できるよう設計しなければならない」等と規定しており、これはシステムを実装する当該企業でなければ技術的に履行できない内容である。

　裏を返せば、モデル自体に大きな変更を加えていなくとも、特定用途に統合されたAIシステムを自社の責任で提供する以上、その企業が当該AIシステムの提供者とみなされ、提供者としての義務を負いうるということである。

　提供者義務には、高リスクAIシステムの場合、適合性評価手続の実施や技術文書の作成、リスク管理体制の構築、CEマーキングの取得といった多岐にわたる要件が含まれる。ユーザー企業が意図せず「提供者」となれば、こうした負担を負うリスクがあるため、ガイドラインは自社の行為が提供者行為に該当しないか慎重に検討することが必要があるとしている。

　特に汎用AIモデルを活用する企業は、モデルへの追加学習や改変の有無、AIシステム提供の態様に応じて、自社が担う法的役割（モデル提供者・システム提供者・単なるユーザー）がどこに位置付けられるかを社内で判断・整理し、それに見合ったコンプライアンス措置を講じる必要があるとされる。

３　第4条「AIリテラシー義務」と企業による対応

　AI規則には全てのAIシステムに共通して適用される一般的義務も定められている。その代表が第4条「AI能力の促進（いわゆるAIリテラシー義務）」である。これは、高リスク・低リスクを問わずAIシステムを安全かつ適切に活用するために、関係者（提供者・ユーザー双方）は十分なAIに関する技能・知識を社内に備えなければならないという趣旨の規定である。

　ガイドラインによれば、第4条は企業の従業員や関係者に対し「デジタル・AIリテラシー」を確保する必要性を強調しており、つまり従業員がAIシステムを使いこなすための基本的知識・技能を身につけていることが求められると解説する。

　これは単に技術的スキルの問題に留まらない。AIシステムの安全で責任ある運用のため、技術面・組織面の措置（高リスクAIの透明性確保など）と並び、人間側の能力強化が不可欠という考え方である。さらに高リスクAIシステムの運用者には、運用開始前に「基本権影響評価（Fundamental Rights Impact Assessment）」を実施し、当該システムが第三者の基本的権利へ与えうる影響を評価する義務も課されている。ガイドラインは、これらの規定からEUの立法者が技術的能力だけでなく倫理的・法的側面も踏まえた包括的なAIガバナンスを目指していることを示すものだと評している。

　では、企業はこの「AIリテラシー義務」にどう対応すべきか。ガイドラインでは具体策の一例として、社内人材のAI教育プログラムのモデルを提案する。

　それによれば、例えば段階的な学習パスを設け、レベル1（AIの基礎知識と倫理：5時間程度）→レベル2（AIの基礎と簡単な実装スキル：140時間程度）→レベル3（機械学習の応用開発：自主学習＋専門コース）といったステップで従業員の能力育成を図ることが考えられる。

　もちろん各企業の業態やAI利用状況に応じてカスタマイズが必要であるが、ポイントは単発の研修にとどまらず体系だった教育と能力証明（認定）の仕組みを整備することである。提供者・ユーザーを問わず、社内の関係者全員がAIの機会とリスクを理解し適切に扱えるようにすることが、第4条遵守のみならずAI活用のメリットを享受する上でも極めて重要となる。

　ガイドラインはまた、AI規則第14条・第26条の人間による監督（Human Oversight）要件ともこのリテラシー強化義務は補完関係にあると述べる。すなわち、高リスクAIについて「適切な人間の介在」を確保するためには、人間側がそもそもAIを理解し使いこなせなければ話にならない、ということであるようだ。

おわりに：日本のガイドラインとの比較を交えて

　以上、Bitkom『AI規制実施ガイドライン』の主要論点を見てきた。EUのAI規則は法的拘束力を持つハードローとして企業に直接義務を課すものであり、本ガイドラインはその解釈・実践方法を詳細に示すまさに生きた文書と位置付けられる。

　これに対し、日本の経済産業省「AIガバナンス・ガイドライン」や情報処理推進機構（IPA）の「AI開発ガイドライン」などは法的強制力のないソフトロー（自主的指針）であり、リスク管理や倫理原則の高水準な実践を促す内容となっている。

　両者を単純比較はできないが、EUでは法規制によって企業に具体的措置（適合性評価や人材育成、基本権影響評価など）を義務付けるアプローチが採られているのに対し、日本では現状、企業自らがガイドラインを参照しつつ体制整備に取り組むアプローチが中心である。

　例えば従業員のAIリテラシー向上についても、日本の指針では努力目標的に言及されるにとどまり、EUのような明確な義務規定は存在しない。

　今後、日本においても必要に応じて規制の検討が進む可能性はあるが、現時点では各社が自主的にガバナンス体制を強化し、AI規則のような海外法の動向も視野に入れて対応策を講じていくことが重要と言える。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。