見出し画像

EU AI法の透明性義務①—どのAIシステムが対象になるのか

M.S.

EU AI法（規則（EU）2024/1689）50条の透明性義務は、2026年8月2日から適用されます。

その約2週間前の2026年7月20日、欧州委員会は、同条の実施ガイドライン案の内容を承認しました。正式採択はすべての言語版が揃った後となりますが、本稿では、同日公表された最終案を「ガイドライン」と表記します。

EU AI法の透明性義務は、生成AIだけを対象とするものでも、ハイリスクAIだけを対象とするものでもありません。

本稿では、まず「自社のAIシステムやその利用は、50条の対象になりうるのか」に絞って整理します。

本シリーズの構成

  1. どのAIシステムが対象になるのか（本稿）

  2. 誰が義務を負い、何が適用除外になるのか

  3. 提供者は何をすべきか——対話開示とマーキング

  4. 導入者は何をすべきか——感情認識、ディープフェイク、公益テキスト

※本稿では、AI法3条3号のproviderを「提供者」、3条4号のdeployerを「導入者」と訳します。AI法が用いるoutputは「アウトプット」と表記します。

まず結論

EU AI法50条は、主に次の4類型を対象とします。

  1. 人と直接やり取りするAIシステム

  2. 音声・画像・映像・テキストを生成・改変するAIシステム

  3. 感情認識システム・生体分類システム

  4. ディープフェイクや一定の公益テキストの利用

義務を負う主体は、AIシステムの性質や使い方に応じて、AIシステムの「提供者」または「導入者」となります。

押さえておくべきポイントは、次の5点です。

  • ハイリスクAIシステムでなくても、50条の対象になりうる

  • 一つのAIシステムやアウトプットに、複数の義務が重なりうる

  • オープンソースであることだけでは、50条の適用を免れない

  • 50条の遵守は、そのAIシステムの利用自体が適法であることを意味しない

  • 50条は原則として2026年8月2日から適用される

ただし、2026年8月2日より前に上市された生成AIシステムについては、法50条2項のマーキング・検出可能性に関する義務に限り、2026年12月2日までの猶予が設けられています。

4つの義務の全体像

図1　EU AI法50条の透明性義務：4つの類型と義務主体

※図中の「開示・ラベル」は、法50条4項の対象となるディープフェイクおよび一定の公益テキストに関する義務を示しています。

4つの義務には、それぞれ、犯罪の検知・防止・捜査・訴追のため法令により認められた利用に関する例外が置かれています。

また、一つのAIシステムまたはそのアウトプットに、複数の義務が累積的に適用されることがあります（パラ8）。

例えば、人と対話しながら画像を生成するAIシステムの場合、その提供者には、法50条1項の対話開示義務と、法50条2項のマーキング義務が重なりえます。

さらに、そのシステムで生成された画像がディープフェイクとして利用される場合、その利用について責任を負う導入者には、法50条4項の開示義務が適用される可能性があります。

1．50条はハイリスク分類とは別の軸で動く

ここが最も誤解されやすい部分です。

欧州委員会は、AI法のリスクベース・アプローチを説明する際、AIシステムを4つのリスクカテゴリーに整理し、その一つを「透明性リスクをもたらすAIシステム」としています（パラ2）。

もっとも、これらは相互排他的な法的区分ではありません。

50条の対象となるAIシステムが、法6条に基づくハイリスクAIシステムにも分類されることがあります。逆に、ハイリスクに分類されないAIシステムでも、50条の対象になりえます（パラ25）。

したがって、

ハイリスクAIではないから、50条も関係しない

とは限りません。

また、50条を遵守したからといって、そのAIシステムまたはアウトプットの利用自体が適法になるわけではありません（前文137、パラ25）。

例えば、法5条の禁止行為に該当する利用は、透明性を確保しても禁止されます。データ保護法、消費者法、知的財産法など、他の法令の適用も別途問題になりえます。

2．対象となる4類型

① 人と直接やり取りするAIシステム

法50条1項／義務主体：提供者

自然人と直接、会話的・応答的なやり取りをするAIシステムが対象です。

対象となるには、次の4要素を累積的に満たす必要があります（パラ30）。

  1. AI法3条1号の定義を満たすAIシステムである

  2. 自然人との双方向のやり取りを意図している

  3. AIシステム自体が自然人と直接やり取りする

  4. やり取りの相手が自然人である

典型例として、次のようなものが挙げられています（パラ31）。

  • 音声アシスタント

  • チャットボット

  • AIホットライン

  • AIエージェント

  • AIアバター

  • AIコンパニオン

  • SNS上のAIボット

  • 人型ロボットやロボットペット

一方、レコメンダーシステム、スパムフィルタ、自動翻訳・文字起こし、バックエンドの意思決定支援、工場・産業用途での予知保全・最適化システムなど、自然人との直接のやり取りを予定しないものは、原則として法50条1項の対象外です（パラ31）。

ただし、同じ名称のサービスでも、実際の機能、インターフェース、利用方法によって結論は変わります。

また、「合理的に事情に通じ、注意深く、慎重な自然人」の観点から、AIとのやり取りであることが明白な場合には、通知義務が適用されません。

ガイドラインはこの例外を限定的に解釈すべきとしており、具体的な判断基準は第3回で扱います。

なお、AIエージェントについては、AIであることだけでなく、誰のために行動しているかも開示するよう設計・開発すべきとされています（パラ31）。

② 合成コンテンツを生成・改変するAIシステム

法50条2項／義務主体：提供者

音声・画像・映像・テキストを生成または改変するAIシステムが対象です。

対象となるには、次の4条件を累積的に満たす必要があります（パラ56）。

  • AIシステムである

  • 合成コンテンツを生成または改変する能力がある

  • 対象コンテンツが音声・画像・映像・テキストのいずれか、またはその組み合わせである

  • 法定の除外事由に該当しない

音声・画像・映像・テキストは、網羅的な列挙とされています（パラ60）。

「生成」は新たな合成コンテンツを作り出すこと、「改変」は既存のコンテンツをAIによって変更することを意味します。変更前の素材がAI生成であるか、人間が作成したものであるかは問いません（パラ58、59）。

また、アウトプット全体がAIによって作られている必要もありません。人間が作成した素材とAI生成・改変部分が混在する場合も、対象になりえます。

3D画像・映像・音声、VR、AR、MR、デジタルツインも、アウトプットの形態に応じて対象となる可能性があります（パラ61、62）。

一方、ソースコード、機械間でのみ利用されるアウトプット、閉じた制作・開発環境内の中間的なアウトプットなど、対象外とされるものも詳細に示されています（パラ68）。

これらは第2回で扱います。

③ 感情認識システム・生体分類システム

法50条3項／義務主体：導入者

感情認識システムまたは生体分類システムを実際に使用する導入者が、対象となる自然人への通知義務を負います。

感情認識システムは法3条39号、生体分類システムは法3条40号に定義されています。

感情認識システムは、職場・教育機関での利用が法5条1項(f)により禁止される場合を除き、附属書IIIに基づくハイリスクAIシステムに分類されます（パラ102）。

したがって、法50条3項の通知義務と、ハイリスクAIシステムに関する義務が重なる可能性があります。禁止される場合には、透明性を確保しても利用できません。

生体分類システムについても、法5条1項(g)により禁止される場合があります。

禁止されない生体分類システムについては、ハイリスクAIシステムに該当するか否かにかかわらず、法50条3項が適用されます（パラ104）。

④ ディープフェイク・公益テキスト

法50条4項／義務主体：導入者

この類型は、AIシステムの種類だけでなく、生成・改変されたアウトプットの内容と使い方によって対象が決まります。

法50条4項は、大きく次の二つを対象とします。

  • ディープフェイクとなる画像・音声・映像

  • 公益事項について公衆に知らせる目的で公表される、AI生成・改変テキスト

①から③までが主にAIシステムの性質によって対象を画するのに対し、④は、アウトプットの内容、公表目的、利用文脈などによって適用の有無が決まります。

ディープフェイクの定義、人的レビューや編集上の統制に関する公益テキストの例外、芸術・創作・風刺・虚構作品に関する特則などは、第4回で扱います。

3．自社が対象かを確認する5つの質問


以下は、対象となる可能性を確認するための簡略化したフローです。

Q1　自社名・自社ブランドでAIシステムをEU市場に上市し、または運用開始しているか

Yes：提供者に該当する可能性があります。

自社で直接開発した場合だけでなく、第三者に開発させ、自社の名称または商標で提供する場合も含まれます。

Q2　自社の判断と責任でAIシステムの用途や使い方を決めているか

Yes：導入者に該当する可能性があります。

AIシステムを技術的に完全に制御している必要はありません。

Q3　そのAIシステムは自然人と直接やり取りするか

Yes：法50条1項を確認する必要があります。

Q4　そのAIシステムは音声・画像・映像・テキストを生成・改変するか

Yes：法50条2項を確認する必要があります。

Q5　感情認識・生体分類に使うか、ディープフェイクや一定の公益テキストを公表するか

Yes：法50条3項または4項を確認する必要があります。

複数の質問に該当する場合は、複数の義務が累積的に適用される可能性があります。

このフローは概略的な確認にすぎません。最終的には、AIシステムの機能、意図された目的、実際の利用方法、対象となるアウトプットなどを個別に確認する必要があります。

提供者と導入者の具体的な切り分けは、第2回で扱います。

4．適用日・経過措置・遡及適用

適用日

50条は、原則として2026年8月2日から適用されます。

同日より前に上市・運用開始された既存の対象AIシステムと、同日以降に上市・運用開始される新規の対象AIシステムの双方が対象です。したがって、既存システムであることだけを理由に50条の適用を免れることはできません（パラ153）。

ただし、同日より前に上市された生成AIシステムについては、法50条2項に限り、次の経過措置があります。

法50条2項限定の経過措置

Digital Omnibus on AI（規則（EU）2026/1744）は、2026年7月24日にEU官報に掲載され、同月27日に発効しました。

同規則によりAI法111条に追加された4項は、2026年8月2日より前に上市された、合成音声・画像・映像・テキストを生成するAIシステムの提供者について、法50条2項の遵守に必要な措置を2026年12月2日までに講じればよいと定めています。GPAIシステムも対象に含まれます。

対話型と生成型の両方の性質を持つAIシステムについても、経過措置が適用されるのは法50条2項の義務だけです。

法50条1項の対話開示義務は、既存のAIシステムについても2026年8月2日から遵守する必要があります（パラ153）。

なお、AI法111条2項には既存のハイリスクAIシステムに関する別の経過措置がありますが、これは50条の透明性義務には及びません。

遡及適用

2026年8月2日より前に生成・改変された次のコンテンツについて、遡ってマークまたはラベルを付ける必要はありません（パラ154）。

  • 法50条2項の対象となる合成コンテンツ

  • 法50条4項第1サブパラグラフの対象となるディープフェイク

つまり、既存システムにも50条は適用されますが、そのシステムが2026年8月2日より前に生成・改変したコンテンツにまで、原則として遡及するわけではありません。

公益テキストについては基準が異なります。

同日より前にAIによって生成・改変され、かつ同日より前に公表されたテキストは対象外です。

一方、同日より前に生成・改変されていても、2026年8月2日以降に公表される場合には、法50条4項第2サブパラグラフの要件を満たす限り、ラベルを付ける必要があります（パラ154）。

欧州委員会は、ラベルのない既存ディープフェイクについても、可能な範囲で事後的にラベルを付けることを推奨しています。

ただし、既存コンテンツデータベース全体の監査や、既に印刷された製品パッケージの修正といった、不均衡な労力までは求められていません。

5．よくある誤解

「ハイリスクでなければ50条は関係ない」

——関係する場合があります。

50条とハイリスク分類は別の軸です（パラ25）。

「50条を守れば、そのAIシステムの利用は適法になる」

——なりません。

50条の遵守は、当該AIシステムまたはアウトプットの利用が、AI法その他の法令上適法であることを意味しません（前文137、パラ25）。

6．ガイドラインの位置づけ

文書の概要

  • 文書名：AI法50条に基づく一定のAIシステムに係る透明性義務の実施に関するガイドライン

  • 2026年5月8日に草案を公表

  • 2026年6月3日まで意見募集

  • 2026年7月20日、欧州委員会がC(2026) 5054 finalにより内容を承認

  • ガイドライン本体はC(2026) 5054 finalの附属書

  • 法的根拠はAI法96条1項(d)

  • 全155パラグラフ、51ページ

2026年8月1日時点で欧州委員会が承認したのは、ガイドライン案の内容です。

正式採択は、すべての言語版が揃った後に行われます。したがって、本稿でいう「ガイドライン」は、厳密にはC(2026) 5054 finalの附属書として公表された、内容承認済み・正式採択前の文書を指します。

欧州委員会のウェブサイトや報道では、これを一括して「採択」と表現する場合があります。

法的拘束力

ガイドライン自体には法的拘束力がありません。

AI法について最終的に拘束力ある解釈を示しうるのは、EU司法裁判所（CJEU）のみであると明記されています（パラ5）。

一方、実務上は、加盟国の市場監視当局やAI Officeが50条を運用する際の重要な参照文書になると考えられます。

すなわち、

法的拘束力はないが、当局の運用を予測するうえで重要な文書

と位置づけることができます。

欧州委員会は、実務経験、技術の発展、CJEUによる解釈などを踏まえ、必要に応じてガイドラインを見直すとしており、将来の撤回または改訂の可能性にも言及しています（パラ155）。

7．用語について

本稿では、AI法3条3号のproviderを「提供者」、3条4号のdeployerを「導入者」と訳します。

deployerに「利用者」を当てる例もありますが、AI法はuserという語を別の意味で用いる場面があるため、混同を避ける趣旨です。

AI法が用いるoutputは「アウトプット」と表記します。

ここでいうアウトプットは、数値的な機械処理結果に限られず、テキスト、画像、音声、映像などのコンテンツ全般を含む概念です。

また、putting into serviceは「運用開始」と表記します。

公式資料

一次資料

1．欧州委員会 C(2026) 5054 finalおよびその附属書
“Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689”

※2026年8月1日時点では、内容承認済み・正式採択前。

https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems 

2．規則（EU）2024/1689（AI法）

https://eur-lex.europa.eu/eli/reg/2024/1689/oj 

3．規則（EU）2026/1744（Digital Omnibus on AI）

https://eur-lex.europa.eu/eli/reg/2026/1744/oj 

欧州委員会の解説資料

4．FAQ “Transparency obligations under Article 50 of the AI Act”

https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act 

次回

EU AI法の透明性義務②—誰が義務を負い、何が適用除外になるのか

次回は、次の点を整理します。

  • 提供者と導入者の切り分け

  • 域外適用

  • 従業員、委託先との関係

  • 提供者と導入者の両方になる場合

  • 単なる配信・伝送主体

  • 私的利用、研究開発、オープンソース

  • GPAIモデルとの関係

  • 法50条2項の対象外となるアウトプット

関連リファレンス：

また、Xでは、EUのデジタル政策・規制に関する最新ニュースや一次情報を紹介しています。

本記事について

本稿は、公開情報に基づき、筆者自身の備忘も兼ねてEU AI法の内容を整理したものです。特定の事案に関する法的助言を提供するものではありません。実際の対応にあたっては、最新の法令・公式資料および個別の事実関係を確認し、必要に応じて専門家にご相談ください。

本稿の作成には、資料の整理、構成および文章の推敲に生成AIを利用しています。条文、ガイドラインその他の一次資料は筆者が確認していますが、内容の正確性・完全性を保証するものではありません。

本稿の内容は筆者個人の見解であり、所属組織の公式見解ではありません。制度の動向、ガイドラインの正式採択・改訂などに応じて、随時更新することがあります。

いいなと思ったら応援しよう！