AIとサイバー・フィジカル・システム（CPS） / 組込みAIがフィジカルを持った瞬間雑感

0　はじめに

　生成AIが話題を独占しがちな昨今である。しかし、法の観点からより厄介で、より面白い局面は、AIがブラウザの外に出る瞬間にある。AIが現実世界の物理過程に接続され、センサーとアクチュエータを介して手触りのある結果を生む局面である。

　今回は、サイバー・フィジカル・システム、いわゆるCPSとIoTの設計論を手掛かりに、法が信頼できるAIを語るときに見落としがちな論点を整理する。実はAIではなくシステムが問題なのだ、という点である。素材として、オープンアクセスで読める教科書を一冊挙げておく。

1　問題の所在

　CPSとは計算と物理過程の統合である2)。IoTは物理的なモノがインターネットを介して接続される世界像であり、単なる通信ではなく、センサーやアクチュエータを備えた物理実体が前景化する3)。

　この二つが何を意味するか。法的には比較的単純で、損害の型が変わる。情報の誤り、プライバシー侵害、差別といった典型論点が消えるわけではないが、それに加えて、物理的損害と安全が主役になる。人身損害や財物損害である。CPSが現実世界に直接関わる以上、信頼性・安全性・セキュリティは任意の品質目標ではなくミッションクリティカルな要件となる。設計側のこの直観は、法の側の直観に翻訳されねばならない4)。

　そして、ここで主語はもはやAIではない。AIはCPSの一部品にすぎず、事故はほとんど常にシステムの相互作用として発生する。複数ベンダーのモデル、学習データ、通信、アップデート、運用者の設定、現場の例外処理。それらが絡み合って、ようやく一つの挙動になる。責任や規制をAIだけに帰属させる発想は、実務では機能しにくい。

2　Dependabilityという工学語

　CPSの設計論では、工学側が信頼を抽象的な美徳ではなく具体的な要件群として分解している。Marwedelはdependabilityを、意図されたサービスを高い確率で提供し、かつ害を与えないこととして定義する5)。does not cause any harmが定義に入っている。dependabilityは品質ではなく安全を内包した概念なのである。

　CPSにおいては安全とセキュリティが分離しにくい。セキュリティホールは情報漏えいにとどまらず、物理的故障を誘発し、事故につながりうる。この点が近年になって改めて強調されるようになった6)。法の側でも、後述のとおり、製造物責任の文脈でサイバーセキュリティ脆弱性が正面から言語化されている。技術側の語彙と法の語彙が接合し始めた地点である。

3　ログは倫理ではなくインフラである

　CPS設計の原理として、異常はすべて記録されるべきだ、Every anomaly should be recordedという標語がある7)。これを単なる運用上の心得として読むと意義を見誤る。ログは原因究明、再発防止、責任配分、規制当局対応、訴訟対応のすべてに関係する。ログは倫理でも透明性でもなく、法的インフラとして機能する。

　この点はEUのAI規制で明確に制度化されている。AI Actは高リスクAIシステムに対し、システムのライフタイムを通じた自動記録を技術的に可能にすること、ログがトレーサビリティや事後監視に資することを要求する8)。さらに提供者に対して、ライフサイクル全体を通じた継続的なリスクマネジメント9)、および事後監視10)を要求する。法が運用の継続性を規制対象として取り込んだ。AIは売って終わりではなく、運用している限り関係が続く。

　この構図は日本の議論でももっと前面に出てよい。責任帰属は最終的には証拠の問題に回収されるからである。AIの説明可能性が抽象的な議論に陥りがちな一方で、ログと監査証跡は具体的な証拠として機能する。

4　EU法制の安全

（1）AI Act

　AI Actは内部市場の機能を確保しつつ、人間中心で信頼できるAIの普及を促進し、健康・安全・基本権を高い水準で保護することを目的とする11)。この健康・安全がCPS的世界で意味を持つ。AIを情報処理として見るだけではなく、安全機能を持つ部品として見る制度設計へと接続する。

（2）製造物責任指令

　改正されたEUの製造物責任指令は、相互接続された製品や学習・更新を前提に安全概念を再設計している。製品がサイバーセキュリティ脆弱性を理由に欠陥と評価され得ること、安全に関係するサイバーセキュリティ要件を満たさないことが例示されている点が目を引く12)。セキュリティの欠陥が安全の欠陥として法的に接続された。CPSとIoTの現実に法が追いついた瞬間の一つといえる。

（3）Cyber Resilience Act

　さらにEUは製品のサイバーセキュリティを横断的に規律するCyber Resilience Actを整備し、CEマーキングや市場監視を通じて執行する枠組みを明示している。CRAは2024年12月10日に発効し、主要義務は2027年12月11日から適用、報告義務は2026年9月11日から適用される13)。CPS/IoT企業にとっては、製品安全と製品サイバーセキュリティが同一の規制枠組みに統合されたことになる。

（4）AI Liability Directiveの撤回

　なお、AIによる損害の民事責任をめぐるEUのAI Liability Directive構想は、政治過程のなかで撤回された。欧州委員会は2025年2月11日に公表した2025年作業計画において合意の見通しがないとして同指令案の撤回を表明し、同年10月6日に官報で正式に撤回が公示された14)。

　この事実は、EUがAIの特別責任法一本で整理するよりも、AI Act、PLD、CRA等のパッケージで秩序を構築する方向に重心を移したと読む余地がある。責任の議論は規制の議論と同じ速度では進まないという現実を示してもいる。

5　含意

　CPS/IoTにおけるAIのガバナンスとは、モデルの倫理チェックリストではなく、システム安全工学と法令遵守の接続である。実務では次の三点が問われる。

　まず、intended purposeとreasonably foreseeable misuseを技術文書と契約文書の両方で整合させること。AI ActもPLDもここを軸に構成されている。

　次に、ログと更新をコストではなく責任配分の基盤として位置づけること。ログがなければ事故後に因果関係の立証が困難になる。因果関係が立証できなければ責任の所在も曖昧になり、被害者救済も予防も機能しなくなる。

　そして、サプライチェーンの責任分界を技術アーキテクチャの分界と整合的に設計すること。AI部品、ソフトウェア部品、通信部品、運用部品が分離されているなら、契約上の義務も対応して分離されねばならない。更新、監視、通知、証拠保持といった義務である。これを怠ると事故時に責任の空白地帯が生じる。

　AIの責任論はモデル中心主義から脱して再構成する必要がある。CPSの世界では責任帰属は設計・実装・運用の接合部分に潜在する。その接合部分を法的に明確化するのは倫理原則ではなく、ログと文書と契約である。

6　日本の人工知能基本計画とフィジカルAI

　2025年12月23日、日本政府は人工知能基本計画を閣議決定した15)。同計画はフィジカルAIを日本の勝ち筋の一つとして位置づけ、AIロボットの公的需要創出や自動運転技術の導入を含めた研究開発・実証を戦略的かつ統合的に促進するとしている。

　今回論じてきたCPSの設計論と法の接合という視点からすると、この方向性は理にかなっている。フィジカルAIは定義上、現実世界の物理的タスクを実行する。センサーとアクチュエータを介して環境に作用する以上、dependabilityの要件がそのまま適用される領域である。

　同計画はAIガバナンスについて、AIセーフティ・インスティテュートの機能強化を掲げ、AIモデルの安全性にとどまらず広範な適正性に係る評価やセキュリティ面での対策を実行できる体制を構築するとしている。また、AI利活用における事故や損害が発生した場合の民事責任の所在や範囲について在り方を検討するとも明記されている。

　EU法制が先行して整備したAI Act、PLD、CRAのパッケージと、日本のAI法および人工知能基本計画との間で、今後どのような制度的収斂あるいは分岐が生じるか。フィジカルAIの領域では、この問いが具体的な形で立ち現れることになる。

7　おわりに

　AIがフィジカルを持った瞬間、法は信頼できるAIという抽象的なスローガンだけでは対応できなくなる。信頼できるシステムを構成する条件を、dependabilityのような工学語と、安全、欠陥、注意義務、因果関係、証拠といった法語との間で翻訳し続けることが求められる。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。