Eurasia Group『Top Risks 2026』と「AI eats its users」 / 収益化圧力が生むガバナンス危機雑感

0　はじめに

　ユーラシアグループの『Top Risks 2026』は、地政学リスクの目録であると同時に、世界がどの能力を失いつつあるかを測る診断書でもある。1)　第8のリスクに掲げられた「AI eats its users」は、AIの能力論ではない。ガードレールがないまま収益化圧力が高まり、抽出的なビジネスモデルが社会と政治の安定を脅かす。これはインセンティブの問題である。2)

　この問題設定を出発点に、ユーザーを食べるとは法的に何を指すのか、責任帰属はどこで断片化するのか、法がガードレールとして機能するには何が要るのかを、雑感として整理したい。

1　問題の所在――AIの賢さではなく市場の賢さ

　報告書はAIの革命的な潜在力を認めつつ、短期的には投資家の期待に届かないと述べる。2)　最先端モデルでさえハルシネーションを起こす。能力はギザギザで、高リスク領域への実装は難しい。2)　米国企業のうちAIを財やサービスの生産に使うのは約1割にとどまる。2)　生産性向上を報告する企業は多くても、ボトムラインへの影響は限られ、経済全体への波及には時間がかかる。それでも市場は進化ではなく革命を価格に織り込んでいる、というのが報告書の見立てである。2)

　ここで言いたいのは、技術が未熟だから安全だという話ではない。むしろ逆である。革命が織り込まれた市場の下で、企業は進歩の速度より先に収益の速度を求められる。報告書が警戒するのは、その圧力がソーシャルメディアの破壊的なプレイブックを、より速く、より大きな規模で反復する点である。2)

法の問題に引き直せば、危険な道具の取締りではなく、危険な市場設計への介入が問われている。能力の進歩が遅いほど、収益化の設計が社会を先に食い荒らす余地は広がる。

2　「AI eats its users」の射程――ユーザーが商品化されるとき

　抽出的ビジネスモデルとは、ユーザーが顧客であると同時に原材料になる構造を指す。広告、囲い込み、データ抽出が中核となり、サービスの目的はユーザーの利益ではなく滞在と反復へ最適化される。報告書は、数億人が日常的にチャットボットを使う現状を踏まえ、ガードレールのないまま収益化が進むこと自体をリスクとして位置づける。2)

　法的に厄介なのは、被害が一撃で現れにくい点である。ソーシャルメディアも注意と感情を収益化したが、対話型AIは仕事や学習、意思決定の回路に入り込みやすい。抽出的設計がもたらす外部性は、誤情報の拡散や差別的出力だけでなく、依存、判断の委ね、公共圏の劣化といった形で累積する。個別事案として裁判に載せにくい。

　資源が統治不能になるとき何が起きるか。報告書の第10リスク「水の武器化」が示唆的である。需要圧力とガバナンスの空白が深まり、水が国家安全保障問題へ転化するという。3)　AIも同じだ。情報環境、注意、データといった共有物が、統治の回路を欠いたまま基盤インフラ化するとき、最初に壊れるのは社会的信頼である。

3　断片化という問題と責任帰属――因果関係が追跡不能になる

　法は通常、行為、損害、因果関係、帰責性という順序で世界を整理する。しかし抽出的モデルの害は長期にわたり、累積し、集団に現れる。主体も多い。モデル提供者、アプリ事業者、広告主、データ仲介者。因果関係は断片化し、訴訟で立証可能な形に切り出しにくい。社会は問題を感じながら、誰を相手に、何を根拠に、どこまで請求できるかが曖昧なまま消耗する。

　損害賠償や刑事責任の枠組みだけで受け止めようとすると、手続は遅く、証拠は散り、被害は広がる。因果関係を事後に認定するだけでなく、因果関係が追跡可能となるよう事前に記録を設計する必要がある。

4　法はどこに刺さるか――プロセス規制としてのガードレール

　EU AI Actは、AIを一律に禁止も許容もせず、リスクに応じて義務を階層化し、開発から提供、利用までのプロセスに説明責任を埋め込む。4)　米国NISTのAIリスク管理フレームワークも、統治を起点に、特定、測定、管理を反復することで、組織の意思決定にリスク管理を接続する。5)　生成AI向けプロファイルは、ガバナンス、コンテンツ来歴、デプロイ前テスト、インシデント開示といった論点を前面に出す。6)

　「AI eats its users」への応答として法が担うべきは二つある。抽出的モデルが成立しにくい市場環境を作ること。成立した場合に外部性を内部化させること。前者には、ダークパターンや未成年者への設計、広告の組込みを消費者保護や公正競争の観点から射程に入れる発想がある。後者には、ログと監査可能性、インシデント報告、レッドチーミングのような外部評価など記録の義務化が効く。AIは規制文書より速く現場に浸透する。文書の厚みではなく、記録と検証の回路を先に通し、継続的なモニタリングを前提にすべきである。

5　企業実務への含意――導入ではなく導入後の説明可能性

　企業のAI担当者にとって実務上の急所は、AIを入れることではなく、入れた後に説明できる状態にあることである。モデルの版、プロンプト、ログ、評価結果、ガードレール設定、例外処理。これらが揃って初めて、事故対応と紛争対応が可能になる。コンプライアンスの装飾ではない。事業継続のインフラである。調達局面では、委託先やベンダーに対し、評価結果の共有、インシデント時の通知、監査への協力を契約で確保することが、後戻り不能のコストを下げる。

　AIは国境を越える。国内法だけで完結しない以上、国際取引における共通言語が問われる。透明性、説明責任、人権配慮。OECD AI原則は、民主的価値と人権を尊重する信頼できるAIを掲げ、透明性や説明可能性、責任ある運用を求める。7)　抽出的モデルが社会を食べる前に、契約条項、監査権、サプライチェーンの可視化で、説明責任を連鎖させる必要がある。

6　おわりに

　「AI eats its users」という挑発的な題名は、AIの危険性を煽る修辞ではない。インセンティブ設計に失敗した社会の将来像を先回りして言語化する試みである。2)　AIを巡る議論は能力の飛躍か規制の遅れかに二分されがちだが、社会を揺らすのは、その間に生まれる収益化の歪みと責任帰属の空白である。

　世界は、そして日本は、ショックに欠けているのではない。統治の回路が足りない、また視野を広げる余裕と余力がないのだろう。AIに関して法が果たすべき役割も、その回路設計に尽きるように思える。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。