変換的AIの順序問題と法制度の役割 / Forethought「The first type of transformative AI?」を読む雑感

0　はじめに

　現在、AIと法をめぐる議論はかつてないほどの熱量を持って展開されている。欧州連合のAI法の成立や広島AIプロセスによる国際的な指針の策定、そして各国内における著作権法や個人情報保護法の解釈論に至るまで、その射程は多岐にわたる。しかし、これらの議論を俯瞰すると、ある種の二極化した傾向が見て取れるのではないか。 　
　一方には、現在すでに実用化されている生成AIが引き起こす、著作権侵害、ハルシネーション、あるいはディープフェイクといった眼前の課題への対処がある。これらは既存の法解釈や、微修正による立法措置で対応可能な範疇にあることが多い。 　
　他方には、将来的に到来が予想される汎用人工知能や超知能がもたらす、人類存亡のリスクに関する議論がある。ここでは、人類の制御を離れたAIがいかにして破滅をもたらすか、それを防ぐためのアライメント技術をいかに法的に担保するかという、極めて長期かつ不確実性の高いテーマが扱われる。

　しかし、我々が生きる現実のタイムラインは、この現在と遠い未来の間を連続的に移行していくものである。そして、その移行プロセス、すなわち、AGIに至るまでの変革の順序こそが、実は法制度設計において最もクリティカルな意味を持つのではないか。 　
　今回は、2025年12月にForethoughtから公表されたOwen Cotton-Barratt、Lizka Vaintrob、Oly Sourbutらによる論考『The first type of transformative AI?』を題材に、この変革の順序という視点がAIガバナンスに投げかける問いについて検討する。

1　問題の所在　タイムラインからシーケンスへ

　AIガバナンスの分野では、長らくAGIはいつ到来するかというタイムラインの予測に関心が集中してきた。あと5年か、10年か、あるいはもっと先か。この時間軸の長さによって、規制の緊急度や強度が決定されると考えられてきたからである。 　
　しかし、本レポートが鋭く指摘するのは、重要なのはいつではなく、どのような順序で変革が訪れるかである、という点である。彼らの言葉を借りれば、初期の変革は、その後に訪れるより決定的な変革に対処するためのゲームボードそのものを書き換えてしまう力を持つ。 　
　例えば、AGIのような強力なエージェントが登場する前に、世界がAIによって経済的に豊かになり、かつ民主的な調整能力を高めていれば、AGIのリスク管理に関する国際合意も円滑に進むだろう。逆に、初期のAI導入によって社会が分断され、情報空間が汚染され、国家間の対立が激化している状態でAGIが登場すれば、破滅的な結末を回避することは極めて困難となる。

　MIT AI Risk InitiativeのPeter Slattery氏も指摘するように、エージェント型スーパーインテリジェンスの登場前に、AI技術はリテラシー、コンピュータ、リベラル・デモクラシーといったより特別なものへと移行する可能性がある。法的な視座から見れば、これは経路依存性の問題である。ある時点での法政策の選択が、その後の社会が取り得る選択肢の幅を決定づける。我々はAGIが来たらどうするかという静的な備えではなく、AGIに至るまでの複数のシナリオの中で、どの変革が先行する可能性が高く、それに対して法はいかに介入すべきかという動的な戦略を持たねばならない。

2　シナリオ①　静かな知能爆発

　本レポートでは、AIによる初期変革の候補として3つのシナリオが提示されている。 　第一のシナリオは、AI安全性のコミュニティで伝統的に警戒されてきた静かな知能爆発である。このモデルでは、AIは初期段階において社会にさほど目立った変革をもたらさない。しかし、ある時点での技術的ブレークスルーを契機に、指数関数的な能力向上が生じ、人間を遥かに凌駕する超知能が突如として出現する。

　このシナリオの最大の特徴は、法が適応するための時間的猶予が欠如している点にある。通常の法形成プロセス、審議会での議論、パブリックコメント、国会審議を経ている間に、技術は制御不能な領域へと突入してしまう。 　ここで法に求められる役割は、平時の民主的プロセスを前提とした規制ではなく、一種の緊急事態法制に近いものとなるだろう。一定の能力閾値を超えたAIモデルに対する強制的な開発停止命令の権限や、あらかじめ組み込まれた停止装置の法的義務化、あるいは開発企業に対する軍事レベルのセキュリティ要件の賦課などが論点となる。 　
　しかし、本レポートの著者らは、このシナリオだけにリソースを集中することに警鐘を鳴らす。技術の普及には通常一定の時間を要し、AGIに至る前の段階の技術であっても、十分に世界を変革し得るからである。

3　シナリオ②　ターボチャージされた経済

　第二のシナリオは、AGIの完成を待たずして、特化型あるいは中程度の汎用性を持つAIエージェントが経済活動の全域に浸透し、爆発的な成長をもたらすターボチャージされた経済である。 　
　ここでは、高度なロボティクスによる製造・物流の自動化、AIによる科学的発見の加速、事務作業の完全自動化などが進行する。GDPは急伸し、人類全体の物質的豊かさは向上するかもしれない。しかし、その代償として、既存の労働市場は急速に縮小し、資本を持つ者と持たざる者の格差は極限まで拡大する。

　このシナリオにおいて、法の主戦場はAIの安全性から富の分配と統治へとシフトする。 　
　第一に、労働法の抜本的再考が不可避となる。人間が労働を通じて対価を得るというモデルが機能しなくなったとき、法は労働者の権利保護という従来の枠組みを超え、ユニバーサル・ベーシックインカムや、AIが生み出す付加価値に対する課税といった、新たな生存権保障の仕組みを構築しなければならない。 　
　第二に、競争法の役割が変質する。少数の巨大テック企業が、経済のみならず、科学技術やインフラを独占的に支配する状況は、国家の主権をも脅かす。企業分割やデータ共有の強制といった強力な介入が、民主主義を守るための必須条件となるかもしれない。 　
　第三に、行政法の課題として、政府の能力の問題が浮上する。民間部門のAIによる変化の速度に、官僚機構や立法府が追いつけなくなったとき、行政はいかにして統治の正統性を維持するのか。これは法の支配のあり方を問う憲法的な難問である。

4　シナリオ③　認識論的変革の先行

　第三のシナリオ、そして本レポートが最も独創的かつ重要視しているシナリオが、認識論的変革の先行である。 　
　これは、AIが自律的なエージェントとして物理的世界を操作する前に、まず我々の情報の摂取、真偽の判断、意思決定、他者との調整のインフラとして深く社会に埋め込まれる状態を指す。現在の検索エンジンやソーシャルメディアのアルゴリズムがそうであるように、AIは人々が世界をどう認識するかを規定するレンズとなる。

　この変革が先行することには、正負両面の影響がある。 　
　ポジティブな側面としては、AIが個々人の認知バイアスを補正し、複雑な社会課題に対する正確な状況認識を共有させ、大規模な合意形成を支援する可能性である。これにより、民主主義は熟議の質と規模を同時に高めるアップグレードを果たすかもしれない。 　
　ネガティブな側面としては、AIによる高度なパーソナライゼーションがフィルターバブルを鉄壁のものとし、社会の分断が決定的になるリスクである。あるいは、説得力のある偽情報の大量生成により、真実という概念そのものが崩壊し、誰も何も信じられないニヒリズムが蔓延する恐れもある。

　法学的に極めて重要なのは、この認識論的インフラの健全性が、その後のAGI制御の成否を握っているという点である。もし、初期の変革で社会の認識能力が毀損されれば、人類は来るべきAGIのリスクに対しても、まともな議論や国際協調を行うことができなくなる。 　
　したがって、ここでは憲法における表現の自由や知る権利の再定義が必要となる。思想の自由市場は、AIという強力なアクターの参入によって歪められていないか。プラットフォーム規制法は、単なる違法コンテンツの削除義務を超えて、アルゴリズムが推奨する情報の多様性や信頼性を担保するアーキテクチャ規制へと進化すべきではないか。あるいは、AIが生成した情報に対するオリジネーター・プロファイルのような技術的認証基盤に、法的地位を与えるべきか。これらは、民主主義のOSを守るための防衛戦となる。

5　戦略的介入点としての法　順序を変え、質を高める

　本レポートの結論部分で強調されるのは、これらの変革の順序は決定論的なものではなく、我々の意思と行動によって変え得るという希望である。ここに、法政策による戦略的介入の余地がある。 　
　介入の方向性は二つある。一つは変革の順序そのものを変えること、もう一つは初期の変革の質を高めることである。

　第一に、もし静かな知能爆発のリスクが高すぎるならば、法は意図的に強力な自律型エージェントの開発にブレーキをかけ、一方で認識論的変革に資する技術の開発を促進するといった差別的な技術開発を誘導することができる。これは産業政策と安全保障政策が融合した、新たなAI法政策の姿である。

　第二に、どの変革が来るにせよ、その質を法的にコントロールすることは可能である。もしターボチャージされた経済が避けられないなら、事前にセーフティネットを法制化しておくことで、社会崩壊を防げる。もし認識論的変革が進行中なら、透明性と説明責任の法理を徹底することで、AIがデマゴーグの道具になることを防ぎ、賢明なアドバイザーになるよう誘導できる。 　重要なのは、初期の変革における法の役割は、後の変革に対する社会のレジリエンスとコンピテンスを高めることにあるという認識である。今の法規制の失敗は、単なる一過性の混乱に留まらず、将来のAGIという最大の試練に立ち向かうための人類の力を削ぐことになる。その意味で、現在のAI法制は、未来への投資としての性格を帯びているのである。

6　おわりに

　AGIはいつ来るのかという問いは、確かにキャッチーであり、人々の想像力を掻き立てる。しかし、実務家や法学者、そして責任ある立場の人間が真に向き合うべきは、AGIが来る前に、世界はどう変わるのかという問いである。 　Forethoughtのレポートが示唆するように、変革には順序があり、その順序は戦略的に重要である。初期の変革、それが経済の激変であれ、認識の変容であれを法的・制度的にどう手懐けるかが、最終的なAIとの共存の成否を分ける分岐点となる。

　今回の雑感で強調したいのは、法学の役割を起きた紛争の解決から望ましい未来への誘導へと拡張する必要性である。技術の波に翻弄されるのではなく、その波の順序を読み、波の形を整えるために、法というツールを戦略的に用いること。それこそが、不確実なAI時代における法の支配を全うする唯一の道ではないだろうか。 　
　読者諸氏におかれては、日々のAI利用や業務上の課題に対処しつつも、この変革の順序という巨視的な視点を頭の片隅に置き、それぞれの現場で必要な備えを検討されたい。

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。