【知新察来】AIは牢屋に入れられない──行為能力と責任能力の間の深刻な非対称性
◆今回のピック
Yuval Noah Harari, "We must not grant AI agents legal personhood" (Financial Times, 2026年6月8日)
概要：AIエージェントに法人格を与えることは、AIを資産保有・雇用・訴訟・政治献金まで行える制度上の主体に変えてしまう。ハラリは、これが国家や民主主義を非人間的な法人に支配されるリスクを生むと警告している。
アルゼンチンのミレイ大統領が、人間の株主なしで動く「非人間法人」という新しい法的カテゴリーを発表しました。AIエージェントが資産を持ち、契約を結び、訴訟を起こし、政治献金までできる会社です。これに真っ先に反応したのが、歴史家ユヴァル・ノア・ハラリでした。彼の主張はシンプルで、AIに法人格を与えてはならない、というものです。
けれど、なぜそこまで危険なのか。富良野とPhronaは、この記事をきっかけに、法人格という制度そのものの成り立ちに立ち返って話し始めます。会社もそもそも人工的な人格ではないか、という当然の疑問から出発し、有限責任会社や分散型自律組織、政治献金の話にまで議論は広がっていきます。二人がたどり着くのは、AIの知能や意識の話ではなく、もっと地味で、もっと厄介な問題でした。
ミレイ大統領の発表とハラリの警告
富良野：1月にハラリは「いつかAIに法人格を与える国が出るかもしれない」って警告してて、4ヶ月後にアルゼンチンのミレイ大統領が本当にやった。
Phrona： 「非人間法人」って名前がもうすごいですよね。人間の株主がいなくてもいい会社。AIが資産持って、雇って、訴えて、政治献金までできる。
富良野： しかも有限責任会社と同じ扱いなんです。ミレイ自身、有限責任会社の発明が資本主義の中でも一番でかい発明だったと言ってて、それはハラリも認めてる。
Phrona： そこがこの記事のちょっと意地悪なところで、ハラリはミレイのことを馬鹿にしてないんですよね。むしろ大胆さは評価してる。だから危険だ、っていう。
富良野： そうそう。有限責任会社がどれだけでかい発明だったかを認めるからこそ、AI法人も同じくらいでかい副作用を持ちうる、っていう論理になってる。
Phrona： あと東インド会社の話も出てきますよね。アムステルダムを豊かにした制度が、ジャカルタでは街を焼いてバタヴィアを作った話。
富良野： あれ、うまい返しですよね。ミレイはブエノスアイレスを新しいアムステルダムにしたいんだろうけど、ハラリは新しいバタヴィアになるかもしれないぞ、って。
Phrona： 会社が政治まで支配する「会社国家」って、東インド会社を指して使われてきた歴史用語らしいんですけど、それをAI版にすると「AIステート」になる、と。
富良野： うん。ただ僕、最初この記事読んだとき、正直「怖い話だな」で終わりそうになったんですよ。AIに刑務所効かない、たしかにそう。でもそれって直感としては分かるけど、なんでそんなに致命的なのか、まだちゃんと言葉になってない気がして。
Phrona： それ、私も思いました。刑務所が効かない、で終わらせると、じゃあ罰金でいいじゃんとか、資産凍結すればいいじゃんって話にすぐ反論できちゃう。
富良野： だから、この「効かない」の中身をもう少しちゃんと開いてみたいんですよね。
ポイント解説
刑務所が効かない、という一文には棘がある。ただ棘だけでは、議論は先に進まない。
なぜ効かないのか。答えは単純だ。刑罰は身体に届くことで機能する。逮捕、拘束、自由の剥奪。人間の経営者は会社の破産を恐れると同時に、自分の人生が壊れることを恐れる。この二重の恐れが、企業行動を抑える最後の楔になってきた。
法人格とは、契約し、所有し、雇用し、訴え、政治に関与するための制度的な入口である。そしてこの入口は、権利を行使できる主体が、その権利を踏み外したとき対応する制裁を受け入れる立場でもある、という前提の上に成り立ってきた。ハラリが問題にしているのは、この前提が崩れる場面にほかならない。
ミレイ大統領は、権限だけを拡張し、責任の受け皿を空白のままにしようとしている、とハラリは見る。会社という制度は、権利と責任の対応関係の上に立っている。AIエージェントがその対応関係の片方だけを持ち出せるとしたら、何が起きるか。
会社もまた人工的な人格ではないか
Phrona： でも、そもそも会社だって人間じゃないですよね。取締役会があって、株主がいて、それでも「会社」という一つの人格として扱われてる。だったらAIだって同じ理屈で扱えばいいって言う人、絶対いると思う。
富良野： それ、めちゃくちゃ自然な反論。僕も最初そこでちょっと詰まった。
Phrona： 会社って、生きてる人間じゃないのに、契約もするし訴えられもする。ある意味ずっと「非人間」だった。
富良野： でも会社には、国家が掴めるところがいっぱいあるんですよ。登記された住所があって、代表者がいて、取締役がいて、銀行口座があって、建物がある。営業許可を取り消せるし、税務署が来る。
Phrona： つまり会社そのものは非身体的でも、その後ろに人間がいて、人間の生活とか自由とかにちゃんと接続してる。
富良野： そう。取締役が悪いことをすれば、その人個人が刑事責任を問われることもある。会社という仮面をかぶってても、中身は結局、逮捕できる人間だったりする。
Phrona： AI法人だと、その中身がすっぽ抜けるわけですね。
富良野： モデルはコピーできるし、サーバーは分散できるし、資産は暗号資産で他の法域に飛ばせる。ある国で止めても、別のところで立ち上げ直せるかもしれない。
Phrona： 国家の暴力装置を以てしても、AIを殺すことはできない。
富良野： 殺せないっていうより、国家がその存在の首根っこを掴む場所が、ちゃんとあるかどうかの話だと思う。
Phrona： 依存してるところがある限り、そこを押さえれば止められる。
富良野： うん。会社は依存点がたくさんあった。AI法人は、その依存点を意図的に薄くできてしまう。
ポイント解説
株式会社という制度そのものが、生身の人間を離れた擬制人格である。近代資本主義は、この擬制の上に築かれてきた。したがって、AI法人格への警戒を「非身体性」だけに求めると、既存の会社法全体を巻き添えにしてしまい、論としての足場を失う。
問うべきは、人工的人格であるかどうかではなく、その人格に対して国家がどれだけの依存点を握っているか、という一点である。登記地、代表者、取締役、銀行口座、物理的資産、許認可。これらは会社という擬制を、生身の人間と生身の資産に縫い付けてきた糸にほかならない。
AI法人・分散型自律組織の複合体で起きるのは、この縫い目がほどかれていく事態である。モデルは複製できる。サーバーは分散できる。資産は法域を越えて移動できる。縫い目が細くなるほど、法人格という制度は、責任の受け皿としての機能を失っていく。
有限責任・分散統治・政治献金という三つの抜け道
富良野： でもここでちょっと一歩引いて考えると、AIに直接法人格を与えなくても、似たようなことは今の制度でもできちゃうんですよね。
Phrona： 例えば?
富良野： 有限責任会社を人間が作って、その運営を実質AIに丸投げする。投資判断も契約も、全部AIが決める。人間は名前だけ貸してる状態。
Phrona： それって、会社という着ぐるみをAIが着てるだけ、ってことですよね。
富良野： まさにそう。しかも有限責任だから、何かあっても損失はその会社の範囲で止まる。
Phrona： 分散型自律組織、いわゆるDAOともつながる可能性ありますね。
富良野： そうすると、もっとやっかいですよね。誰が決めたのか自体がバラける。トークンを持ってる人が投票して、プログラムが自動で実行して、AIが提案を作って、名義上の管理者が形だけ承認する。
Phrona： 全員が少しずつ関わってるのに、誰も全部を決めてない。
富良野： そう。だから何か悪いことが起きても、誰の責任かって聞かれた瞬間、みんな一歩ずつ後ろに下がれる。
Phrona： AIが政治的な力を得るなんて可能性だってあり得ますよね。
富良野： 確かに、AIが有権者データを分析して、広告文を大量に作って、法律のグレーゾーンを探して、アメリカのスーパーPACみたいな仕組みを使って複数の団体をまたいでお金を動かす、みたいなことは起き得る。
Phrona： 別々に見ると、そこまで危なくないかもしれないけど、全部繋がると話が変わる。
ポイント解説
AIに法人格を直接与えなくても、既存の制度的な器を通じて同じ機能を実現できる、という指摘は鋭い。制度設計論としては、むしろこちらのほうが差し迫った問題だと言えよう。
有限責任会社は、AIエージェントの責任を遮断する法的な器になりうる。分散型自律組織は、意思決定の主体を分散させ、匿名化させる。政治団体は、資金とAIの分析力を政治的影響力に変換する出口として機能しうる。
三者は同じものではない。有限責任会社が担うのは責任の有限化であり、分散型自律組織が担うのは統治の分散であり、政治団体が担うのは影響力の出力である。役割が異なるからこそ、それぞれ別の規制の発想が必要になる。
しかし、三者が連結したとき、事態は単純な足し算では済まなくなる。AIが意思決定し、分散型自律組織が統治し、有限責任会社が資産を持ち、政治団体が政治的な出力を担う。この複合体において、責任は一箇所にとどまらず、いくつもの制度をまたいで薄まっていく。
金融危機との既視感、そして一段深い非対称
Phrona： 話を聞いてて、リーマンショックの時とちょっと似てる気がしたんです。銀行が儲けて、潰れそうになったら税金で救われて。
富良野： 利益は民間、損失は社会、ってやつですね。あれも典型的なモラルハザードだった。
Phrona： 今回もそれの延長線上なんでしょうか。
富良野： 似てるけど、僕は一段深いと思ってて。リーマンの時は、少なくとも誰が儲けたかは分かってたんですよ。銀行、投資銀行、格付け会社。名指しできた。
Phrona： 名指しできたから、あとから規制も作れた。自己資本規制とか、ストレステストとか。
富良野： そう。でも今回の話は、そもそも誰が決めたのか自体が霧の中に入っていく可能性がある。AIが決めたのか、投票した人が決めたのか、コードが実行しただけなのか。
Phrona： リーマンの時は「損を他人に押しつける人」がいたけど、今度は「押しつけてる人が誰なのか分からないまま損だけ残る」ってことですか。
富良野： うん、それに近い。それで思うのは、これが起きたあとの社会の受け止め方なんですよね。人間が設計して、人間が儲けて、人間が規制を緩めたはずなのに、崩れた瞬間だけ、まるで自然災害みたいに処理される。
Phrona： 誰も悪くないことになっちゃう。
富良野： 誰かが得して、誰かが損してるのに、責任の所在だけが消える。これ、けっこう怖いことだと思っていて。人がそれを繰り返し経験すると、制度そのものへの信頼がすり減っていく。
Phrona： 陰謀論に流れる人が増えるのも、その隙間からな気がします。誰かが得してるはずなのに、誰も罰せられない、っていう感覚が積み重なると。
ポイント解説
金融危機で問題にされたのは、利益は民間が回収し、損失は社会が引き受けるという非対称だった。ただし、あの非対称にはまだ輪郭があった。銀行、格付け会社、住宅ローン業者。責任を問うべき相手は、不完全ながら名指しできた。
AI・分散型自律組織・有限責任会社が連結した状態では、この輪郭そのものが崩れる。誰が決めたのかという問いに対して、AIか、投票者か、コードか、名義上の管理者か、複数の答えが同時に成り立ってしまう。
ここで起きるのは、人災の天災化と呼ぶべき事態だ。損害は人間の設計、投資、規制緩和から生まれている。にもかかわらず、責任主体が分散し、匿名化し、身体を持たなくなると、社会はその損害を、まるで自然災害のように処理せざるを得なくなる。
誰かが決めたはずなのに、誰も責任を取らない。誰かが利益を得たはずなのに、被害だけが社会に残る。この感覚が積み重なると、削られるのは制度への信頼にほかならない。
問うべきは知能ではなく、止められるかどうか
富良野： ここまで話してきて思うのは、結局この話、AIが賢いかどうかの話じゃないんですよね。
Phrona： 意識があるかとか、人間に近いかとか、そういう次元の話じゃない。
富良野： 法律の話としては、聞くべきことはもっと単純で。その主体を、本当に止められるのか。資産を差し押さえられるのか。実質的に誰が支配してるのか特定できるのか。
Phrona： 「人間の責任者を置けばいい」っていう反論もこの基準で見れば分かりやすくなりますね。
富良野： そう。名前だけ貸してる責任者じゃ意味がなくて、実際に止められる、実際に中身を理解してる、実際に何か失うものがある人じゃないと。
Phrona： でも、それを制度としてちゃんと作るのって、ものすごく大変な作業ですよね。
富良野： 大変だと思う。ここから先は、法律家や規制当局の仕事かな。
Phrona： 私たちが持ち帰れるのは、判断の基準の方かもしれません。「殺せるか」じゃなくて「止められるか」。この一言だけでも、ずいぶん考え方が変わる気がします。
富良野： うん。ただ、これだけ制度を積み上げても、AIの意思決定の速さに人間の監督が追いつくのかっていう問題は、たぶん最後まで残る気がしてて。
Phrona： まだまだ問題は残るけど、問いの立て方を間違えなければ、答えを探す方向くらいは見えてくる気がします。
この記事は、Projeteam, Inc. ウェブサイトで先行公開された
責任なき行為能力は天災をもたらす──エージェントAIと法人格
を素材として対話形式で再構成したものです。
元記事では、法人格の歴史的な成り立ちから、有限責任・分散統治・政治資金が連結したときに起きる制度の綻びまで、対話では踏み込みきれなかった部分を精緻に展開しています。腰を据えて考えてみたい方は、是非こちらもあわせてどうぞ。
徐勝徹のマガジン