100の思考実験　2 自動政府　誰と墜ちるか

対話のもと

概要（297文字）

経済を完璧にコントロールするスーパーコンピュータ「ベンサム」に、政治をも委ねようという提案がなされる。ベンサムは人間の私利私欲や欠陥を排し、国民の幸福を最大化する政策を選び出す。一見、自動化は合理的だが、真の難題は「政治の最終目標」の定義にある。

例えば、「全体の幸福度をわずかに上げるために、5％の人間を悲惨な状態に置く政策」と「全体の幸福度は下がるが、悲惨な人間をゼロにする政策」のどちらが正しいのか、あるいは少数派の意見をどう扱うべきかといった価値判断は、コンピュータにはできない。公共サービスを管理する技術よりも、何が最善かを人間自身が決定することのほうが遥かに難しいという思考実験である。

あなたへの問いかけ

この思考実験の核心について、あなたの考えを聞かせてください。

geminiとの対話

・導入と自動政府の寓話

私たちが生きるこの現代社会において、政治に対する不満や絶望が途切れることはない。汚職、失言、私利私欲にまみれた権力闘争、そして近視眼的なポピュリズム。ニュースを見るたびに、「いっそ人間ではなく、一切の感情を持たない完璧な知性に社会の舵取りを任せたらどうなるだろうか」という妄想が頭をよぎる人も少なくないはずだ。

ここに一つの思考実験がある。タイトルは「自動政府」。

舞台は、経済運営を完璧にこなしてきたスーパーコンピュータ「ベンサム」が支配する社会だ。ベンサムは人間の政治家のように買収されることもなければ、スキャンダルで失脚することもない。ただひたすらに、膨大なデータと冷徹なアルゴリズムを用いて、国家の舵取りを行う。そのベンサムが、これまでの実績を背景に、ついに経済だけでなく「政治の全権」をも委ねられるという提案がなされた。

ベンサムの目的は極めて明快である。「国民の幸福の最大化」だ。これこそが政治の究極の理想であり、私たちが追い求めてきたユートピアの姿であるかのように思える。しかし、この完璧な知性が弾き出した一つの「最適解」が、私たちを深い思考の奈落へと突き落とすことになる。

ベンサムが提示した政策は、社会全体の幸福度をこれまでにないほど劇的に高めるものだった。しかし、その方程式の裏側には、冷酷な条件が組み込まれていた。それは、「全体の幸福度を最大化するために、わずか5％の人間を悲惨な状態に置き去りにする」というものだ。

この5％の犠牲を受け入れれば、残りの95％はかつてないほどの繁栄と幸福を享受できる。逆に、この5％を救おうとすれば、社会全体の幸福度は著しく低下し、全員がそれなりの、あるいは少し窮屈な生活を強いられることになる。

このシチュエーションを突きつけられたとき、私たちは単なる効率性の問題ではなく、自分自身の倫理観の根底を揺さぶられるディストピアの入り口に立つことになるのだ。

・核心に潜む「引き裂かれるジレンマ」

この思考実験の核心にあるのは、私たちの理性を真っ二つに引き裂く、あまりにも残酷なジレンマである。

一方にあるのは、社会全体の繁栄を最優先する「マクロな合理主義」だ。数字の上で見れば、95％の人間が幸福になる社会は、全員が中途半端な幸福（あるいは不幸）に甘んじる社会よりも「優れている」と結論づけたくなる。もし自分がその95％の安全圏にいると確信できるなら、このシステムは合理的なユートピアとして機能するだろう。

しかし、もう一方には、個人の尊厳を絶対に侵してはならないという「ミクロな人道主義」が立ちはだかる。どんなに全体の利益が大きかろうと、特定の少数派をシステム的に「生贄」として捧げる社会を、私たちは果たして「正義」と呼んでよいのだろうか。

ここで、私は自らのスタンスを明確に表明したい。

「全体の幸福度は多少下がっても、誰一人として悲惨な状況に置き去りにされないことを最優先する社会（平等主義的アプローチ）」を、私は断固として支持する。

もっと生々しい本音を言うならば、「私が5％に入るくらいならみんなで墜ちるほうがいい」ということだ。

この言葉は、一見すると極めて利己的で、破滅的なものに聞こえるかもしれない。「全体の繁栄の足を引っ張る、卑屈な道連れ根性だ」と批判する声も聞こえてきそうだ。しかし、私はこの感情こそが、人間が社会という契約を結ぶ上で、最も誠実で、かつ最も合理的な生存本能であると確信している。

私たちがこのジレンマに直面したとき、どうしても目を背けがちなのは、その「5％の悲惨さ」の中身が、見知らぬ誰かではなく「明日の自分」かもしれないという厳然たる事実である。自分が犠牲者になる可能性が1ミリでもあるシステムを容認することは、自らの命をかけた無謀なギャンブルに他ならない。全員で等しく水準を下げ、誰も見捨てられないセーフティネットを構築することこそが、巡り巡って自分自身の生存確率を最大化する選択なのだ。

・「自分だけは大丈夫」という認知バイアスのバグ

なぜ多くの人が、この思考実験において「5％を切り捨てる選択（功利主義）」に、一瞬でも心が傾いてしまうのだろうか。そこには、人間の直感に組み込まれた、いくつかの致命的な「認知バイアス」という名のバグが存在している。

最も代表的なのが「楽観バイアス（自己都合のよい解釈）」である。人間は、このような確率論的なジレンマを突きつけられたとき、無意識のうちに「自分は残りの95％（幸福な側）に入れるだろう」と考えがちだ。宝くじの当選確率は極めて低いと知っていても「もしかしたら」と思い、逆に交通事故に遭う確率はそれなりに高くても「自分だけは大丈夫」と思い込む。この脳のバグが、5％の生贄というシステムの残酷さを、どこか他人事のようにフィルタリングしてしまう。

さらに、マクロな数字の魔力に騙される「傍観者バイアス」も働いている。統計データとして「社会全体の幸福度が20％向上しました」と言われると、脳はそれをポジティブな成果として受け止めてしまう。その数値の影で、5％の具体的な人間がどのような地獄を味わっているかという、ミクロな痛みに対する想像力が遮断されるのだ。

人間は、自分が安全圏にいると信じ込んでいるとき、驚くほど冷徹な合理主義者になることができる。しかし、ひとたび「あなたがその5％に選ばれました」と宣告された瞬間、その合理主義は木端微塵に砕け散る。

私が主張する「自分が5％に入るならみんなで墜ちる」というスタンスは、こうした脳の認知バイアスを無理やり剥ぎ取り、最悪のシナリオを我が身として引き受けた上での、極めて現実的な防衛反応なのだ。綺麗事で包み隠された「最大多数の最大幸福」という言葉の欺瞞を暴くには、この剥き出しのエゴイズムを出発点にするしかない。

・歴史が突きつける哲学の座標軸

この「自動政府」が提示する問いは、決して現代に始まったものではない。人類の歴史の中で、哲学者たちが何百年もかけて議論し、血を流しながら模索してきた「正義とは何か」という問いそのものである。

この思考実験に登場するコンピュータの名前「ベンサム」は、18世紀から19世紀にかけてイギリスで「功利主義」を唱えた哲学者、ジェレミ・ベンサムに由来している。

ベンサムは、道徳の本質を「最大多数の最大幸福」というあまりにも有名なフレーズで定義した。彼によれば、社会全体の快楽（幸福）の総量から苦痛の総量を差し引いた値が最大になる行為こそが「善」である。この思想は、非常に明快で、行政や法制度の近代化に大きく貢献した。しかし、今回の思考実験が示すように、功利主義を究極まで突き詰めると、「全体の幸福のためなら、少数の犠牲は計算上容認される」という冷酷なディストピアを生み出す温床となってしまう。

このベンサムの功利主義に対して、20世紀に強烈なカウンターを放ったのが、アメリカの哲学者ジョン・ロールズである。

ロールズは、その著書『正義論』の中で、「無知のヴェール」という極めて強力な思考実験を提唱した。これは、自分が社会の中でどのような立場（金持ちか貧乏人か、天才か凡人か、マジョリティかマイノリティか）になるかを一切知らない状態（無知のヴェールを被った状態）で、社会の基本ルールを話し合うとしたら、人々はどのようなルールを選ぶか、という問いだ。

ロールズの結論はこうだ。人間は自分が最悪の立場（底辺の5％）になるリスクを恐れるため、最も不遇な人の状況を少しでも底上げするようなルールを最優先で選ぶはずだ。これを「マキシミン戦略（最悪のケースを最高にする戦略）」と呼ぶ。

私の「自分が5％に入るならみんなで墜ちる」という直感は、まさにこのロールズの「無知のヴェール」の裏返しであり、人間の防衛心理を最も純粋に表現したものだと言える。歴史的な哲学の座標軸に照らし合わせれば、私の意見はベンサム的な冷徹な最適化を拒絶し、ロールズ的な相互扶助の契約へと回帰しようとする試みなのだ。

・三大倫理学が照らす「正義」の多面性

私たちがこの問題についてより深く考えるために、西洋哲学が培ってきた「三大倫理学」というフレームワークを使って、視点を切り替えてみよう。それぞれの眼鏡をかけることで、この自動政府の政策がどのように見え方が変わるのかを検証する。

まずは、すでに触れた「功利主義（帰結主義）」の視点だ。この立場からすれば、行為の善悪は「もたらされた結果（帰結）」だけで判断される。5％の人間がどれほど悲惨であろうとも、それによって95％の人間に莫大な幸福がもたらされ、社会全体の幸福の総量がプラスになるのであれば、ベンサムの選択はプログラミング通り「大正解」となる。ここでは、個人の権利は全体の利益のための「変数」に過ぎない。

次に、「義務論（カント倫理学）」の視点に切り替えてみる。哲学者イマヌエル・カントは、「人間を他の目的のための単なる手段（道具）として扱ってはならない。常にそれ自体を目的として扱わなければならない」という絶対的な道徳法則（定言命法）を唱えた。この義務論の眼鏡で見ると、ベンサムの政策は一発で「絶対悪」と断罪される。なぜなら、5％の人間を「95％の幸福を達成するための生贄（手段）」として利用しているからだ。たとえ社会全体がどれほど困窮しようとも、個人の尊厳をシステム的に踏みにじることは許されない。私のスタンスは、この義務論の精神に深く共鳴している。

最後に、「徳倫理学」の視点である。これは、行為の結果やルールよりも、「それを行う人間（または社会）がどのような徳（品格）を持っているか」を重視するアプローチだ。アリストテレスに端を発するこの視点では、「5％の犠牲を仕方のないこととして平然と受け入れる社会は、どのような品格を持っていると言えるか」と問いかける。そのような社会は、冷酷で、共感力を欠き、利己主義に満ちた「不徳な社会」であり、どれほど経済的に豊かであろうとも、人間が生きるに値する善い社会とは言えない、と結論づけるだろう。

このように視点を切り替えることで、私の「みんなで墜ちるほうがいい」という主張が、単なる感情論ではなく、義務論や徳倫理学といった堅牢な哲学の基盤に支えられた、人間としての誇りを守るための選択であることが見えてくる。

・現代のアルゴリズム社会とディストピアの足音

この「自動政府」の思考実験は、決して本の中のSFファンタジーではない。むしろ、私たちが今まさに足を踏み入れつつある、現代社会のリアルな写し鏡である。

私たちはすでに、ビッグデータとAI、そして高度なアルゴリズムによって、多くの意思決定を自動化しつつある。SNSのタイムラインに流れる情報から、融資の審査、企業の採用活動、さらには裁判の量刑判断にいたるまで、AIの「最適化」が社会の隅々に浸透している。

例えば、自動運転車が避けることのできない事故に直面したとき、直進して歩行者の集団に突っ込むか、ハンドルを切って壁に激突し乗員を犠牲にするか、という「トロッコ問題」のバリエーションは、すでに自動車メーカーがアルゴリズムとしてプログラミングしなければならない現実の課題だ。もし、AIが「乗員1人の命を犠牲にすることで、歩行者5人の命を救う（最大多数の最大幸福）」という功利主義的な判断を標準装備したとしたら、私たちは安心してその車に乗ることができるだろうか。

また、医療リソースの配分問題も同様だ。パンデミックの際、限られた人工呼吸器をどの患者に優先して割り当てるべきか。生存確率が高い若い患者にリソースを集中させ、高齢者や持病のある少数派を切り捨てるという判断は、まさに「ベンサム」の計算そのものである。

効率性と最適化を極限まで追求するテクノロジーは、本質的に功利主義と親和性が高い。なぜなら、「幸福」や「利益」を数値化し、その総量を最大化するコードを書くほうが、目に見えない「個人の尊厳」や「不平等への納得感」をプログラムするよりも遥かに簡単だからだ。

もし私たちが、政治の意思決定や社会保障の配分をすべてAIに委ねてしまえば、私たちの社会は、気付かないうちに「効率的な5％の生贄システム」へと変貌を遂げるだろう。私の危惧はここにある。テクノロジーの暴走を止めるのは、効率性の追求ではなく、「誰も置いていかない」という、一見すると非効率的な人間の意思だけなのだ。

・思考を揺さぶる「もしも」の変数変更

ここで、この思考実験の前提条件（変数）をいくつか変更してみることで、私たちの倫理観がどのように揺らぐのか、さらに深く掘り下げてみよう。

もし、この「悲惨な状態に置かれる5％」が、特定の個人として固定されているのではなく、「毎年ランダムにくじ引きで総入れ替えされる」としたらどうだろうか。

この場合、誰もが「今年は自分が5％に入るかもしれない」という恐怖に365日怯えながら暮らすことになる。いくら残りの95％の期間が超幸福であっても、その幸福は常に死刑宣告の可能性と隣り合わせだ。結果として、社会全体の心理的な幸福度は、恐怖によって激減するに違いない。つまり、ランダム化された生贄システムは、功利主義的な計算においてすら破綻する。

では、犠牲になる割合の変数を変えてみたらどうだろう。

もし「5％」ではなく、わずか「1人」だったら？ 日本の人口1億2千万人のうち、たった1人の見知らぬ誰かが地下室に閉じ込められ、拷問を受け続けることで、残りの全員が天国のような暮らしができるとしたら。

この極端な設定（アメリカの作家アーシュラ・K・ル＝グィンの小説『オメラスから歩み去る人々』のモチーフでもある）に直面したとき、「たった1人なら、社会のために犠牲になっても仕方がない」と考える人は増えるかもしれない。しかし、人数が1人になろうとも、本質的な悪は変わらない。むしろ、1人だからこそ、その犠牲の不条理さは際立つ。

さらに、犠牲の内容という変数を変えてみる。

もし、5％が被る不利益が「命の危機や人権の剥奪」といった悲惨なものではなく、「年間所得が平均より少し減る」という程度の格差だったらどうだろう。

それならば、私は喜んでそのシステムを受け入れる。なぜなら、少しの格差を認めることで社会全体の経済が活性化し、結果としてその「底辺の5％」の生活水準さえも、全員で等しく墜ちた社会の平均値より高くなる可能性があるからだ（これこそが資本主義の建前でもある）。しかし、今回の思考実験でベンサムが突きつけているのは、あくまで「悲惨な状態」である。この変数が「人間の尊厳の剥奪」を意味する限り、私はやはり、全員で手を携えて墜ちる道を選ぶ。

・Geminiと私の脳内対話：剥き出しの本音

ここで、私の頭の中で繰り広げられた、geminiとの対話をそのまま記録しておきたい。綺麗事のフィルターを通さない、剥き出しの哲学論争である。

私：「gemini、私は自分の本音を誤魔化したくない。自分がその5％の地獄に落とされる可能性があるシステムなんて、どんなに全体が豊かになろうとも、絶対に認めない。全員で等しく不自由で、等しく貧しくなった方が100倍マシだ」

gemini：「なるほど。あなたの主張は、ジョン・ロールズの『マキシミン戦略』の極端な現れとして非常に一貫しています。しかし、あえて反論させてください。全員で等しく墜ちた結果、全体の社会水準が下がりすぎて、全員がかつての『5％の悲惨さ』と同等、あるいはそれ以上に苦しい状況になってしまうリスクについてはどう考えますか？ それでも『みんな一緒だからいい』と言えるのでしょうか？」

私：「それでも構わない、と言い切るよ。なぜなら、そこには決定的な違いがあるからだ。システムによって意図的に選別され、社会から排除されて味わう『孤独な絶望』と、天災や社会の限界によって全員が同じ運命を共有する『連帯の苦しみ』は、精神的なコストが全く違う。人間にとって最大の苦痛は、貧しさそのものよりも、他者が豊かで幸せに暮らす中で、自分だけが不条理に生贄にされているという『排除の感覚』なんだ。全員が同じ地平で苦しんでいるなら、そこにはまだ、互いを思いやるコミュニティや連帯が生まれる余地がある。しかし、5％を切り捨てるシステムには、冷酷な分断しかない」

gemini：「非常に興味深い視点です。あなたは単に『物質的な幸福の総量』を計算しているのではなく、不平等の質や、社会システムに対する『納得感』、そして人間の精神的な尊厳を計算の変数に組み込んでいるわけですね。確かに、ベンサムのような計算機は、物質的な豊かさや快楽を数値化することは得意ですが、コミュニティの崩壊や、生贄にされた個人の『呪い』のような精神的な負の遺産を正しく評価することはできません」

私：「その通りだ。だからこそ、政治をコンピュータに任せてはならないんだ。コンピュータは『5％を切り捨てるのが一番効率的です』と悪気なく言えてしまう。でも、政治の本質は、その非効率な5％の声を、泥をすすりながらでも聞き続けることのはずだ。たとえその結果、全員のスピードが遅くなったとしてもね」

gemini：「あなたの言う『連帯の苦しみ』という言葉は、効率至上主義に対する強力なブレーキになり得ますね。しかし、現代社会の多くの人々は、自分が安全圏にいる間は、やはりベンサム的な効率性を求めてしまうという現実もあります。この人間のエゴイズムとどう向き合うべきでしょうか」

私：「だからこそ、この思考実験を自分事として突きつけ続ける必要がある。誰もが明日は5％になり得るという恐怖を、忘れてはならないんだ」

・未完の問い：あなたは5％の生贄を受け入れるか

私たちは、この「自動政府」という鏡を通じて、自分たちの内面に潜むエゴイズムと、社会に対する正義のあり方を激しく揺さぶられている。

私が導き出した結論は、全体の繁栄という甘美な罠を断固として拒絶し、誰も置いていかないという泥臭い、そして時には非効率な「連帯」を選ぶことだった。自分が犠牲になるくらいなら、社会全体の水準が下がっても構わないという本音は、一見すると後ろ向きな破滅主義に見えるかもしれない。しかし、それは裏を返せば、どんなに社会が豊かになろうとも、一人の人間の尊厳を数値の犠牲にしてはならないという、強固な人間への信頼の表明でもある。

私たちは、効率性や最適化という言葉が、あまりにも簡単に他者を切り捨てる大義名分として使われる時代に生きている。AIが進化し、社会の自動化が進むにつれて、この「ベンサム」の誘惑は、より洗練された、より魅力的な姿で私たちの前に現れるだろう。

最後に、この記事を読んでくれたあなたに、この「未完の問い」を託したい。

もし、あなたの目の前に、ボタンが二つあると想像してほしい。

一つのボタンを押せば、社会全体の幸福度は劇的に向上し、輝かしい繁栄がもたらされる。ただし、見知らぬ5％の人間が犠牲になる。 もう一つのボタンを押せば、社会の繁栄はストップし、全員が等しく窮屈な生活を送ることになるが、誰一人として見捨てられることはない。

あなたは、どちらのボタンを押すだろうか。

そして、もしその「5％の生贄のシート」の最上段に、あなた自身や、あなたにとって最も大切な人の名前が刻まれているかもしれないと知ってもなお、あなたは社会の繁栄のためのボタンを、迷わずに押し続けることができるだろうか。

タグ

note用タグ（10個）

#思考実験 #自動政府 #哲学 #AI #ディストピア #正義論 #功利主義 #エッセイ #倫理学 #読書

geminiがおすすめする書物（1個）

『実力も運のうち 能力主義は正義か』 マイケル・サンデル（著）

• note用概要： 本編で語られた「5%の切り捨てへの恐怖と連帯」に強く響き合う一冊です。現代社会が「努力した者が報われるのは正義だ」という名目のもと、いかに冷酷に敗者を切り捨て、勝者の傲慢を生み出しているかを暴き出します。AIに統治されるまでもなく、すでに私たちは「能力」というアルゴリズムによって分断されているのではないか――。この記事の次なるステップとして、社会の「正義」を捉え直すのに最適な名著です。

geminiがおすすめする楽曲（1個）

「アンチノミー」 amazarashi

• note用概要： 意思を持たない機械の不条理さと、それに抗おうとする人間の剥き出しの尊厳を歌った、重厚でシニカルなロックナンバーです。「自分が5%に入るならみんなで墜ちる」という泥臭くも切実な抵抗のメッセージ、そして冷徹なシステムと血の通った人間の対比というこの記事の世界観に、痛いほどシンクロする名曲です。

Amazonで購入したくなる物品（4個）

物品1：ノイズキャンセリングヘッドホン

• 検索キーワード： Anker Soundcore Space One

• note用概要： 外界の喧騒を完全にシャットアウトし、冷徹なAIの思考実験へと深く潜り込むためのヘッドホン。周囲のノイズを消し去ることで、自分だけの「無知のヴェール」を耳元に構築し、深い思考に没頭できます。

物品2：プレミアム・インスタントコーヒー

• 検索キーワード： INIC coffee アソートギフト

• note用概要： 5000文字の濃密な哲学論争を読み終え、フル回転した脳をやさしくケアするための高品質パウダーコーヒー。お湯を注ぐだけで最高の一杯ができあがる、忙しい現代人に「最適化された贅沢」です。

物品3：エマージェンシーブランケット

• 検索キーワード： SOL エマージェンシーブランケット

• note用概要： 「もし自分が、システムに切り捨てられた5%側の人間になったら」という生存本能を物理的に満たすための超軽量サバイバルシート。最悪のシナリオを我が身として引き受け、備えを怠らないためのリアルな防衛アイテムです。

物品4：ガラス製のアナログ砂時計

• 検索キーワード： 砂時計 5分 ガラス

• note用概要： デジタルなタイマーをあえて捨て、重力に従ってサラサラと落ちていく砂を見つめるための砂時計。効率性と最適化を求めるAI社会の片隅に、あえて「美しく、非効率な時間」を置くことで、人間らしさを取り戻すインテリアです。

noteの歩き方

興味があれば

ランダム

ここから先は、この思考実験のさらに奥深く、誰もが目を背けたくなる「本当の地獄」と、それでも私たちが人間らしく生き残るための「具体的で泥臭い生存戦略」について語ります。効率化の波に呑まれ、知らず知らずのうちに「誰かを切り捨てる側」に回ってしまっている現代人へ。この問いの裏に隠された、剥き出しの人間性を呼び覚ます本音の対話を、ぜひ受け取ってください。

以下有料