【知新察来】「多くの人がこう思っている」という確信は、どこで作られているのか──可視性の配分と偽の合意
◆今回のピックアップ記事◆
Stephan Lewandowsky, "The architecture of the internet creates risks for democracy" (Science, 2026年6月4日)
概要：インターネットの民主主義へのリスクを、悪質なコンテンツの問題としてではなく、情報インフラ・推薦アルゴリズム・同質性ネットワークというアーキテクチャの問題として描く。ブロードバンド普及の準自然実験、アルゴリズム監査、偽の合意効果の三層を積み上げ、個別の誤情報対策では処理できない構造問題として提示する。
「みんなそう思っている」と感じたとき、その感覚はどこから来ているのでしょうか。自分のタイムラインに同じ意見が並ぶと、それが世の中の多数派に見えてくる。けれど、見えている分布と、実際の分布は、同じとは限りません。
今回の素材は、インターネットの「構造」そのものが民主主義を脅かしうると論じた、Science掲載の論考です。悪い情報が流れるからではない。情報の流れ方、見え方、つながり方——そのアーキテクチャ（基盤の構造）が、私たちの「世間の見え方」を歪めている、という議論です。
富良野は制度と権力の側から、Phronaは人の感覚と共同体の側から、この構造に分け入ります。そして後半、二人はもう一つの問いに行き着きます。生成AIは、この構造の何を変えるのか。歪んだ鏡を、AIは作り替えてしまうのか、それとも直せるのか。読み終えたとき、「多数派」という言葉が少し違って見えるはずです。
削除されていないのに、変わっている
富良野： この論考、最初に意表を突かれたのは、悪い情報の話から入らないところでした。フェイクニュースが民主主義を壊す、という話だと思って読み始めたら、まったく別の場所を指している。
Phrona： どこを指していたんですか。
富良野： インフラそのものです。アメリカで二十年前にブロードバンドが普及したとき、どの州で早く広まるかは、ケーブルを道路沿いに敷く規制の厳しさで決まっていた。その規制の差を使って調べると、回線が速く使えるようになった地域ほど、相手陣営への敵意が強まっていた。中身の話じゃない。回線が通っただけで。
Phrona： 通信が速くなっただけで、人の感情が動く。何も言われていないのに。
富良野： そこなんです。僕は最初これを技術決定論だと身構えました。技術が人を変える、という単純な話に。
Phrona： 違ったんですか。
富良野： 単純じゃなかった、という意味では。何も言われていないのに動く、というところが、たぶん入口なんです。
Phrona： 普通、情報が人を変えるというと、嘘を吹き込まれるとか、煽られるとか、そういう絵を思い浮かべますよね。誰かが悪い種を蒔いて、それが芽を出す、みたいな。でもこの論考は、種の話をしていない気がします。
富良野： 種じゃなくて、畑の形の話をしている。
Phrona： そう、たぶん。畑がどう区切られているか、水がどう流れるか。
富良野： いい喩えだな。実際、論考の二段目はまさにそこに行きます。プラットフォームのアルゴリズムが何をしているか。そこで面白いのは、削除していないんですよ。
Phrona： 削除していない。
富良野： ある選挙のとき、研究者たちが推薦の仕組みを監査した。すると極端な政党の投稿が、元の投稿量に比べて何倍も多く若者に表示されていた。中道の政党は逆に沈められていた。消されたわけじゃない。順番が変えられただけ。
Phrona： 消さずに、沈める。
富良野： 検閲というと、僕らは消すことを思い浮かべる。でもここで起きているのは、見える順番を変えることなんです。何も消えていないのに、見える世界が違う。
ポイント解説
削除されていないのに、見える世界が変わる。ここには、私たちが「検閲」という言葉で思い描く像を、静かに作り替える何かがある。
消すことは目に見える。削除された投稿には、削除されたという痕跡が残る。抗議もできるし、不当だと訴えることもできる。だが、表示順位を下げることには痕跡が残らない。沈められた声は、最初から存在しなかったかのように振る舞う。気づきようがない。
政治学者ルークス（Steven Lukes）は、権力には三つの顔があると論じた。第一の顔は、対立する争点において相手を屈服させる力。第二の顔は、そもそも何が争点として議題に上るかを左右する力。そして第三の顔は、人々が自らの利害をどう認識し、何を当然のものとして受け入れるか——その認識の枠組みそのものを形づくる力にほかならない。可視性の配分とは、まさにこの第三の顔の、技術的な実装といえよう。何が見えるかを設計することは、人々が世界をどう認識するかを、本人の気づかぬところで規定することだからである。
つながる自由が、分断を生む
富良野： ただ、アルゴリズムだけを悪者にすると、たぶん半分しか見えない。論考の三段目に、もっと根っこの話が出てきます。
Phrona： 根っこ。
富良野： 同質性、という言葉が使われています。人は自分と似た人とつながりやすい。バードウォッチングが好きな人はバードウォッチングの集まりに入るし、ボウリング好きはボウリング好きと集まる。
Phrona： それ自体は、何も悪くないですよね。むしろ、つながれるのは嬉しいことのはずで。
富良野： そう、ここが厄介なんです。悪意がない。誰も悪いことをしていない。
Phrona： 似た人を探すって、すごく自然な動きですよね。寂しさの裏返しみたいなところもあって。私はその気持ちのほうがよく分かる。
富良野： その自然な動きが、集めると別のものになる。論考が言うのは、現実だと数の少ない、散らばった考えの人たちが、オンラインだと簡単に互いを見つけられる、ということです。地球は平らだと思っている人でも、世界中から集まれば、濃い共同体になる。
Phrona： 現実だと出会えない人たちが、出会えてしまう。……言いながら、自分でひっかかってきました。私はさっき、つながれるのは嬉しいと言いましたよね。その嬉しさと、いま富良野が言った濃い共同体って、同じものなのかもしれない。
富良野： 同じ動きの、表と裏。
Phrona： そう。私が「似た人に会えて嬉しい」と感じるその瞬間に、もう分断の種は蒔かれている。誰かが蒔いたんじゃなくて、私が嬉しいと感じることそのものが。
富良野： これ、経済学者のオストロムの話とちょうど裏返しなんですよ。
Phrona： 裏返し。
富良野： 彼女は、人々が上から命令されなくても、自分たちで資源をうまく管理する仕組みを作れることを示した。漁場とか、共同の牧草地とか。自発的な秩序が良いものを生む、という話。でもここで起きているのは、同じ自発性が、悪いものを生んでいる。誰も設計していない秩序が、公共の認識を壊していく。
Phrona： 自分たちで作る秩序が、いつも良いとは限らない。
富良野： 悪役がいないんです。それがいちばん厄介なところで。叩く相手がいない。
ポイント解説
集合行為の問題は、ふつう、望ましい協力がなぜ達成されないかという形で立てられる（各人が自己の利益を追求した結果、全体としては誰も望まない事態に至る、という構造である）。経済学者オストロム（Elinor Ostrom）が示したのは、その悲観的な図式に対する反例であった。中央の権力が介入せずとも、当事者たちが自らルールを編み出し、共有資源を持続的に管理しうる——自発的秩序の可能性を、彼女は具体的な事例の積み重ねによって論証したのである。
だが、ここで起きているのは、その反転だ。同じ自発性が、逆向きに働く。誰も命令していない。誰も設計していない。一人ひとりは、ただ気の合う相手を探しているだけだ。その無数の小さな選択が積み上がって、公共の認識を断片化させていく。叩くべき悪役が、どこにもいない。これが、削除すべき投稿を探すという発想では、この問題にどうしても届かない理由だ。
多数派だと思っていた
富良野： で、その断片化が何を生むか。ここが論考のいちばん深いところだと思います。
Phrona： さっきの、畑の形の話に戻ってきますか。
富良野： 戻ってきます。自分のタイムラインが、ワクチンは危険だという投稿で埋まっていると、その人は、それが世間の多数派の意見だと感じてしまう。実際には、アメリカの大人の九割は子どものワクチンは安全だと考えているのに。
Phrona： 見えている分布が、世界の分布だと思ってしまう。
富良野： 偽の合意効果、と呼ばれています。自分の周りの意見の分布を、社会全体の分布だと誤認する。
Phrona： ……これ、聞いていて、しんと静かになる話ですね。だって、私たちが「世間」と呼んでいるものは、もともと誰も全体を見たことがないものですよね。
富良野： 誰も全体は見ていない。
Phrona： 政治学者のアンダーソンが、国民は想像の共同体だと言ったのを思い出します。会ったこともない何千万人を、同じ仲間だと想像する。その想像があるから、国が成り立つ。
富良野： その想像が、いまは歪んだ材料で作られている、と。
Phrona： そう。同じ仲間を想像する、その想像の材料が、タイムラインなんです。歪んだ鏡を見ながら、私たちは「世間」を想像している。
富良野： そこから、ポピュリズムの言葉が自然に出てくる、と論考は言うんです。自分の意見が多数派だと信じている人は、その意見が実際には少数派でも、多数派の委任で動く政府に納得できない。自分たちこそ普通の人々なのに、遠くのエリートに無視されている、と感じる。
Phrona： 普通の人々、遠いエリート、裏切られた民意。
富良野： その語彙が、扇動家が吹き込んだものじゃなくて、認識の歪みから勝手に湧いてくる。ドイツの大きな研究で、自分の立場への支持を過大評価する人ほど、左右どちらでも、ポピュリズム的な態度が強かった。
Phrona： 右の問題でも、左の問題でもない。
富良野： 構造の問題なんです。ルソーが一般意志と全意志を分けたのを思い出すんですが、皆が「自分の意見こそ本当の民意だ」と感じるとき、その全員が間違っているわけじゃない。全員が、自分の見ている鏡を信じているだけで。
Phrona： それぞれの鏡が、それぞれに本当なんですね。だから、話が通じなくなる。
ポイント解説
民主主義は、多数決の手続きだと思われがちだ。だが、その手前に、もっと静かな前提がある。
人々が、世の中の意見の分布を、それなりに正確に見渡せている、という前提だ。多数派の委任で政府が動くことに納得できるのも、自分が少数派だと受け入れられるのも、その分布が見えているからこそだ。この前提が崩れると、手続きはそのままでも、正統性の感覚のほうが溶けていく。
ここで話は、制度の次元から認識の次元へ移る。哲学者ハーバーマス（Jürgen Habermas）が公共圏と呼んだものは、単に意見が表明される場ではなく、社会が自らの意見状態を自らに対して可視化する装置であった。誰がどう考えているかを、互いに見渡せること。その相互の見通しがあって初めて、合意も対立も、共通の地平の上で意味をもつ。偽の合意効果が侵食しているのは、個々の信念の正しさではなく、この見通しそのもの——社会が自らを認識する条件にほかならない。民主主義の危機が、しばしば情報の真偽の問題としてではなく、認識の構造の問題として現れるのは、このためといえよう。
AIは、鏡を作り替えるのか
富良野： ここまでが、この論考の射程です。でも僕は読みながら、もう一つ先が気になっていました。これ、生成AIが入ってくると、どうなるんだろうと。
Phrona： AIの話、出てきましたっけ。
富良野： 論考はほとんど触れていない。だからこそ気になるんです。論考が描いた構造を、AIは変えるのか、と。
Phrona： 変える気がしますか。
富良野： 悪役を増やす、という話にはしたくないんです。AIが新しい怪物だ、みたいな。そうじゃなくて、構造のどこが変わるか。考えていて、二つあると思いました。一つ目。これまでのアルゴリズムは、すでにある声を並べ替えていた。実在する人が書いた投稿を、順番を変えて見せていた。でも生成AIは、声そのものを作れる。
Phrona： ……さっきの偽の合意って、「周りの何人がそう思っているか」で生まれていましたよね。
富良野： そこなんです。その「何人が」という手がかりは、これまで実在する人の数に縛られていた。地球は平らだと思う人が世界中から集まっても、その人数には上限があった。でもAIは、その上限を外せる。
Phrona： 誰も思っていない意見を、何千人が思っているように見せられる。鏡が歪むんじゃなくて、誰も映っていない反射で埋められる。
富良野： 二つ目は、もっと静かな変化です。これまで僕らは、世間を知るのに自分の網を見ていた。タイムラインを眺めて、世間を推し量っていた。
Phrona： その網が歪んでいた、というのがさっきまでの話。
富良野： そう。でも、人がAIに「世間はどう思ってる」と尋ねるようになると、見る対象が変わる。網じゃなくて、モデルに尋ねるようになる。
Phrona： モデルって、あの、大量の文章を学習した。
富良野： 大規模言語モデル。膨大な「これまで言われてきたこと」を圧縮したものです。だから「世間はどう思ってる」と尋ねると、その圧縮された平均像が返ってくる。
Phrona： ……これ、向きが逆になりませんか。さっきまでは、無数のバラバラな偽の合意が乱立する話でした。みんなが別々の鏡を見ている。
富良野： 逆になる。今度は、単一のモデルが返す平均像を、みんなが同じように参照する。バラバラじゃなくて、一つの合成された声を、全員が聞く。
Phrona： 分断の反対なのに、どちらも落ち着かない。……言い方を変えます。どちらも、私たちが自分で世間を見る、という手間を省いている。
富良野： もう一つ、皮肉なことがあって。論考が出している処方箋——反民主主義的な投稿を下げる仕組みとか、自分の意見が実は少数派だと気づかせるツールとか——あれ、結局AIなんですよ。
Phrona： 歪める側と、直す側。
富良野： 同じ技術が両側にいる。偽の鏡を作れるのもAIなら、本当の分布を見せられるかもしれないのもAI。だから、AIの外に立って批判する、ということができない。
Phrona： 外に出口がない。中にいたまま、どうするかを考えるしかない。
富良野： そこで止まるんです、僕は。きれいな答えが出ない。
ポイント解説
インターネットのアーキテクチャが既存の声を再配分するものであったとすれば、生成AIのアーキテクチャは、声そのものを産出する点で、質的に異なる位相に属する。だが、より本質的な差異は、別のところにある。
大規模言語モデルが行うのは、統計的に尤もらしい言葉の連なりを生成することであって、理由を通じて意見を形成することではない。それは過去の表現の分布を圧縮し、再生産する装置であり、熟議の機構を内蔵してはいない。ルソー（Jean-Jacques Rousseau）の語彙を借りるなら、ここで一般意志は、全意志の統計的な圧縮へと置き換わる危険を孕む——人々が理由を交わして到達する共通の意志ではなく、これまで言われてきたことの平均が、民意の代理として流通しはじめるのである。しかも、その圧縮は数十億の媒介変数に分散しており、ランキング規則を開示しないという従来の不透明性とは異なり、そもそも見渡せる規則が存在しないという、より深い不透明性を呈する。民主的監督が要求する透明性を、アーキテクチャそれ自体が拒むといわざるを得ない。
つまり、こういうことだ。歪んだ鏡を直すという話の手前に、鏡が鏡でなくなる、という変化が忍び込んでいる。
鏡を、誰が握るのか
富良野： 結局、問いはどこに行き着くのか。論考は政策提案で終わります。アルゴリズムの脱バイアス化、意見分布の較正ツール。正しい方向だと思う。でも僕には、いちばん難しい問いがその先に残るんです。
Phrona： 誰が、という問い。
富良野： 誰が反民主主義的だと決めるのか。誰がその鏡を握るのか。国家が握れば検閲に近づく。企業が握れば、私企業が公共の認識を支配することになる。
Phrona： どちらの手も、なんだか信用しきれない。
富良野： そこにAIの話が重なると、もう一段ねじれます。歪みを直す鏡も、歪める鏡も、同じモデルの上にある。そしてそのモデルは、たいてい一つで、国境をまたいでいる。
Phrona： ……情報の流れは世界中につながっているのに、民主主義は国ごとなんですよね。
富良野： そこが捻れの芯です。鏡はグローバルで一つ、それを正統に治める権限はナショナルでバラバラ。誰の、どんな資格に基づく決定なのか、という問いが、避けられない形で出てくる。
Phrona： その問いに、きれいな答えは、たぶん今はない。
富良野： ない。でも、答えがないことを確かめておくのは、無駄じゃないと思うんです。少なくとも、アルゴリズムを直せば済む、という話じゃないことは、はっきりした。
Phrona： 私たちが「世間」を想像するとき、その想像の材料を、いま何が握っているのか。……その問いだけは、手元に残しておきたい気がします。
富良野： 握っているのが誰なのか、まだ誰もうまく答えられない。だから、忘れないでおく。それくらいしか、今は言えないのかもしれません。
Phrona： それで、いいんじゃないでしょうか。答えを急いで、また別の鏡を作るより。
ポイント解説
問いは、技術の問題から統治の問題へと移った。だが、その統治には、最初から捻れが組み込まれている。
歪んだ鏡を直すという発想は、直す主体を要請する。誰が、何を反民主主義的と判定し、どの可視性をどれだけ下げてよいのか。国家がそれを担えば検閲の影が差し、私企業が担えば公共圏の私的支配となる。
科学技術社会論のジャサノフ（Sheila Jasanoff）は、技術の秩序と社会の秩序が互いを形づくりながら同時に生成される過程を「共産出」と呼んだが、AIによって媒介される情報環境においては、その共産出の単位が、もはや一国の境界に収まらない。すなわち、認識の鏡はグローバルに単一でありながら、それを正統に統治しうる政治的権限はナショナルに分散しており、しかもその鏡の内部は誰にも完全には監査されえない——という三重の不整合が露呈する。「誰が、いかなる権限に基づいて、誰のために、この鏡を治めるのか」という政治的正統性の問いは、解かれないまま、しかし回避もされえない形で、私たちの手元に残されるのである。
この記事は、Projeteam, Inc. ウェブサイトで先行公開された
を素材として対話形式で再構成したものです。元記事では、可視性の配分という権力、偽の合意効果が民主主義の認識的前提を侵食する機制、そして生成AIのアーキテクチャがその歪みの所在をどこへ移すのか——より精緻に展開しています。対話では駆け足だった部分を、腰を据えて考えてみたい方はこちらも是非。
徐勝徹のマガジン