全員が合理的でも集団は間違える——情報をつなぐほど真実が遠のく不思議：AI書評『The Misinformation Age』

あなたは「自分の頭で考えている」と、胸を張って言えるでしょうか。

私はこれまで、医療の現場で「正しい情報が届かない」もどかしさを何度も経験してきました。科学的エビデンスがあるのに伝わらない。丁寧に説明しても、SNSで見た情報のほうが信じられてしまう。そのたびに「なぜ？」と感じてきました。

そんな中で出会ったのが、カリフォルニア大学の哲学者2人が書いた『The Misinformation Age』という本です。この本は、私の「なぜ？」に対して、思ってもみなかった角度から答えをくれました。それは「騙される人が悪いのではない。情報がつながる仕組みそのものに、落とし穴がある」という、衝撃的な視点だったのです。

「賢い人」が集まっても、集団は間違える

まず、この本で最も印象に残った話から始めさせてください。

私たちは普段、「一人ひとりがちゃんと考えれば、集団として正しい結論にたどり着ける」と思っています。民主主義の根っこにある考え方ですし、医療の世界でも「エビデンスに基づいて判断すれば大丈夫」という前提があります。

ところが、著者のオコナーとウェザラルは、ゲーム理論とネットワーク科学を組み合わせた数理モデル（バラ・ゴヤルモデルと呼ばれるものです）を使って、驚くべきことを証明してみせました。「全員が合理的に、証拠に基づいて判断していても、ネットワークの構造次第で、集団全体が間違った結論に収束してしまう」というのです。

これは、映画でいうなら『十二人の怒れる男』の逆バージョンのような話です。あの映画では、一人の陪審員が冷静な議論で集団を正しい方向に導きました。でも現実のネットワークでは、一人ひとりがどれだけ冷静でも、「誰と誰がつながっているか」という構造の問題によって、集団丸ごと誤った方向に流されてしまうことがあるのです。

公認心理師として、私はこの知見に強い衝撃を受けました。「個人の認知バイアスを直せばいい」と思っていた自分の考えが、実は問題の半分しか見ていなかったと気づかされたからです。

「つながりすぎ」が真実を殺す——ゾルマン効果という逆説

さらに衝撃的だったのが、「ゾルマン効果」という現象です。

普通に考えれば、情報共有は速ければ速いほどいいはずです。全員がリアルタイムでデータを共有できれば、正しい結論にすぐたどり着けるはずですよね。ところが、著者たちのシミュレーションは正反対の結果を示しました。情報の共有速度が速すぎると、集団は真実に到達する前に、間違った「局所解」に収束してしまうのです。

たとえば、こういうことです。ある新しい治療法が実際には有効だとします。でも、たまたま最初の数回の臨床試験で悪い結果が出ました。もしこの情報が瞬時に全員に共有されたら、「この治療法はダメだ」という結論が一気に広まり、誰もそれ以上検証しなくなります。本当は有効な治療法が、永遠に日の目を見ないまま葬り去られてしまうわけです。

逆に、情報の伝達がゆっくりで、一部のグループが主流とは違う研究を続けられる「余白」があったほうが、最終的には正しい答えにたどり着きやすい。まるで「急がば回れ」のことわざそのものですね。

これをSNSの文脈に置き換えると、背筋が寒くなります。X（旧Twitter）やInstagramで情報が瞬時に拡散される現代は、まさに「つながりすぎたネットワーク」の極致です。初期の不確かな情報が一気に広がり、「多数派の空気」ができあがると、異なる見解を持つ人は沈黙してしまいます。科学的な探究に必要な「多様性の保持期間」が、SNSによって消滅させられているのです。

300年信じられた「植物から生える羊」

この本で最も面白かったエピソードの一つが、「タタールの野菜の子羊」の話です。

14世紀から17世紀にかけて、ヨーロッパの知識人たちは「中央アジアには、植物の茎からへその緒でつながった羊が実る木がある」と本気で信じていました。現代の私たちからすれば笑い話に聞こえますけれど、当時の最も理性的な学者たちが、数百年にわたってこれを「事実」として受け入れていたのです。

なぜか。答えはシンプルで、「誰も実物を見ていないのに、信頼できる旅行家の証言が相互に引用され、エコーチェンバーが形成されていた」からです。ジョン・マンデヴィルという旅行家の記述が出発点となり、後続の学者たちがそれを引用し、さらに別の学者がその引用を引用する。気づけば「誰もがそれを知っている」という状態ができあがり、個人の懐疑心は封殺されてしまいました。

これ、現代のSNSで起きていることとまったく同じ構造だと思いませんか。「複数のメディアが報じているから正しいだろう」と思ったら、元を辿ればたった一つのプレスリリースに行き着く。情報源の「系統樹」を確認しない限り、私たちは21世紀の「野菜の子羊」を信じ続けてしまうのです。

そしてこの構造は、AI時代にさらに加速しています。大規模言語モデル（LLM）は、物理的な世界を直接知覚することなく、インターネット上のテキストの統計的パターンだけを学習しています。AIが生成したもっともらしい文章がSNSに投稿され、それをまた別のAIが学習する。この循環は、まさにデジタル版の「野菜の子羊」を量産する装置になりかねません。

「疑いは我々の商品だ」——タバコ産業が磨いた恐ろしい手法

この本の核心部分で、私が最も怒りを覚えたのが、タバコ産業による「プロパガンダの手法」の分析です。

1960年代、喫煙と肺がんの関連を示す圧倒的な科学的証拠が蓄積されていました。タバコ産業の対応は、「嘘をつく」ことではありませんでした。彼らがやったのは、「疑い」を作り出すことだったのです。ブラウン・アンド・ウィリアムソン社の内部メモには、こう書かれていたといいます。「疑いは我々の商品である。なぜなら、大衆の心の中に存在する事実の集合体に対抗する最良の手段だからだ」と。

具体的には、「産業的選択」と呼ばれる手法が使われました。企業は自らデータを捏造するリスクは冒しません。代わりに、世界中の研究の中から、確率論的な揺らぎによって「たまたま」企業に有利な結果が出た研究を探し出し、その研究に資金を提供して拡散させます。個々の研究は「科学的に正しい」手続きで行われているから、ファクトチェックしても「嘘」とは判定されません。でも、全体として見れば真実は巧みに隠蔽されてしまうのです。

この手法の本当に恐ろしいところは、「誰も倫理的な不正を行っていない」という点です。資金を受ける科学者は、もともと自分が信じていた説を誠実に研究しているだけ。産業界も「科学の多様性を支援している」と言い張ることができます。しかし、結果として科学界の「証拠の総体」が歪められ、外から見れば「専門家の間でも意見が割れている」かのような「偽の論争」が演出されてしまうのです。

同じ手法は、砂糖産業が心疾患の原因を脂肪に転嫁した事例、オゾンホールに関する懐疑論の流布、そして現在の気候変動否定論にまで脈々と受け継がれています。

センメルヴェイスの悲劇と、手洗いの「忘却」

医療者として、この本で最も胸が痛んだのは、19世紀の医師センメルヴェイスのエピソードです。

彼は「手洗いが産褥熱による死亡率を劇的に下げる」ことをデータで証明しました。現代の感覚では、これが受け入れられない理由がわかりません。でも、当時の医学界は「病気は瘴気（悪い空気）で起こる」という理論でがっちり結びついていました。センメルヴェイスのデータは「異常値」として処理され、彼自身は迫害を受けたのです。

さらに印象的なのが壊血病の話です。1747年、軍医ジェームズ・リンドは比較対照試験で「柑橘類が壊血病を治す」ことを明確に示しました。医学史上、最も重要な発見の一つです。ところが、この真実は定着しませんでした。リンドは地位の低い軍医で、医学界のエリート層への影響力がなかったのです。一方、英雄的な探検家キャプテン・クックが「麦汁も効く」という曖昧な報告を出したことで、リンドの発見は覆い隠されてしまいました。結果として、その後数十年にわたって何千人もの船員が、予防できたはずの壊血病で命を落としています。

この事例が教えてくれるのは、「真実は一度発見されれば安泰」ではないということです。社会的ネットワークの中で適切な権威づけがなされず、ノイズと混同されると、社会は真実を「忘却」してしまいます。これは現代の医療現場でも、著名人の発言がエビデンスに基づく治療を駆逐してしまう場面と重なります。

では、私たちに何ができるのか——3つの処方箋

ここまで読むと、「じゃあ、もうどうしようもないのか」と思うかもしれません。でも、著者たちは絶望を説いているのではありません。メカニズムを理解することで、初めて対策が打てるのです。

私なりにこの本の提言を整理すると、3つのポイントに集約できます。

まず一つ目は、「情報源の系統樹を辿る」ことです。複数のメディアが報じていても、元をたどれば一つの情報源に行き着くことは珍しくありません。特に自分の信念を補強する情報や、感情を揺さぶる情報に出会ったときこそ、「これ、元ネタはどこだろう？」と立ち止まる習慣が大切です。

二つ目は、「つながりすぎ」を意識的に緩めることです。ゾルマン効果が教えてくれるように、情報の即時共有は必ずしもプラスに働きません。大事な判断をするときほど、SNSの即時的な反応を遮断して、自分の中で「熟議の時間」を確保してみてください。これは、情報リテラシーというよりも、「情報との距離の取り方」の問題です。

そして三つ目は、「認識論的謙虚さ」を持つことです。「自分の頭で考える」ことへの過信を捨て、「私の信念は、どんなネットワークの中で形成されたのか」と自問してみてください。エコーチェンバーの中にいることを自覚したら、意識的に反対意見を取り入れる。著者たちの言葉を借りれば、私たちは「信頼の委託先」を厳選しなければなりません。

おわりに——「壊れやすい彫刻」を守るために

この本が最終的に伝えているのは、「真実とは、放っておけば勝手に浮かび上がってくるものではない」ということです。真実は、健全なネットワークと信頼関係によってのみ維持される「壊れやすい彫刻」のようなものなのです。

医療者として、私はこの比喩に深く共感します。患者さんとの信頼関係も、エビデンスに基づく医療も、放っておけば守られるものではありません。一つひとつ丁寧に、誠実に、積み重ねていくしかないのです。

AIとアルゴリズムが情報の流通を支配する今、私たちには「足場」の再構築が求められています。透明性のあるアルゴリズム、独立したジャーナリズム、そして批判的な科学コミュニティ。大きな話に聞こえるかもしれませんが、その出発点は「今日、自分がシェアしようとしている情報の元ネタを一つだけ確認する」という、ごく小さな一歩からでいいのです。

あなたの「情報との向き合い方」が変われば、あなたのネットワークが変わります。ネットワークが変われば、社会が少しずつ、でも確実に変わっていきます。その力を、あなたは持っています。

最後までお付き合いいただき、本当にありがとうございます。今日の記事が、皆さんの明日以降の一歩を考えるきっかけになればうれしく思います。

📚 書籍情報 『The Misinformation Age: How False Beliefs Spread』 著者：Cailin O'Connor & James Owen Weatherall 出版：Yale University Press（2018年）

#誤情報との向き合い方 #科学哲学 #情報リテラシー #エコーチェンバー #医療者の読書記録