忍者とフェイク 免許更新！不確実性設計の術ー非人格化支配における責任の再構築

「ドラッカーが予見した不確実性の時代は、いまや『予測する対象』から、アルゴリズムによって『設計される対象』へと進化した。かつて戦国の忍びが、情報の配置によって敵の判断を操ったように。いま、私たちは評価の地形を読み直し、自らの主体を更新する術を必要としている。」

序章｜なぜ「設計」は権力になるのか

戦国期の忍びというと、多くの人は潜入や暗殺といった派手な場面を思い浮かべるかもしれません。しかし当時の忍術書を読むと、繰り返し現れるのは、刀や火薬よりも「人の判断をどう動かすか」という主題です。

敵に直接打撃を与えるのではなく、不安や疑念を先に植え付け、誤った確信を持たせ、「敵はもう動いた」という印象を流す。それだけで兵は引き、陣形は崩れ、戦いそのものが回避されることもありました。忍びの本質は、物理的な破壊ではなく、判断の地形を変えることにあったのです。

現代の認知科学では、人間の判断を「信念の更新過程」として捉える有力な理論枠組みがあります。そこでは、人は観測された情報を既存の信念と組み合わせながら、確率的に世界像を更新していくと考えられています（1）。

「忍びとフェイク」第１作ではこれを「環境設計による支配」として提示し、第２作では評価環境（＝判断条件の集合）の再設計が行動を変える事例を示し、第３作では評価環境・ハビトゥス・選択アーキテクチャ・ナタリティといった理論でその構造を整理しました。

本稿ではさらに踏み込みます。不確実性が常態化した社会において、なぜ「条件設計」が中心的な社会機能となるのか。忍びは伝奇ではありません。彼らは、構造的に見れば社会の選択環境を設計する機能の初期形態でした。そしてその構造は、現代のアルゴリズム環境へと連続しています。

第１章｜不確実性の時代とは何か

応仁の乱以降、日本の政治秩序は急速に流動化しました。中央の統制は弱まり、主従関係は揺れ、同盟は固定されない。この状況では、今日の味方が明日も味方とは限らず、情報が遅れれば判断を誤り、噂ひとつで兵の動きが変わるという不確実性が常態になります。

秩序が安定している社会では、「疑わなくてよい前提」が固定されています。貨幣の価値を毎日疑う人はおらず、法律が明日消えると想定して行動する人も少ない。しかし戦国期は、その前提が崩れた時代でした。

このとき重要になるのは武力そのものではありません。相手がどう判断するかを先回りできるかどうかです。
忍びは戦力というより、判断装置でした。敵情の把握、噂の流布、離反の誘導、誤認の誘発——ここでは「事実」よりも、「人が何を事実だと思うか」が戦略資源になります。

社会心理学や行動科学では、リスクや不確実性の下で、人がどのように他者の行動を手がかりに意思決定を変えるかを実験的に調べた研究が蓄積されています。

Ciranka らによるベイズモデルの研究は、不確実性が高いほど、他者の選択という「社会的情報」を強く重み付ける傾向があることを示しています。

一方で、Moussaïd らの一連の研究は、群衆行動や社会的影響がどのように集団レベルのパターンを生むかを明らかにしてきました（2）。
特に、リスクではなく「先が読めない不確実性」の状況では、人は自分の経験よりも、集団の判断や一つの噂に大きく重みを置きます（3）。

不確実性が高いほど、人は判断の手がかりを外部に求めます。忍びは、その手がかりを配置する側に立っていました。

「前提となる事前分布（prior）」を揺らし、「新しい証拠」として噂や偽情報を注入することで、敵側の「事後分布（posterior）」、つまり確信の方向をねじ曲げる役割を担っていたと言えます（4）。

第２章｜予測社会から設計社会へ

戦いは城門を破る前に、すでに情報環境の中で始まっています。城内に「援軍は来ない」という噂が広まればどうなるか。「主君が和睦を考えている」と聞けばどうなるか。矢を放つ前に、判断は揺らぐ。重要なのは城壁を壊すことではなく、「城の中の判断を揺らすこと」です。

なぜそれほど効くのか。理由は単純です。人は現実そのものではなく、「現実についての理解」に基づいて行動しているからです（5）。

予測は与えられた前提の延長であるのに対し、設計は前提そのものを扱う行為です。AIは未来を推計しますが、何を最適とするかは設計段階で決まっています。

ここには、「意思決定とは、ノイズを含んだ観測を、事前の信念と組み合わせて解釈するベイズ推論である」という近年の理論研究とも通底する発想があります（1）。

本稿の立場から言えば、設計は未来を当てるのではなく、未来の分岐条件を整えるものです。

第３章｜アルゴリズム時代の設計権力

現代では、情報は無秩序に流れているわけではありません。検索結果の並び、おすすめ欄の順番、タイムラインの構成——これらはすでに配置されています。

アルゴリズムは命令しません。しかし、何を先に見せるか、何を強調するか、何を後回しにするかを決めています。

現代の社会科学では、ビッグデータとアルゴリズムが、監視や評価、最適化を通じて人びとの行動を方向づけるあり方を、「アルゴリズム統治性」や「コントロール社会」の一形態として議論しています。

SNSや動画プラットフォームの推薦アルゴリズムは、ユーザーの関心や行動履歴に応じて情報を並べ替え、私たちが接触する情報の分布自体を組み替えています（6）。

ショシャナ・ズボフは、こうした仕組みを「監視資本主義」と呼び、企業が人間の行動データを収集・分析して行動予測・行動修正に利用する新しい経済秩序として論じました（7）。

流動期において「最初の情報」が初期値（初期信念）になることは、戦国期がすでに示していました。ベイズ推論の枠組みでは、「最初に見た情報」が事前分布を形成し、その後に入ってくる情報の受け止め方を決定します（3）。

SNSのタイムラインで最初に見たニュースや意見が、その後の情報の「基準点」になり、判断を大きくねじ曲げうることは、多くの実験研究でも確認されています（4）。

ここでは、検索順位やスコアリング、レコメンドが、明示的な命令ではなく「環境の設計」を通じて行動を誘導する点が重視されます。Foucaultが論じたような、非人格的で分散した権力のメカニズムが、デジタル技術とアルゴリズムによって更新されつつある、という文脈です。

近年の研究は、AIやアルゴリズムを通じて、監視やリスク管理が「ディシプリン」から「計測と最適化」へと移行していることを指摘し、これを「アルゴリズム統治性」と表現しています（6）。

アルゴリズムは、忍びのように城内へ噂を流すのではなく、各人の認知空間に文脈を置いていきます。違いは規模と速度だけです。

ベイズ的に言い換えれば、「アルゴリズムは、各個人が持つ事前分布と、目にする情報（尤度）との組み合わせ方を、見えないところで調整する仕組み」であり、その設計こそが現代の設計権力だと言えるでしょう（1）。

第４章｜設計はなぜ強いのか

不確実性が高いとき、人は「確からしさ」に飛びつきます。流動期では、基準の欠如、不安の増幅、判断の速度が重なります。

そのとき情報は、事実の伝達ではなく、「位置を与える」機能を持ちます。危機なのか、調整なのか、優勢なのか——情報は、世界の中での立ち位置を決めます。

Pierre Bourdieuのハビトゥスは、人びとの身体や習慣にしみ込んだ「当たり前」の枠組みを通じて、何が自然で、何が逸脱かをあらかじめ決めてしまう仕組みでした（8）。

Richard ThalerとCass Sunsteinの選択アーキテクチャは、選択肢の見せ方やデフォルト設定によって、人の行動が大きく変わることを示しました（9）。

年金加入や臓器提供の制度設計において、「自動参加にして辞退者だけが手続きをする」か「希望者だけが申し込む」かという違いだけで参加率が大きく変わることは、行動経済学の代表的な知見です（10）。

設計が強いのは、命令よりも適応を生むからです。人は提示された選択肢の中から選ぶ。提示されなかった選択肢は、存在しないのと同じになる。これを本稿では、設計権力と呼びます。

設計権力とは、「判断が行われる条件を定める力」です。ベイズ確率モデルの言葉で言えば、設計権力とは「人々がどのような事前分布を持ち、どのデータを観測できるか、そのデータをどう重みづけるか」を決める力です（1）。

第５章｜民主的統制の可能性

設計権力は悪なのでしょうか。問題は設計の存在ではありません。誰が設計しているのか、前提は公開されているか、修正可能か、参加可能か——この問いこそが重要です。

設計が不可視化されるとき、違和感は説明されずに残ります。評価は透明でも、「なぜその指標なのか」は必ずしも明示されません。設計者もまた別の評価経済の中にいます。株価、支持率、監査、KPI——設計権力は多層的です。

近年の研究は、AIやアルゴリズムが治安維持や福祉給付、保険などの分野で「透明性の低い自動判断」として用いられ、民主的な統制が追いついていないことを指摘しています（6）。

Foucaultが論じた「規律社会」や「パノプティコン」が、アルゴリズムによるスコアリングやリスク予測のかたちでアップデートされている、と捉えることもできます。

平川秀幸は、リスクの問題を「科学に問うことはできるが、科学によって答えられない問題群」として捉え、不確実性をどう社会的に処理するかという問いを立てました。専門家と市民の対話を通じたリスクガバナンスの再構築こそが重要だと指摘しています（11）。

ベイズ的な視点から言えば、民主的統制とは、「どのようなデータが学習に使われ、どのような事前分布や評価関数（目的関数）が採用されているのか」を公開し、市民がその妥当性を問い直せるようにすることです（1）。これは、AIモデルの公平性・説明可能性をめぐる国際的な議論ともつながってきます。

また、笹原和俊らの計算社会科学研究は、認知バイアスやエコーチェンバー、フィルターバブルが、虚偽情報の拡散をシステムレベルで増幅する計算社会科学的分析を提示しています。情報環境の設計そのものが、誤情報拡散の構造的要因となっていることが明らかになっています（12）。

だからこそ必要なのは、設計の固定化を避けること。前提を公開し、批判を許容し、更新可能にすること。

第６章｜忍びとフェイクを社会機能として読む

忍びを道徳的に裁くことは本質ではありません。彼らは、「不確実性を処理する社会機能」の一形態でした。

情報を配置し、判断の地形を整える。現代ではそれが、プラットフォーム設計、評価指標の設定、AIモデルの目的関数へと制度化されています。戦国期では局所的だった機能が、今では社会基盤になっています。

不確実性は消えたのではなく、判断の揺れから、設計の前提へと移動しました。ベイズモデルでいえば、かつては「どの情報を信じるか」が問題だったのに対し、今は「どのモデルで世界を表現し、どの目的関数を最大化するか」という、より上位のレイヤーが重要になっています。

ズボフが「監視資本主義」として描いた構造、すなわち人間の行動データを蓄積し予測・誘導する仕組みは（7）、「情報をどう解釈し、どのように行動に変換するか」という認知アーキテクチャの設計をめぐる争いの最前線です。

忍びやフェイクニュースの問題は、その極端な例として、現代の設計権力の構造を照らし出しているのかもしれません（4）。

終章｜主体の再生産へ

評価を設計する側が存在する以上、評価から逃れることはできません。

では主体はどう立つのか。

忍びは戦場に立つ前に地形を読みました。現代の主体も同じです。評価の外に出るのではなく、何が測られているか、何が測られていないか、誰の合理性で設計されているかを読む。

評価経済の中で主体を保つ実践は三つあります。

１．指標を疑う
何を最大化しているのか。何が犠牲になっているのか。行動経済学の研究は、人々がデフォルトやスコアに従いやすいことを示す一方で、その設計を問い直すことで、より望ましい制度を作り出せる可能性も示しています（10）。

２．時間軸をずらす
バズと信頼は違います。スコアと納得は違います。短期的なクリックや滞在時間を最適化するアルゴリズムは、長期的な福祉や信頼とは必ずしも一致しません（12）。「どの時間スケールで成果を測るか」という設計が、行動を縛っています。

３．測られない価値を言語化する
摩擦、信用、心理的安全性——選択アーキテクチャやKPIの設計からこぼれ落ちる価値を、言葉にすること。違和感はエラーではありません。それは、「設計からこぼれ落ちた価値の痕跡」です。

主体とは、自由に選べる人ではなく、「前提を問い直せる人」かもしれません。完全な外部に出ることはできない。しかし地形を読んで動くことはできる。忍びが判断の地形を動かしたように。アルゴリズムが入口を整えるように。

私たちもまた、評価の前提を読むことはできます。そして、その再設計のためには、「自分たちがどのようなモデルで世界を見ているのか」を意識化し、ときにモデルそのものを組み替える勇気が必要です（1）。

そこからしか、再設計は始まりません。

引用文献

（1） Vieider, F. M. (2024). Decisions Under Uncertainty as Bayesian Inference on Choice Options」（Management Science, 2024）. また Becker, J. et al. (2015). Bayesian Decision Making in Human Collectives with Binary Choices. PLoS ONE, 10(4).
（2） Ciranka, S. et al. (2020). “A Bayesian Model of Social Influence under Risk and Uncertainty.” Cognitive Science Society 2020.（不確実性の度合いと社会的影響の強さをベイズモデルで分析した研究）。また、Moussaïd, M. ほか.社会的影響や群衆行動に関する実験研究・モデル研究（例：群集行動のダイナミクス、リスク場面での模倣と情報カスケードなど）。
（3） Tarantola, T. et al. Modeling other minds: Bayesian inference explains human choices in group decision-making. Science Advances ほか。
（4） Becker, J. et al. (2015). 同上。および認知バイアス・社会的影響に関する実験研究全般（Cognitive Science Society 関連論文群）。
（5） Vieider, F. M. (2024). 同上（pubsonline.informs 掲載）。
（6） アルゴリズム統治性・監視・スコアリングに関する近年の社会科学系論文・レビュー。代表的なものとして、Rouvroy & Berns (2013) Algorithmic Governmentality、Yeung (2017) Algorithmic regulation、Danaher et al. (2017) Algorithmic governanceを参照。また、アルゴリズムについてではないが、Foucault, M.『監視と処罰』（日本語訳：田村俶訳、新潮社、1977年）および『性の歴史』（権力論・統治性に関する著作群）を参照。
（7） Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.（邦訳：ショシャナ・ズボフ著、野中香方子訳『監視資本主義——人類の未来を賭けた闘い』東洋経済新報社、2021年）
（8） Bourdieu, P.『ディスタンクシオン』（邦訳：石井洋二郎訳、藤原書店、1990年）；同『実践感覚』（邦訳：今村仁司・港道隆訳、みすず書房、1988年）ほか、ハビトゥス概念に関する主要著作。
（9） Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving Decisions About Health, Wealth, and Happiness. Yale University Press.
（10） Brown, A. L., & Krishna, A. (2021). The Behavioral Foundations of Default Effects: Theory and Evidence. NBER Working Paper 28331.年金自動加入の実証代表としてはMadrian & Shea (2001, QJE)を参照。
（11） 平川秀幸（2005）「リスクガバナンスのパラダイム転換——リスク／不確実性の民主的統治に向けて」『思想』第973号、48-67頁。また同（2003）「リスク、不確実性、悲劇性——科学主義的リスク言説が置き去るもの」『現代思想』Vol.31, No.9、156-164頁。
（12） 笹原和俊（2019）「フェイクニュース拡散の仕組み——計算社会科学の見地から」総務省プラットフォームサービスに関する研究会 資料３（2019年6月27日）。また総務省（2020）「プラットフォームサービスに関する研究会 最終報告書」（2020年2月）。

【参考文献】

• 東浩紀（2002）「情報自由論」連載（後に『情報環境論集 東浩紀コレクションS』講談社BOX、2007年として刊行）。ビッグデータ・環境管理型権力・コントロール社会に関する議論を展開。

• 日本学術振興会科研費研究成果報告書（課題番号：19K03194）「フェイクニュースや陰謀論的信念と、合理的思考や社会的特性との関連」。

忍びとフェイク シリーズ

小説連載：TALES

本作のテーマを扱った小説です。
『The Evolution of Control：選択肢の設計者』