『アルゴリズム・AIを疑う』 その「おすすめ」、誰のため？ ブラックボックスの設計図を暴く、実践的メディア論： AI書評

あなたの「選択」は、本当にあなた自身のものか？

Amazonで「おすすめ」された商品を購入し、Google検索結果の1番目を（それが広告だと薄々知りながらも）クリックし、食べログの「スコア」を信じて今夜の店を決める。私たちの日常は、アルゴリズムによって最適化され、効率化されています。X（旧Twitter）のタイムラインは途切れることのない情報を提供し、YouTubeは次に見るべき動画を寸分違わず予測してくれます。

私たちは、これらのシステムが提示する「おすすめ」や「スコア」を、どこか中立的で、客観的なデータに基づいた「正解」であるかのように受け入れてはいないでしょうか。

もし、その検索結果、そのスコア、そのタイムラインが、すべてプラットフォーム運営者の「経済的利益を極大化する」1ために意図的に設計されたものだとしたら？ もし、私たちが日々行っている「選択」が、実は巧妙に「誘導されている」2ものだとしたら？

2025年5月に刊行された宇田川敦史氏の著書『アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか』3は、この現代社会の根幹をなしながらも、その内部構造が意図的に隠蔽されてきた「ブラックボックス」2を、冷静かつ実践的に解き明かす一冊です。本書は、メディア研究の専門家として、またテクノロジーの「現場」を知る者として、私たちが今まさに直面しているデジタル社会の現実を鋭くえぐり出します。

なぜ宇田川敦史氏の言葉は重いのか？ —— 実践者から分析者への視座

本書の分析がなぜこれほどまでに説得力を持つのか。それは、著者の宇田川敦史氏が持つ類稀な「ハイブリッド」な経歴に起因します。

多くの技術批評本は、往々にして「外側」からの告発か、あるいは「内側」からの技術解説に終始しがちです。しかし、宇田川氏はその両方の視座を併せ持っています。

氏は1977年生まれ。京都大学総合人間学部を卒業後、日本IBMや楽天といった巨大テクノロジー企業の「現場の最前線」で、Web開発、デジタル・マーケティング、さらにはUX（ユーザーエクスペリエンス）デザインといった実務に従事してきました5。

これは何を意味するか。氏は、「ブラックボックスをつくる」側（Web開発）の論理を知っています。そして、「ブラックボックスを利用して利益を生み出す」側（デジタル・マーケティング）の論理、すなわち「どうすればユーザーのアテンション（注目）を惹きつけ、それを経済的利益に直結させられるか」7という企業の強烈なインセンティブを、実務として知悉しているのです。

そしてその後、氏はアカデミズムの世界に転じ、東京大学大学院学際情報学府の博士後期課程を修了（博士（学際情報学））6。現在は武蔵大学社会学部に籍を置き6、メディア論、メディア技術史、そしてメディア・リテラシーを専門とする研究者としての視点9から、かつて自らがいた「現場」を冷静に分析しています。

したがって、本書の副題である「誰がブラックボックスをつくるのか」という問いに対する著者の答えは、単なる憶測や告発ではありません。それは、かつての「自分自身」を含む実践者たちの行動原理と、プラットフォームという構造の分析に基づいた、極めて解像度の高い「内部からの証言」かつ「外部からの構造分析」なのです。

本書が解体する「アルゴリズム」の正体

本書は、緻密な論理構成（全5章）10でブラックボックスを解体していきます。

序盤（第1章・第2章）：アルゴリズムとは「魔法」ではなく「手順」である

本書はまず、私たちが抱きがちな「アルゴリズム」や「AI」といった言葉への曖昧なイメージ11を徹底的に払拭することから始めます。

著者が強調するのは、アルゴリズムとは難解で理解不能な「魔法」や「知能」ではなく、特定の目的を達成するための「手順」や「ルール」の集合体に過ぎない、という事実です10。

本書は、Amazonのレコメンデーション（「この商品を買った人はこんな商品も買っています」）、食べログのスコアリング、Googleの検索順位1といった身近な具体例を用いながら2、それらがどのような「手順」で私たちの画面に情報を表示させているのかを平易に解説します。

例えば、Amazonのレコメンデーションは、あなたの過去の購買履歴や閲覧履歴という「入力」に基づき、「あなたと似た行動パターンの他者」が最終的に購入した商品を「出力」するという「手順」を実行しているに過ぎません。

この序盤の「脱神秘化」のプロセスは極めて重要です。なぜなら、アルゴリズムを「理解不能なAIの暴走」として恐れるのではなく、「人間が特定の目的のために設定したルールの実行結果」として冷静に分析するための土台を、ここで築き上げるからです。

中盤（第3章）：アルゴリズムが生み出す「病理」——アテンション・エコノミーというエンジン

では、なぜその単なる「手順」に過ぎないはずのアルゴリズムが、社会問題を引き起こすのでしょうか。本書の核心的な問題提起は、第3章「アルゴリズムと社会問題」10で展開されます。

著者がその根源にあると指摘するのが、「アテンション・エコノミー」という現代のデジタル・プラットフォームを支配するビジネスモデルです。

アテンション・エコノミー下において、唯一無二の希少な資源は、ユーザー（私たち）の「注目（アテンション）」です11。現代のデジタル・プラットフォームの多く（SNS、検索エンジン、動画サイト）は、サービスを「無料」で提供する代わりに、ユーザーのアテンションを可能な限り長く自らのプラットフォーム上に引きつけ、その「注目」を広告主や（ECサイトの場合は）出店者に売ることで収益を上げています。

つまり、ユーザーのアテンションを獲得し続けることが、プラットフォーマーの「経済的利益に直結する」7絶対的な至上命題となります。

このビジネスモデルを理解すれば、アルゴリズムが引き起こす「病理」の因果関係が明確になります。

1. 目的: プラットフォームの目的は「利益の極大化」1です。

2. 手段: 利益は「ユーザーのアテンション」の総量に比例します7。

3. 実行: 「アルゴリズム」は、このアテンションを最も効率よく、最も長く獲得するために最適化されたツールとして設計・運用されます。

その結果、どのような「病理」7が生まれるか。アルゴリズムは、客観的な「真実」や社会的な「公正さ」よりも、人間の感情を強く揺さぶり、アテンションを惹きつけるコンテンツを優先的に表示させるようになります。

具体的には、センセーショナルな見出し、過激な意見、ユーザーの不安や怒りを煽るコンテンツ、あるいはフェイクニュースです。なぜなら、残念ながら人間の脳は、穏当で退屈な「事実」よりも、感情的で扇情的な「刺激」に、より強く「アテンションを惹きつけられてしまう」からです。

つまり本書が暴くのは、社会の分断やフェイクニュースの蔓延といった現代の「病理」は、システムのバグやAIの暴走などではなく、アテンション・エコノミーというビジネスモデルが合理的に生み出した「意図された結果」である、という冷徹な現実です。

終盤（第4章・第5章）：「ブラックボックス」を疑うための新しい「メディア・リテラシー」

問題を構造的に指摘した後、本書は第4章「アルゴリズムとブラックボックス」および第5章「アルゴリズムのメディア・リテラシー」10において、具体的な処方箋を提示します。

著者は、私たちがこのシステムに対抗するために、アルゴリズムが「ブラックボックス化している」2という事実を前提として受け入れ、その上で「内部構造への想像力を高める」2必要があると説きます。

私たちが「しくみを知らないままで利用している」12という無防備な状態こそが、プラットフォーマーにとって最も利益を生む状態だからです。

本書が最終的に目指すのは、単に「偏った情報摂取に気づく」12という受動的なレベルに留まりません。それは、私たちがアテンション・エコノミーの「資源」として搾取され続ける状態から脱却し、「主体的にメディアを利用する」12ための、根本的な「メディア・リテラシーのアップデート」10です。

ハイライト・セクション —— 本書を貫く「覚醒」の言葉

では、著者が提唱する「新しいリテラシー」とは具体的に何なのか。本書の読書体験において、多くの読者が（比喩的にも、電子的にも）ハイライトを引いたであろう、核心を突く2つの一節を分析します。

ハイライト1：「アルゴリズムは属人性を排除できるツールだが、どのようなアルゴリズムを採用するかは属人的な問題。」

この一文は、読書メーターのレビューでも引用されており7、本書の副題「誰がブラックボックスをつくるのか」に対する、最も直接的かつ痛烈な答えとなっています。

私たちは「アルゴリズム」と聞くと、人間の恣意性、感情、偏見といった「属人性」を排除した、客観的で「中立な」ツールだと考えがちです。

しかし、本書が暴くのは、その手前にある「設計思想」の段階です。

そもそも、「どのアルゴリズムを採用するか？」、「アルゴリズムに何を『目的』として設定するか？」という選択は、機械ではなく人間が行っています。例えば、ニュースアプリのアルゴリズムを設計する際、「（A）ユーザーの滞在時間を最大化する」ことを目的にするのか、「（B）多様な視点を提供し、公平性を担保する」ことを目的にするのか。この選択は、技術的な問題ではなく、運営者の価値観やビジネスモデル、すなわち「属人的な問題」7です。

そして、アテンション・エコノミーに支配された現代のプラットフォーム運営者（人間）が下す「属人的な」選択は、悲しいかな（B）の「公益」や「客観性」ではなく、ほぼ例外なく（A）の「自社の経済的利益の極大化」1です。

したがって、この一文が明らかにするのは、アルゴリズムとは「中立的な神の手」などでは断じてなく、「運営者の経済的欲望という“属人的な目的を、あたかも属人性を排除したかのような顔をして、効率よく実行するツール」に過ぎない、というパラドックスの核心です。この一文は、私たちが抱くアルゴリズムへの中立神話を根底から覆す、本書の最重要テーゼと言えます。

ハイライト2：「表示された『コンテンツ』にアテンションを振り向けるようなリテラシーではなく、それをみせる『コンテナー』であるメディアそのものの構造にアテンションを...」

この一文は、noteの感想記事で引用されており13、本書が提唱する「メディア・リテラシーのアップデート」10の具体的な中身を指し示しています。

これは、私たちが「何に注目すべきか」という視点を、根本的に転換せよという要求です。

従来のメディア・リテラシーとは、「コンテンツ（中身）」に対するリテラシーでした。目の前に表示された情報を見て、「この記事は本当か？」「この発言は偏っていないか？」と、その内容の真偽を問うものでした（いわゆるファクトチェック）。

しかし、著者は、それだけではアテンション・エコノミーの掌の上で踊らされ続けるだけだと指摘します。なぜなら、私たちがコンテンツの真偽を必死で見抜こうと躍起になっている時間そのものが、プラットフォームの「滞在時間」を稼ぎ、彼らの「アテンション」収益に貢献してしまっているからです。

本書が提唱する新しいリテラシーとは、「コンテナー（器）」、すなわちプラットフォームそのものの構造に対するリテラシーです。目の前の情報（コンテンツ）ではなく、その情報を自分の目の前に運んできた「器」（アルゴリズムやプラットフォーム）を見て、こう問うのです。

「なぜ、このコンテンツが、今、私に表示されたのか？」

「このプラットフォームは、私に何をさせたいのか？（＝私のアテンションをどう利用しようとしているのか？）」

この視点の転換は、日常の風景を一変させます。

例えば、X（旧Twitter）で誰かの怒りを煽る投稿がタイムラインに流れてきた時。

● 従来の反応（コンテンツへの反応）: 「けしからん！」「これは事実誤認だ！」と反応（リプライや引用）してしまう。→（結果：プラットフォームの思惑通り「エンゲージメント」が発生し、そのコンテンツの表示がさらに拡大。あなたはまんまとアテンションを差し出したことになる）

● 新しいリテラシー（コンテナーへの反応）: 「...また私をエンゲージメントさせようとしているな。私の『注目』が欲しいのだな」と一歩引いて分析する。→（結果：感情的な反応を保留し、アルゴリズムの意図から距離を置く）

この「アテンションをコンテナーに向ける」13ことこそが、アテンション・エコノミーの搾取構造から距離を置き、「主体的にメディアを利用する」12ための、私たちが取り得る最も現実的かつ強力な第一歩であると、本書は結論づけています。

結論 —— 我々は「疑う」ための武器を手に入れた

『アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか』は、いたずらに技術の脅威を煽る「AI怖い」本ではありません。また、文系読者を置き去りにする難解な技術解説書11でもありません。

本書は、著者の宇田川敦史氏が「実践」（IBM、楽天）5と「理論」（メディア論）9の両面から、私たちが日常的に使うツールの「裏側」を冷静に解剖し、その「内部構造への想像力」2という、現代社会を生き抜くための実践的な「武器」を与えてくれる一冊です。

本書はまた、あるレビューが示唆するように7、この問題は「デジタルプラットフォーマーによる単独犯行ではない」という厳しい現実も突きつけます。私たちユーザーもまた、「無料」や「便利さ」と引き換えに、自らの「アテンション」という貴重な資源を（しばしば無自覚に）差し出すことで、この搾取的な構造の維持に加担している「共犯者」である、という事実です。

ブラックボックスの中身を知ることは、「偏った情報摂取に気づき」12、無意識の「共犯者」である状態から脱却し、自らの「選択」を主体的に取り戻すための第一歩に他なりません。

生成AI10の登場により、技術の進歩とブラックボックス化はますます加速しています。その「しくみを知らないまま利用している」12という無防備な状態から脱却するために、本書は、デジタル社会を「主体的に」生き抜こうとするすべての人にとっての必読書となるでしょう。

引用文献

1. 宇田川敦史 「アルゴリズム・AIを疑う」 集英社新書 - AI･量子国際振興財団, 11月 14, 2025にアクセス、 https://aiq.or.jp/diary/%E5%AE%87%E7%94%B0%E5%B7%9D%E6%95%A6%E5%8F%B2%E3%80%80%E3%80%8C%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0%E3%83%BBai%E3%82%92%E7%96%91%E3%81%86%E3%80%8D%E3%80%80%E9%9B%86%E8%8B%B1%E7%A4%BE/

2. 資料の検索・予約 - 江戸川区立図書館, 11月 14, 2025にアクセス、 http://library.city.edogawa.tokyo.jp/TOSHOW/asp/WwShousaiKen.aspx?FCode=2921628

3. アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか (... | 検索 | 古本買取のバリューブックス, 11月 14, 2025にアクセス、 https://www.valuebooks.jp/%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0%E3%83%BBAI%E3%82%92%E7%96%91%E3%81%86-%E8%AA%B0%E3%81%8C%E3%83%96%E3%83%A9%E3%83%83%E3%82%AF%E3%83%9C%E3%83%83%E3%82%AF%E3%82%B9%E3%82%92%E3%81%A4%E3%81%8F%E3%82%8B%E3%81%AE%E3%81%8B--.../bp/VS0092797314

4. アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか／宇田川 敦史 | 集英社 ― SHUEISHA ―, 11月 14, 2025にアクセス、 https://www.shueisha.co.jp/books/items/contents.html?isbn=978-4-08-721363-8

5. 宇田川敦史｜プロフィール - HMV&BOOKS online, 11月 14, 2025にアクセス、https://www.hmv.co.jp/artist_%E5%AE%87%E7%94%B0%E5%B7%9D%E6%95%A6%E5%8F%B2_000000000972900/biography/

6. アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか 集英社新書 - HMV&BOOKS online, 11月14, 2025にアクセス、 https://www.hmv.co.jp/artist_%E5%AE%87%E7%94%B0%E5%B7%9D%E6%95%A6%E5%8F%B2_000000000972900/item_%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0%E3%83%BBAI%E3%82%92%E7%96%91%E3%81%86-%E8%AA%B0%E3%81%8C%E3%83%96%E3%83%A9%E3%83%83%E3%82%AF%E3%83%9C%E3%83%83%E3%82%AF%E3%82%B9%E3%82%92%E3%81%A4%E3%81%8F%E3%82%8B%E3%81%AE%E3%81%8B-%E9%9B%86%E8%8B%B1%E7%A4%BE%E6%96%B0%E6%9B%B8_15828631

7. アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか chang-3さんの感想 - 読書メーター, 11月14, 2025にアクセス、 https://bookmeter.com/reviews/131150820

8. 宇田川 敦史（ウダガワ アツシ） ｜ 研究者情報 - Musashi 3S - 武蔵大学, 11月 14, 2025にアクセス、 https://3s.musashi.ac.jp/kgResult/japanese/researchersHtml/RT3D22002/RT3D22002_Researcher.html

9. 宇田川 敦史 (Atsushi Udagawa) - マイポータル - researchmap, 11月 14, 2025にアクセス、 https://researchmap.jp/atsushi.udagawa

10. 集英社新書 1263 アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか - 法務図書WEB, 11月 14, 2025にアクセス、 https://homutosho.com/products/detail/839331

11. 宇田川敦史「アルゴリズム・AIを疑う」 ｜しろやまうみ - note, 11月 14, 2025にアクセス、https://note.com/ootomomunemitu/n/n8e10c2738542

12. 集英社新書 アルゴリズム・ＡＩを疑う―誰がブラックボックスをつくるのか - 紀伊國屋書店, 11月 14, 2025にアクセス、 https://www.kinokuniya.co.jp/f/dsg-01-9784087213638

13. アルゴリズム・AIを疑う 誰がブラックボックスを ... - 読書メーター, 11月 14, 2025にアクセス、 https://bookmeter.com/reviews/130922873