承認ボタンの先の空欄——HITL連載が残した「疑える」の中身
（連載「美学と再魔術化」第2回）
四月に考えていたこと
今年の4月、僕はHITL——human in the loop——について、立て続けに書いた。
きっかけは、ひとつのPodcastだった。『WIRED』日本版のポッドキャストで、Sakana AIの伊藤錬さんが、去年までは「ヒューマンインザループって言っときゃよかった」のに、いまは軽々しく使えなくなった、と話していた。人間が介在することで性能が落ちる場面がある。そして「ヒューマンインザループに耐えられるヒューマンが何人いるか」が問題になる、と。
この違和感を出発点に、4冊を読んだ。『測りすぎ』で、測定の代理指標がいつのまにか目的そのものになること（グッドハートの法則）を確かめた。福島真人『学習の生態学』で、失敗を含む試行錯誤を許す空間——学習の実験的領域——がなければ、判断する人間は育たないことを確かめた。ニコラス・カー『オートメーション・バカ』で、承認ボタンが残っているだけの人間は本当にシステムを止められるのか、と問うた。スチュアート・ラッセル『AI新生』で、人間が判断主体であり続けるためには、AIの側に不確実性が組み込まれていなければならないことを知った。
連載の結論は、こう要約できる。HITLには二種類ある。名目的HITLと、制度としてのHITLだ。
名目的HITLは、「人間が最後にいる」というだけの仕組みだ。形式上は人間が承認している。しかしその人間は、AIの前提を見られない。疑えない。止められない。照合できない。失敗から学べない。育たない。そういう人間は統制主体ではなく、責任の置き場所である。
制度としてのHITLは、その逆を条件のリストにしたものだ。人間が、見られること。疑えること。止められること。照合できること。違和感を学習資源にできること。そして、判断する人間そのものが育つこと。
4月の僕は、ここで筆を置いた。制度設計の問題として、一応の結論が出たと思ったからだ。
空欄がひとつ、残っていた
三か月経って、読み返して、気がついた。あのリストには空欄がひとつある。
「疑える」の中身だ。
リストの他の項目は、たしかに制度で作れる。見られるようにするには情報への権限を与えればいい。止められるようにするには停止の権限と時間を与えればいい。照合、学習、育成——どれも組織の設計の話だ。
でも「疑える」だけは、二重になっている。疑う権限と、疑う能力だ。
権限は制度で作れる。「あなたは疑ってよい」と定めることはできる。しかし、目の前のAIの出力に対して、どこかおかしい、と感じ取る能力——その違和感そのものは、制度が製造できない。制度にできるのは、違和感が出てきたときに、それを握りつぶさずに受け止める席を用意することまでだ。
『学習の生態学』を読んだとき、僕はこう書いた。「人間の側から出てくる違和感も、システムや組織を動かす入力でなければならない」。いま読み返すと、この文は入力の行き先しか設計していない。入力の出どころを問うていない。
違和感は、どこから来るのか。
承認ボタンの前に座る人間の、いちばん大事な資源の発生源を、僕は空欄のままにしていた。
違和感には、たぶん二種類ある
空欄を埋めにかかる前に、ひとつだけ、道具を予告しておく。
生成AIの出力に感じる「どこかおかしい」には、性質の違うものが混ざっている。出力そのものの不気味さ、深みのなさ、既視感、のっぺりした均質さ。これがひとつ。学習データの出どころへの疑い、誰かの労働や権利を踏んでいないかという後ろめたさ。これがもうひとつ。
前者は美的な違和感で、後者は倫理的な違和感だ。そしてこの二つは、論理的には独立している——という切り分けを、環境美学の議論から借りてくることができる。美学者の西村清和が、「プラスチックの木」をめぐる70年代の論争を腑分けするときに使った道具だ（この本の話は、読書編でゆっくりやる）。
混ぜたままにすると、どうなるか。「AIだから駄目」という粗い一言に、ぜんぶが溶けてしまう。承認ボタンの前の違和感を資源として扱いたいなら、まずこの腑分けが要る。倫理的違和感は監査と制度の言葉で処理できる。しかし美的違和感のほうは——それを感じ取る力のほうは——別の言葉が要る。
仮説：承認者ではなく、鑑賞者
そこで、この連載の仮説を出す。
HITLの人間は、承認者ではなく、鑑賞者である。
承認とは、出力を規格と照合する行為だ。チェックリストがあり、基準があり、合致すれば通す。これは制度の言葉で書ける。だから自動化圧力に弱い。規格との照合なら、いずれAIのほうがうまくやる。
鑑賞とは、対象に注意を向け、その質を感受する行為だ。基準の手前で、何かが引っかかる。うまく言えないが、この出力はおかしい——その引っかかりは、規格表からは出てこない。むしろ規格に合っているのに引っかかる、というときにこそ、人間がループの中にいる意味がある。
4月の連載で、僕は「HITLでは、人間は『疑うことを許された存在』でなければならない」と書いた。いまなら、こう言い直せる。疑うことを許された存在とは、鑑賞することを求められた存在だ。
ただし、これはまだ仮説だ。鑑賞とは何か、違和感は美学の言葉でどこまで説明できるのか——それを確かめるために、これから環境美学・日常美学・人工美学の本を読む。答えの先取りはしない。ここでは空欄の位置に印をつけるところまで。
次回は、この連載のテーゼを出す。生成AIは、再魔術化のインフラである——第1回で「円環のどこに座るのか」と書いた、その席の話だ。
再魔術化への持ち帰り（今回は逆向きに、一段だけ）
違和感とは、装置が隠しているものが疼く場所のことかもしれない。第1回で書いたA＝装置の再魔術化は、装置が世界の見え方を作り変えながら自分を隠す働きだった。だとすれば、承認ボタンの前で感じる「どこかおかしい」は、隠された働きがかすかに顔を出す裂け目だということになる。違和感は、再魔術化の感受器官なのかもしれない。
2026/07/23