【行雲流水】AIが賢くなるには、まず地を整える必要がある
AIが業務に入り始めると、ある壁にぶつかります。ルールは知っている。一般論は言える。でも、なぜあの例外が認められたのかは分からない。その判断の来歴は、Slackの奥に眠り、会議の記憶の中にだけ残っている。
「Context Graph」という言葉が、AI関連の議論で増えてきました。AIの推論をより賢くするための新しい仕組みではないか、という期待もある。けれど富良野とPhronaが話し合うと、そこには少し違う問いが浮かび上がってきました。AIに賢さを足す前に、判断の前提条件を整える必要がある——そして、その前提条件を誰が守り、誰が更新し、誰が「これが正しい文脈だ」と決めるのか、という問いです。
今回の記事は、技術的な仕組みよりも、その手前にある問いを中心に展開します。AIの賢さをめぐる議論が、実は「組織がどのように知識の妥当性を決めるか」という問いに行き着くとしたら、何が変わり、何は変わらないのか。二人の対話をお読みください。
そのSlackチャンネルに、答えはない
富良野： 企業でAIが実際の業務を代行し始めると、意外と早く「限界」が見えてくるそうですよ。ルールを読み込ませても、実際の判断には使えない、という。
Phrona： 私がよく思い浮かべるのは、たとえばある見積もりの承認が通った時のこと。書面には「例外承認」とだけ書いてある。でも、なぜその例外が認められたのか——誰が、どういう論理で、どのくらい粘ったのか——は、Slackの奥に沈んでいる。担当者が退職したら、もうどこにも残っていない。
富良野： 判断の結果は記録されているけど、判断に至るプロセスは消えているんですよね。文書データベースには「何が決まったか」はある。でも「なぜそうなったか」は、ない。
Phrona： その「ない」が、AIには致命的だということですよね。一般ルールはある。前例っぽいものも探せる。でも、あの例外承認の背景にあった「このお客さんは長期的に見れば大事だから今回は通す」という文脈は、どこにも構造化されていない。
富良野： これはAIの知能が足りない、という話ではないと思うんです。構造化されていないものはどんなに賢いモデルを使っても読めない。問題の場所が違う。
Phrona： 知能の問題じゃなくて、前提の問題。でも「前提を整えよう」と言うと、なんだか地味な話に聞こえませんか。
富良野： 聞こえる。でも、そこが一番重要な場所なんですよね。判断の前提条件が構造化されていなければ、どれだけ賢い推論器を載せても、edge caseに入った瞬間に壊れる。
Phrona： 地盤のないところに建物を建てようとしている、みたいな。
富良野： まさに。だから「Context Graph」という言葉が出てきたとき、僕が最初に思ったのは、これは推論器の話じゃないな、ということで。
Phrona： 推論の土台の話、という感じ。でも、その区別が実際にはかなり混濁している気がします。
ポイント解説
企業がAIに期待するのは、まず「賢い判断」だ。ルールを覚え、例外を処理し、担当者と同じ結論を出してほしい——そういう期待で導入が進む。
問題はここにある。判断の結果は記録されているが、判断のプロセスは構造化されていない。誰が、いつ、何を根拠に、どの例外を適用し、誰の承認のもとでその結論に至ったか——この来歴は、多くの場合、特定のSlackチャンネルと担当者の記憶の中にだけ存在する。
この問題は、AIの知能の問題ではない。構造化されていない情報をどんなに賢いモデルに与えても、モデルは文脈のない空白を推測で埋めるしかない。判断の前提条件が機械可読な形で保持されていないこと——これが、現場でAIが壁にぶつかる根本的な理由だ。Foundation Capitalが「decision tracesの欠如」と呼ぶのは、まさにこの問題を指している。判断履歴を、主体と時間をまたいで接続した検索可能な記録として保持すること。それを可能にする基盤こそが、Context Graphの役割である。
地がなければ、図は宙に浮く
Phrona： 「地と図」という言葉を使いたいんですが、聞いてもらえますか。知覚心理学の、あの。
富良野： ルビンの壺みたいな。
Phrona： そう。目の前に見えているのは「今回の案件」——特定の顧客の値引き要請とか、起きている障害とか。それが「図」。でも、その判断を支えているのは見えていない「地」のほうで。過去の似たケース、承認権限、相手との関係履歴、当時有効だったルール——そういうものが「地」として判断を支えている。
富良野： AIは図に対して反応するのは得意だけど、必要な地を引き出せない。
Phrona： ええ。しかも地は無限にある。過去の全事例を「地」として投げ込んでも、判断には使えない。今回の図に対して、どの地が関与するのかを選別する仕組みが要る。
富良野： だから Context Graph には、単なるデータの塊じゃなくて、時間軸と、誰が入力したかという来歴と、誰がアクセスしてよいかという権限と、いつの判断かというバージョンが必要になる。
Phrona： それって、Context Graph が Knowledge Graph と何が違うのか、という話とも繋がりますよね。
富良野： 繋がります。Knowledge Graph は、対象とその関係を安定的に記述する。どんなものがどのように結びついているか。でも「なぜあの時そう判断したか」は、それだけでは表せない。Context Graph は、その上に時間、来歴、判断理由、例外、承認経路を重ねた層で。
Phrona： 継承と拡張の関係、ということか。Knowledge Graph を捨てて移るわけじゃない。
富良野： 捨てない。基礎にあるのは Knowledge Graph 的な整備で、その上に判断の来歴を載せるのが Context Graph。Forrester の整理でも、新発明というより既存の entity graph と decision trace の収束だという話で。
Phrona： 「地と図」の比喩の限界も言っておかなきゃいけないですよね。比喩はわかりやすいけど、どの地が「今回の判断に関与する」のかを選ぶための機械的な基準にはなれない。
富良野： そこが面白いところで。だから時間、来歴、権限みたいな記述軸を持つ必要がある。比喩は直感を与えてくれるけど、実装はその先の話。
ポイント解説
「地と図」の比喩は、Context Graphの機能を直感的に捉えるのに有効だが、その射程をきちんと見定めておく必要がある。
文脈を「判断成立条件」として捉えるとはどういうことか。目の前の案件（図）に対して必要な背景（地）が引き出せる、というだけでは不十分だ。問題は、背景は原理的に無限にあり得るという点にある。関与する地を選別するためには、記述の軸が必要になる。その軸として機能するのが、entity（判断に関与した主体・対象）、time（いつの時点の判断か、どのバージョンのルールが有効だったか）、provenance（情報と判断理由の出所）、decision trace（判断に至るプロセス・却下された選択肢・適用された例外）、permissions（誰が何にアクセスしてよいか）の五つだ。
Context GraphとKnowledge Graphの関係は、対立ではなく継承と拡張である。Knowledge Graphは世界の構造を静的に記述し、Context Graphは判断の履歴を時間的に記述する。Forresterの言い方を借りれば、entity graphと decision traceはどちらが欠けても不完全になる。Knowledge Graph的な整備の上に判断の来歴の層を重ねることで、はじめてAIが「今回の判断に関与する地」を引き出せる基盤が生まれる。
「本当の理由」はどこにあるのか
富良野： reasoning layer、つまりAIが実際に推論を行う部分の話をしたいんですが。ここで少し立ち止まりたいことがあって。
Phrona： どんな立ち止まり方ですか。
富良野： よく言われる期待って、「文脈を与えれば、AIが本当の理由を見抜く」というものだと思うんです。なぜ解約したのか、なぜその案件が遅延したのか——真因を高精度に発見してほしい、という期待。
Phrona： でも、人間の自己申告って、かなり怪しいんですよね。
富良野： そう。心理学の知見として、人間は行動の理由を後から合理化する。意思決定の後に、「こういう理由だった」という説明を作る。その説明が必ずしも実際のプロセスと一致していない。
Phrona： 退職の理由を例に挙げると。「キャリアを見直したくて」という説明があったとして、それが本音かどうかは、本人にも正確にはわからないかもしれない。上司との相性、給与、あるいはもっと無意識の何か——それが絡み合って、事後に「キャリアの問題」という物語に収斂した可能性がある。
富良野： だとすると、どんなに精緻な基盤を持っていても、AIが「この人が退職した本当の理由は○○だ」と断定するのは、かなり危うい。
Phrona： 危うさが二重になっている気がして。一つは情報がそもそも不完全。もう一つは、本人の自己申告自体が後付けで、正確とは限らない。
富良野： 二重の霧の中で、真因を確定しようとしている。
Phrona： 霧の中でランタンを持っている、みたいな。少し見えるけど、全部は見えない。そのランタンの役割を正確に理解しておかないと、使い方が変わってくる。
富良野： だから推論器の評価軸を変える必要があると思って。真因をどれだけ正確に当てるか、というものさしを使わずに——仮説を複数出す、介入の候補を提示する、振り返りを支援する。その質で評価すべきじゃないかと。
Phrona： 「本当の理由を当てる」ではなく、「もっともらしい説明をいくつか並べる」というフレームで考えると、使い方は随分違ってくる。
富良野： 「真因発見器」から「仮説生成器」へ。野心を縮小することで、かえって有用性が見える、という逆転があると思うんですよ。
ポイント解説
推論するAIに何を期待するか——この問いへの答えが、AI活用の成否を左右するといっても差し支えない。
心の哲学が長らく示してきたように、人間の行動に対する自己申告的な説明は、事後の合理化を免れない。Daniel Wegnerが「意識的意志の錯覚」と呼んだ問題圏がここに接続する。行動の「本当の理由」は、多くの場合、単一の原因に収斂せず、観測不能な動機、制度的な圧力、習慣、偶発的な環境要因が複雑に絡み合っている。行動ログと発言ログを重ねても、それは解消されない。
つまり、こういうことだ。AIが改善できるのは「自己申告だけに依存しないこと」であって、「真因を確定すること」ではない。行動ログ、参照履歴、時系列の整合性を見渡して、複数の説明仮説を並べる。候補を広げ、絞り込みは人間に委ねる。「真因の発見」ではなく「説明候補の順位付け」——この位置づけに切り替えることで、推論器の評価軸も変わる。問うべきは「どれだけ正確に真因を当てたか」ではなく、「仮説の妥当性」「介入候補としての有用性」「振り返りを助ける質」だ。野心を縮小することが、皮肉にも有用性を生む。
文脈を「正しい」と決めるのは誰か
Phrona： 仮説を複数出すAI、というのはわかりました。でも、その仮説のどれを採用するかは人間が決める。ここに、次の問いがある気がして。
富良野： 採用の権限、ということですね。
Phrona： 採用だけじゃなくて。どの情報源が「正しい文脈」として扱われるか、を誰が決めるか、という問題も。Context Graph に入っている情報が古くなっても、「これが正しい」として使われ続けるかもしれない。
富良野： Forrester が繰り返し言っているのも、fidelity と governance の問題なんですよね。データが古くなり、判断理由が陳腐化し、権限管理が崩れると、Context Graph は単なる書き込みログになってしまう。
Phrona： 技術の問題というより、誰がそれを維持するのか、という制度の問題。
富良野： まさに。Sheila Jasanoff という科学技術社会学者の仕事と繋がる話で、彼女は「知識の権威性は社会的プロセスで生産される」と言い続けてきた。何が「信頼できる情報」として流通するかは、技術的な正確さだけで決まるのではなく、誰がそれを承認したか、どの機関が認証したか、という制度的プロセスを経て決まる。
Phrona： Context Graph も、そのプロセスから外れているわけじゃない。誰がどの記録を「有効な文脈」として登録し、誰が失効を宣言し、誰がアクセスを管理する——これは技術仕様の問題じゃなくて、組織のガバナンスの問題。
富良野： AIは候補を広げる。でも、どの候補を組織として採用するかを決めるのは人間で。Elinor Ostrom が共有資源の管理について言ったように、境界を誰が設定するか、誰が監視するか、を設計しないと、どんなに良い基盤でも崩れていく。
Phrona： その設計が、AIとの分業の本丸なのかもしれない。
富良野： そうだと思います。AIが膨大なログからリンク候補を出し、先例を掘り出し、異分野の参照を提示する。でも何を権威ある情報源とみなすか、どの記録が失効したか、どの仮説を実際に採用するか——この価値判断と境界設定は、人間が担う。
Phrona： 分業って、一度設計したら終わりじゃないですよね。Context Graph が古くなるように、分業の設計も更新されていく。
富良野： 継続的な更新が要る。これはシステムの問題ではなくて、組織の習慣の問題。
Phrona： そこまで来ると、「AIの問題」というより「組織がどう知を管理するか」という古くて新しい問いになっている。
富良野： そう。技術が変わっても、その問いは変わらない。何を「信じる文脈」として選ぶか——これは、組織が常に問われてきた問いで、AIはその問いをより鮮明に浮かび上がらせているだけかもしれない。
Phrona： ……「AIの賢さ」というより、「組織の賢さ」の問い、かな。
ポイント解説
Context Graphの維持可能性は、技術的な正確さだけでは保証されない。時間が経てばデータは古くなり、権限管理は形骸化し、かつては正しかった判断理由が陳腐化する。Sheila Jasanoffが科学技術ガバナンスの文脈で繰り返し問うてきたのは、「知識の権威性は社会的プロセスで生産される」という点だ。何が信頼できる情報として扱われるかは、技術的な正確さよりも、制度的な承認プロセスを経て決まる（これを彼女は「co-production（共同生産）」と呼んだ）。Context Graphも、この原理から自由ではない。
AIと人間の分業を「AIが候補を出し、人間が境界を引く」と整理したとき、その「境界設定」の設計こそが問題の核心となる。Elinor Ostromが共有資源管理の研究で明らかにしたのは、境界の設定・監視・更新の手続きの三つが、どんな共有の仕組みも持続させるための条件だということだ。Context Graphのガバナンスも、同型の問いを持つ。何を権威ある情報源とみなすか、どの記録が失効したかを誰が判断し継続的に更新するか——この仕事を担う人間の役割なしに、AIの推論能力をいくら高めても、判断の前提条件は壊れていく。
この記事は、Projeteam, Inc. ウェブサイトで先行公開された
文脈の権威化——AIと組織の制度的分業をめぐって
を素材として対話形式で再構成したものです。元記事では、Context Graphの5つの記述軸の整理、推論器の評価軸の転換、そして「文脈の権威化」という問いへの理論的な応答まで、じっくりした議論を展開しています。あわせてご覧いただけると、議論がより立体的に見えてくるかもしれません。
徐勝徹のマガジン