「AIに何を読ませるか？」は入口にすぎなかった ─プロダクトを作ってわかった3つの設計問題／我社に出来ないことは無いと思ってるあなたへ

先月、こんなことを書きました。

「量が質ではない。質は純度である」

AIには、本の全文を読ませるよりも、構造化データ（＝AI向けの教科書）を渡したほうがいい。実験では検索精度が11.1倍だった。

ここまで読んで、こう思った方、いませんか？

その心の奥底には、こんな言葉が聞こえてきます
「おまえ（ごときに）出来るなら我社に出来ないはずがない」

半世紀を超えて生きてると見えちゃいます。
気持ちは分かります。
でも違うんですよ。
教科書を渡すのは、入口にすぎないんです。
もっと人に使ってもらおうとした瞬間、その先に3つの問題が出現します。

前回のnoteを読んでない方も「最初の章だけ読めば流れが分かるよう」書きます。今日もよろしくおねがいします。

0. 前回の話を、ひとことで

ご存じない方のために、ざっと。
いま、出版界隈では「大量のコンテンツをAIに食わせる」プロジェクトが話題になっています。45年分の雑誌を全部スキャンする。著者の本もブログもSNSも、全部読み込ませる。そういう動きです。

たくさん読めば賢くなる。
たくさんインプットすれば「その人っぽく」なる──と思いがちですよね。

違います

実験してみたら、AIは人間みたいに「読んで」ませんでした。
AIは、ただ「参照して」いるだけだったのです。

だから、本文を全文そのままドカッとAIに食べさせるよりも、読みやすいかたちに整えた「構造化データ」を渡したほうが、検索精度は11.1倍上がりました。これが 言語処理学会総会で発表した論文に書いた実験の話しです。

これを僕は「参照可能性（referenceability）」と名づけました。まだ世の中に無かったから。
ここまでが、前回。
詳しく知りたい方は前回noteへどうぞ🌞

1. ココまでだと「資料整理」で終わる

ここから先が、今日の本題です。
実は、構造化データを作るというのは、仕上げるときの入口にすぎません。

いま私は「人間の判断」を支えるAIプロダクトをいくつか作っています。実証実験中。経営者向け、現場マネジャー向け、秘書役、自分の文体・判断を再現する個人向け──ざっくり言うと「AIに考えを教えて育てるサービス」のシリーズです。その他にお遊びなのも作ってます。楽しいですね🌞

これらを実際に動かそうとすると、構造化データだけでは足りません。イベント的な一過性のものなら誤魔化しも効くんですけどね。それレベルなんですよ。

何が足りないか？
書いたら沢山あるのですが、代表的なのが3つ書きます。
もし、面倒だなと思った方は、解説動画にしてありますのでどうぞ

🎬️サクッと解説動画はこちら

1️⃣ 「人格は、どうやって保つのか？」問題

AIに「池松潤っぽくして」と頼むと、それなりに似た文章が出ます。
語調だけなら、わりと簡単に真似できます。
文末に「じゃーねー！（ちきりん調）」とか。
でも、これって本当にAIが考え方を理解してるわけじゃない。
だって「喋り方」の問題じゃなくて「判断の型」の問題だから。

人が文章を書くとき、返信するとき、本当に個性が出るのは「何を書くか」ではなくて「何を書かないか」です。
これって、編集者なら直感的にわかる気がしませんか？
AIには「やらない」って情報が少ないんですよ。

文章を削るところに、人格は宿る。
神は細部に宿る。

つまりAIに人格を持たせるというのは、語彙を覚えさせることじゃなくて、判断の癖を保存することなんですね。
で。これが想像するより難しいのです。
理由はいくつもあるんですけど、語彙より判断のほうが、ずっと深いところにあるからです。

2️⃣ 「長く動かすと、AIはズレる」問題

これは、AIに詳しいヒトなら知っていること。
AIエージェント（自律的に動くAI）を長時間動かしていると、最初に与えたルールから、少しずつ外れていく。 これをAI業界では「Agent Drift」と呼ばれています。
これは「伝言ゲーム」と同じです。
最初の話と、何十回目の話が、少しずつ変わってしまう。

例えば、「経営者向けAI」なら
会社の方向感覚が、いつのまにか微妙にズレてくる。

「マネジャー向けAI」なら
現場ルールを、自己流に書き換えちゃう。

「秘書役のAI」なら
過去の文脈を、誤って覚えちゃう。

こんな事が起きます。
最初は便利だから許しても、3ヶ月後にはドリフトってます。

これは単なるバグではありません。
時間の中で、判断基準が変質する、という根の深い話しです。

つまりAIを使ったサービスは、リリースしてから時間を経てからが本番。
作って終わりじゃなくて、ズレを測る装置と、ズレを戻す装置を、セットで設計しないと、ずーっとは使えないんですね。
まぁ。一ヶ月くらいのイベントなら気にしなくてOKなんですけどね。
でもそれって、単なるイベントものですから。
多くの人に役立つような存在じゃないわけです。

3️⃣「何を覚え、何を忘れるか」問題

ここが、いちばん大変なところです。

AIに記憶を持たせる、というと、普通は「全部覚えさせよう」と思いますよね。 過去の会話、相手の好み、約束、優先順位、ぜーんぶ覚えさせる。

でも、ぜんぶ同じに置くとダメなんです。
ごちゃ混ぜになります。

・仕事の文脈と、雑談の文脈が混ざる。
・A社の話と、B社の話が混ざる。
。昨日の重要な決定と、3ヶ月前に流れた案件が、同じ重みで戻ってくる。

だから記憶は、層に分けないとならない。
短期で消すもの、長期で残すもの。
その人の「プロフィール」として固めておくもの。
それぞれ別の引き出しに入れておかないとダメなのです。

しかも、厳格なルールで使うとなると、話はもう一段ややこしくなります。
「忘れる設計」が必要になります。

例えば、営業部の会話の文脈が、人事部の答えに混ざったらまずい。
A社の機密が、B社のレポートに漏れ出たら終わりですよ。
使い終わったら破棄する、という設計を、「覚える設計」と同時に作る必要がある。

『星の王子さま』に、こういう一節があります。

AIプロダクト（サービス）も同じ。
何を覚えるかより、何を覚えないかのほうが、ずっと大切なときがある。

暗黙知を、形式知にして、AIが読める構造化データにする。
それを運営していく。
派手な高性能な機能争いより、こっちの方もなかなか難しいぞ。と僕は思います。

エージェントAIで自動化のツイート見て「わー（凄）」って言ってる人は、ツールの使い方自慢をしてるようにしか見えない。
それより、一次情報の論文を読んでほしい（愚痴）

３：AIプロダクトには「3層の設計」が必要

ここまでの話を、整理させてください。
AIプロダクトを作るというのは、ざっくりこういう3層の設計になります。

第1層は、前回書いた「教科書を渡す」話。
第2層と第3層は、今日書いた話。
掛け算で言うと、こうなります。

どれかひとつでも欠けると、プロダクトとしてはダメですね。 4つ揃って「人間代わりに考えられるAI」になります。
AIに教えて育てないとできない。人と同じなんですよ。

僕がいま作っているいくつかのプロダクトも、それぞれ重心は違うのですが、結局はこの掛け算をどう設計するかという話に収れんしていきます。

ちなみに、この記事の背景には、世界のAI研究の最前線で書かれた論文があります。百本以上あるので、その中でも重要なものを列記しておきます。
これらを 読んでは翻訳して咀嚼して試してきました。
もし興味があったら読んでほしいです
（AIに和訳・翻訳してもらえばいい）

1. RAG時代の言語資源設計原理
―構造化テキストによる「参照可能性」の実証
https://www.anlp.jp/proceedings/annual_meeting/2026/pdf_dir/Q5-8.pdf

2. Agent Drift: Quantifying Behavioral Degradation in Multi-Agent LLM Systems Over Extended Interactions
https://arxiv.org/abs/2601.04170

3. Tacit Knowledge Management with Generative AI: Proposal of the GenAI SECI Model
https://arxiv.org/abs/2603.21866

4. Synthetic Interaction Data for Scalable Personalization in Large Language Models
https://arxiv.org/abs/2602.12394

5. Knowledge Activation: AI Skills as the Institutional Knowledge Primitive for Agentic Software Development
https://arxiv.org/abs/2603.14805

6. MemMachine: A Ground-Truth-Preserving Memory System for Personalized AI Agents
https://arxiv.org/abs/2604.04853

7. Verify Before You Commit: Towards Faithful Reasoning in LLM Agents via Self-Auditing
https://arxiv.org/abs/2604.08401

8. PASK: Toward Intent-Aware Proactive Agents with Long-Term Memory
https://arxiv.org/abs/2604.08000

9. Burn-After-Use for Preventing Data Leakage through a Secure Multi-Tenant Architecture in Enterprise LLM
https://arxiv.org/abs/2601.06627

論文の細かい話まで書きませんが、ざっくりまとめるとこんな感じです。

これらの論文を読んでわかったのは、まぁ身も蓋もないけど「論文を読んでも、現場設計はラクにならない」ということなのです。
論文は、現場で起きている問題に名前をつけてはくれます。
でも解き方はそれぞれ状況によって違う。
名前があるだけで、ずいぶん理解は、しやすくなるんですけどね。
皆さんにおススメしたいのは論文を読むことです。
バズってるニュースじゃありません。
日経新聞でもありません。

「AIの一次情報は論文にあります」

なぜ、この話を書いたか？

何人かの編集者の方と話してて、こういう話しが出ました。

すこし心配にもなりました。
まぁ。気持ちはわかるんですよ。
なんでも発注すれば手に入るって思ってる。
ひどい場合はパクればいいと思ってる。
そもそも、それはあなたの果たすべき役割じゃないし、
コレって、そう簡単じゃないんですよ。

なぜなら「AIへ教える教科書」だけ作ってもダメだからです。
データ構造化ってやってみると分かるんですけど奥深いんです。
AI界隈でも、地味で目立たない世界。
一般ビジネスマンからすれば「は？なんだそれ？状態」です。
だから、書き残しておきます。

この3つは、エンジニアだけでも、編集者の能力だけでもダメです。
両方の目を持って、両方の言葉で考えられる人が必要だからです。

それをAIナレッジ・エンジニアリングと呼んでいます。
今回は、その仕事の「輪郭」をなるべく短く書きました。

掛け算は（たぶん）まだ続く

よく聞く会話に
「AIって進化するから、それも解決しちゃうでしょ」ってのがあります。

ちがいます

LLMが高性能になればなるほど、構造化データはもっと重要になります。

どこまで言っても、それは「汎用AI」です。
「あなただけの（判断ができる）AI」ではありません。

そもそも、この4つを掛け算で考える時点で、もう「AIに食わせれば終わり」という話ではなくなってます。

そして、この掛け算には、もう「一項目」あります。
それは「使う人の文脈」です。
誰が、いつ、どんな気分で、どこから話しかけているか。 距離感とか。空気感とか。ここまで含めないと私が目指す「教えて育てるAI」にはなりません。

でも、それはまた次回ということで。

いまも色々考え中です。
私がずーっと一貫して追いかけているのは
「AIを使う」のはではなく「AIに教えて育てる」ってこと。

桜が散って、風はまだ冷たいけど、陽射しが温かくなりましたね。
それくらいのスピード感でやってます。
自分でコードが書けるようになっちゃったから。
エンジニアに頼まなくてよくなった。これは大きいですよ。
自分のアタマの中にあることがカタチにできる。
生きててよかった。と思えるくらいメチャ楽しい。
それが伝わると嬉しいです。

ではまたnoteでお会いしましょう

池松潤
https://lit.link/junikematsu

※異論・反論・オブジェクション等あればコメント欄へお願いします。
※本記事は筆者個人の見解であり、所属組織の公式見解を代表するものではありません。

#AI #生成AI #AIプロダクト #AIエージェント #ナレッジマネジメント #編集者 #出版 #AIナレッジエンジニア #人格設計 #記憶設計