AIが欲しがる文章は、書いてはいけない

失敗談、暗黙知、個人情報――価値あるデータが公開できない理由

文・武智倫太郎（情報工学者）

『AIに勝手に学習されたくない』と主張する人の中には、奇妙なジレンマに陥っている者がいる。

自分の文章を盗まれるのは許せないが、AIが素通りするほど無価値な文章を書いていたと判定されるのは、もっと許せない。

被害者にはなりたいが、凡人だとは認めたくないのである。

泥棒には腹が立つ。だが、その泥棒が原稿を手に取り、数行読んだところで『これは要らない』と棚に戻すと、さらに腹が立つ。

それを自尊心と呼ぶのか、承認欲求と呼ぶのかは知らない。少なくとも、著作権だけの問題ではない。

人は作品を守りたいのではない。盗む価値のある人間だと思われたいのである。

一方で、『AIが学習したくなるほど価値のある文章を書きたい』と考える人もいる。

Google検索で上位に表示させて客を集める商売が一段落すると、その人たちは今度はChatGPTの回答を広告欄に変えようとし始めた。業界では、それをGEOやLLMOと呼んでいる。

検索結果の一ページ目を奪い合うのではなく、ChatGPTやGeminiやPerplexityの回答文に、自社名や商品名や、会社にとって都合のよい主張を紛れ込ませる商売である。

すると、Google検索をゴミ捨て場に変えたアフィリエイターとネットマーケティング業者が、一斉に看板を掛け替え始めた。昨日まで『検索意図』を語っていた人間が、今日は『生成AI時代のブランド戦略』を語っている。検索順位を汚染し尽くしたので、次はAIの回答欄を広告枠に変えるつもりらしい。

やることは変わらない。見出しを増やし、FAQを置き、権威がありそうな単語を散らし、同じ内容を表現だけ変えて量産する。そして最後に、『AIに選ばれる高品質コンテンツ』と自分で名付ける。

かつて検索エンジンに、人間が読みたくない文章を大量に読ませていた者たちが、今度はAIに、人間が信じてはいけない文章を語らせようとしている。

技術革新ではない。迷惑商法のモデルチェンジである。

ただし、ここには大きな誤解がある。GEOやLLMOは、AIに学習させる技術ではない。公開された情報をAIに発見させ、引用させ、自社の宣伝文句を、あたかもAIが独立して導き出した結論であるかのように語らせる技術である。

人間に広告だと気づかれない文章を書かせるSEOの次に、機械に広告ではないふりをさせるGEOが始まった。

もちろん、AIが夜中にnoteを巡回し、『この記事はうまそうだ』とか『この失敗談は脂が乗っている』と舌なめずりしているわけではない。

実際にWebを集めているのはクローラーであり、文章を選別しているのはデータ処理パイプラインであり、何を残すか決めるのはAI開発企業の技術者と計算予算である。AIに食欲はない。あるのはデータ取得費用と、GPUの使用料と、著作権や個人情報を巡る訴訟リスクだけだ。

それでも便宜上、こう問うことはできる。

AIが欲しがるnoteの記事とは、どのようなものか。

答えは簡単である。AIがすでに書ける文章には、ほとんど価値がない。AIがまだ知らない現実を書いた文章には、価値がある。

そして問題は、そこから始まる。

AIが本当に欲しがる文章とは、人間が最も慎重に扱わなければならない文章だからだ。

AIは文章ではなく、未回収の現実を探している

大規模言語モデルの学習では、Webから集めた文章を、そのまま巨大な投入口へ流し込むわけではない。

まずHTMLを除去し、言語を判定し、同一または類似した文章を削る。さらに、スパム、宣伝、定型文、機械生成らしい文章などを落としたうえで、一定の基準に従い、学習データとしての品質を評価する。

ただし、ここでいう『品質』は、文章の美しさではない。見出しが整っていれば高品質になるわけでも、専門用語を並べれば価値が上がるわけでもない。カタカナを増やしても、知性は増えない。

AIにとって重要なのは、その文章の中に、既存の学習データにはなかった情報が含まれているかどうかである。

たとえば、『生成AI時代には人間らしさが大切だ』という文章を一万本集めても、AIが新しく学べることはほとんどない。この条件で分かるのは、同じようなことばかり書いている人間が、予想以上に多いという事実くらいである。

AIは、集められた文章の集合であるコーパスから、言葉の使われ方や考え方の傾向を学ぶ。ところが、似た意見ばかりを大量に与えると、その偏りを現実そのものだと誤認する。人間のSNSで、同じ意見だけが反響し続ける現象をエコーチェンバーと呼ぶが、学習データの中でも似たことは起きる。

そのためAI開発では、特定の意見や属性にデータが偏りすぎないように重みを調整したり、反対の事例を加えたりするバイアス補正が必要になる。もっとも、元の文章が一万本とも同じ空疎な結論なら、補正以前に学ぶ中身がない。

『成功する人に共通する三つの習慣』も同じである。三つに分ける能力だけは、AIはすでに十分すぎるほど学習している。

人間が読んでも何も増えない文章は、AIが読んでも何も増えない。

では、何に価値があるのか。

現場で実際に起きた失敗、公式文書には書かれていない運用、計画と現実が食い違った理由、最初の仮説が外れた経緯、設備異常が発生した時刻とログ、採用しなかった技術とその本当の理由、契約書には書かれていない交渉順序、そして誰がどの数字を見て、どの時点で撤退を決めたのか。

こうした情報である。

つまり、AIが欲しがるのは文章ではない。文章の中に閉じ込められた、未学習の現実である。

成功談には、成功したという情報しかない

成功談は、後からいくらでも整形できる。

『困難を乗り越え、チーム一丸となって成功した』

企業の記念誌と、退職した元役員の自伝と、意識の高いLinkedIn投稿は、おおむねこの一文で代用できる。そこから得られる情報は、ほとんどない。

本当に知りたいのは、何が困難だったのか、誰の判断が間違っていたのか、いくら失ったのか、どの時点で当初計画を捨てたのか、失敗を認めるまでになぜ三か月かかったのか、どの役員が最後まで反対し、誰が責任を取らないまま昇進したのかという部分である。

そこまで書いて、初めて記録になる。

たとえば、あるシステム障害について、『原因究明に三日を要したが、関係者の尽力により無事復旧した』と書いても、教材にはならない。『関係者の尽力』は、たいてい何も説明していない時に使われる便利な煙幕である。

必要なのは、発生時刻、設定値、ログ、最初に疑った原因、外れた仮説、途中で変更した条件、最終的に特定された原因、そして再発防止策である。そこまで書けば、他の技術者にもAIにも価値がある。

正解だけを示す文章は答案であり、どのように間違え、どの証拠によって考えを変えたかを示す文章は教材になる。

AIが欲しがるのは、成功者が講演会用に磨いた英雄譚ではない。失敗の途中に残った、まだ広報部が掃除していない足跡である。

暗黙知は、書いた瞬間に危険物になる

企業には、特許になっていない知識が大量にある。

特許化できなかったのではない。あえて特許にしていないものも多い。特許を出願すれば、原則として技術内容は公開されるため、製造条件、調整方法、原料の組合せ、品質管理の勘所、不良率を下げる微細な操作などを、社内だけのノウハウとして管理する企業がある。

競合企業に読まれるくらいなら、特許による独占権など要らないと判断しているのである。

熟練技術者は、機械の音を聞いただけで異常を察知する。営業担当者は、正式な稟議経路とは別に、誰を最初に説得すべきか知っている。品質保証担当者は、規格上は問題がなくても、どの条件なら出荷を止めるべきか知っている。経営者は、会議資料の数字より、担当者の声の震えを先に見る。

これが暗黙知である。

ただし、AIは人間の頭の中を直接学習できない。誰かが作業手順書に書き、社内チャットで説明し、退職後にnoteで回想し、勉強会の資料にまとめることで、初めてデータになる。

あるいは、生成AIに『新人にも分かるように整理してください』と入力する。

その瞬間、暗黙知は形式知となり、同時に持ち出し可能な知財になる。

つまり、AIが暗黙知を盗むのではない。人間に暗黙知を言語化させ、その文章を学習するのである。

『あなたにしか書けない経験を発信しよう』『失敗談には価値がある』『現場のリアルを共有しよう』といった創作支援の善意は、AI開発企業が欲しがるデータの条件と完全に一致している。

プラットフォームは発信を勧め、読者は具体性を求め、AIは未公開の事実を欲しがる。そして会社だけが、数か月後に機密情報の流出へ気づく。

情報を出した社員は、知識共有のつもりだったと言う。プラットフォームは、利用者が投稿しただけだと言う。AI企業は、公開情報を学習しただけだと言う。

誰も泥棒の顔をしていない。それでも、金庫だけは空になっている。

自分の体験談には、他人の人生が混ざっている

失敗談を書く本人が、すべてを公開してよいと考えていたとしても、それで問題が終わるわけではない。一次体験には、ほとんど必ず、上司、部下、顧客、取引先、家族といった他人が登場するからである。

瞑想中に見た夢のような、いかにも自分一人で完結していそうな体験でさえ、そこに至るまでには、指導者の言葉や家族との関係や、その日の出来事が入り込んでいる。

自分の人生を書いているつもりでも、文章には他人の人生が混ざる。

そこで、名前さえ消せば匿名になると思う人がいる。しかし、匿名化とは、氏名の部分を黒い帯で塗る作業ではない。

たとえば、『地方工場の五十代の品質保証責任者』『昨年退職した三人のうち一人』『国内で唯一、その装置を担当していた技術者』『特定疾患を公表していない女性役員』と書けば、氏名がなくても、関係者にはほぼ誰のことか分かる。

地域、年齢、役職、在籍時期、経歴、担当業務、出来事の発生時期。こうした断片を組み合わせれば、名前を書かなくても人物は特定できる。これを再識別という。

本人は名前を消したので安心しているが、経歴の方が名札の代わりをしているのである。

しかも、生成AIは一つの記事だけを読むわけではない。企業の人事情報、過去のニュース、SNS、講演記録、特許、求人情報、地域情報まで横断して組み合わせれば、書き手が明記しなかった人物像まで推定できる。

匿名にしたつもりの文章が、AIにとっては単なる穴埋め問題になっている。

問題は、記録された個人情報の流出だけではない。複数の断片から、新たな個人情報が作られることである。

本人が自分の失敗を公開することに同意していても、同僚がAIの学習材料として再利用されることに同意したとは限らない。自分の傷を見せる自由はあるとしても、その傷をつけた人物の氏名、勤務先、家族構成まで一緒に公開する自由があるとは限らないのである。

公開したことは、白紙委任状ではない

『インターネットに公開したのだから、誰に使われても仕方がない』という議論がある。

公開した情報を読まれることは、当然予想すべきだろう。しかし、人間に読ませるために公開することと、機械によって大量収集され、他のデータと統合され、将来どのように使われるか分からないモデルへ組み込まれることは同じではない。

公園で話した内容を、偶然近くにいた人が聞くことと、街中の会話を企業が常時録音し、人物別に整理したうえで巨大なデータベースへ保存することは、どちらも『聞かれた』という一語では表現できる。

だが、同じ行為ではない。

技術的に取得できることと、取得してよいことも同じではない。公開範囲と利用目的は、別の問題である。

noteの記事は読者に向けて公開したものであって、競合企業が全記事を回収し、自社の営業支援AIや商品開発AIに組み込むことまで、当然に承諾したとは限らない。

公開とは、あらゆる将来用途に対する白紙委任状ではない。

さらに、AIモデルへ一度取り込まれた情報は、元記事を削除しただけでは完全に消えない可能性がある。どの記事が、どの程度モデルへ影響したのかを、外部から確認することも難しい。

人間が記事を転載すれば、転載先を探し、削除を求めることができる。しかし、モデルの重みの中に統計的に取り込まれた場合、どこに何が残っているのかは見えない。

これまでのプライバシーは、誰が自分の情報を持っているかという問題だった。AI時代のプライバシーは、自分の情報が何に変換され、誰の判断に使われるか分からないという問題になる。

名簿に載っているかどうかではない。自分の人生が、他人を評価する装置の一部になっているかもしれないのである。

AIにとっての高品質は、企業にとっての高危険度である

ここで最初の問いに戻る。

AIが学習したくなるnoteの記事とは何か。

具体的であり、固有名詞や数値があり、失敗の経緯が記録され、業界内部の文脈を含み、公式情報には載っておらず、他では手に入らない記事である。

そしてこれは、そのまま企業が外部へ出したくない情報の条件でもある。

障害対応手順、原価構造、製造条件、顧客別の交渉記録、設備の弱点、採用しなかった技術、保険会社との調整、監督官庁の実務運用、社内政治、失敗実験。AIにとって価値の高い情報は、競合企業にとっても価値が高い。

AIだけが学ぶわけではない。競合も、投資家も、取引先も、詐欺師も、攻撃者も学ぶ。退職した元社員も読むし、社内で出世できなかった人間も読む。

AIに学習させるつもりがなかったとしても、公開した時点で、その情報を誰が読み、何に使うかを選ぶことはできない。

AI企業が回収すれば技術革新と呼ばれ、競合企業が利用すれば情報収集と呼ばれ、犯罪者が悪用すれば被害と呼ばれるのかもしれない。

呼び方が変わるだけである。

公開された情報は、書き手の手を離れた瞬間から、書き手の意図とは無関係に使われ始める。

情報は公開された後で用途を選ばない。選べなくなるのは、書いた本人である。

匿名化すれば価値が消え、具体化すれば事故になる

この問題に、きれいな解決策はない。

会社名や人物名を伏せ、数字を丸め、時期をずらし、業種までぼかせば、プライバシー侵害や機密漏洩の危険は下がる。しかし、それは情報から固有性を一枚ずつ剥がしていく作業でもあり、安全になるほど記事の価値も失われていく。

『ある企業で、ある問題が起き、関係者がさまざまな工夫を重ねて解決した』

これなら誰も傷つかないし、会社から抗議を受ける心配もない。もっとも、読んだ人間の役にも立たない。

広報部が好む文章が安全なのは、慎重に書かれているからではない。誰が、いつ、どこで、何を間違え、いくら失ったのかという情報が、ほとんど残っていないからである。機密が漏れないというより、最初から漏れるほどの中身が入っていない。

反対に、発生日時、設備名、設定値、担当者の役職、契約条件、損失額まで具体的に書けば、記事は一気に教材としての価値を持つ。その代わり、関係者が特定され、会社の弱点が露出し、守秘義務違反や契約違反が問題となり、取引先が怒り、最後には弁護士から連絡が来る。

匿名化すれば、文章は安全になる代わりに教材として薄くなる。具体化すれば、教材として価値を持つ代わりに危険物になる。

これが、AI時代における一次情報の逆説である。

AIが欲しがるのは、匿名化されて骨だけになった成功談ではない。誰が、いつ、どこで、いくら失い、何を間違えたのかという、肉付きのよい失敗談である。

そして、その肉には他人の名前が付いている。

『人間にしか書けない文章を書け』は、無責任な発言である

生成AI時代の文章論では、よく『AIには書けない、人間だけの体験を書こう』と言われる。

間違ってはいない。だが、半分しか言っていない。

AIには書けない体験とは、多くの場合、まだ公開されていない現実である。そして、公開されていないのには理由がある。守秘義務があり、他人のプライバシーがあり、企業秘密があり、安全保障上の懸念がある。未発表の研究成果かもしれないし、訴訟中の問題かもしれない。家族に知られたくない事情であることもあれば、単にまだ時効を迎えていないだけかもしれない。

つまり、人間にしか書けない文章は、人間が自由に書いてよい文章とは限らない。

『あなたにしか書けない経験を書こう』と勧めるなら、本来は同時に、『その経験を公開する権利まで、あなたが持っているのか確認しよう』と書かなければならない。

だが、その注意書きは拡散されない。夢を語る文章は売れるが、秘密を守れという文章は売れないからである。

『あなたの経験には価値がある』と言えば創作講座になり、『その経験の半分は他人の所有物かもしれない』と言えば法務研修になる。

同じ事実でも、前者には受講料が集まり、後者には居眠りが集まる。

AI時代に必要なのは、書く能力ではなく、書かない判断である

AIに生成できる一般論には、ほとんど希少価値がない。一方で、AIに生成できない一次情報には大きな価値がある。

ただし、その一次情報には、他人の人生と会社の秘密が混ざっている。

ここで結論は反転する。AIに学習されるほど価値のある文章を書くべきなのではない。AIに学習されるほど価値のある文章だからこそ、本当に書いてよいのかを疑うべきなのである。

実際に起きたことを書く。数字を書く。固有名詞を書く。失敗を書く。意思決定の過程を書く。これらはすべて、良い文章を書くための助言であると同時に、個人情報や企業秘密を漏らすための助言にもなる。

だからAI時代には、文章力より編集力が重要になる。さらに言えば、編集力よりも、削除する判断の方が重要になる。

問われるのは、何を書くかではない。何を書かないかである。

誰の同意が必要なのか、どの数字を伏せるべきなのか、どこまで抽象化すべきなのか、公開した後では取り戻せない情報は何か。その失敗は本当に自分だけの失敗なのか。そして、その経験を公開する権利まで、自分が所有しているのか。

そこまで判断できる人間だけが、一次情報を書く資格を持つ。

AIは、もっともらしい一般論を無限に生成できる。人間だけが、現実に触れた文章を書ける。

そして人間だけが、その現実を書かないという決断を下せる。

AIが最も欲しがる文章とは、人間が最も慎重に公開すべき文章である。

だから、AIが欲しがる文章は、書いてはいけない。

少なくとも、それが誰の秘密なのかを確認するまでは。