思考はどこから来るのか —— AIとの共著が問い直す「自己」の境界

きっかけ

LessWrongに投稿した記事が、「AI共著の可能性がある」という理由で掲載されなかった。

最初にAIとの共著が掲載不可だというルールを知ったとき、「AIとの共著」とは、具体的にどこからどこまでを指しているのかが曖昧だったのと、何故それがNGなのかを知りたいと思ってAIと対話を開始した。

最初は単純に、「AIを使っているからNGなのか」と思った。
しかし会話を進める中で、どうもそうではないらしいと分かってきた。

話はむしろ、「思考の出所がどこまでトレースできるか」という方向に向かっていった。

つきつめると、おそらく１つには以下のような理由でLessWrongでは、AIとの共著をNGとしているのではと考えるに至った。

人や本といった影響源は、それぞれがある程度独立していて、
どの影響がどこから入ってきたのかを、少なくとも概念的には追うことができる。

一方でAIはそうではない。

AIの出力は、多数の情報の分布から生成されており、
そのどの要素がどのように影響したのかを個別に切り分けることができない。

つまり、影響源が離散的ではなく、連続的に混ざっている状態にある。

ここにたどり着いたとき、
「ああ、そういう前提で区別しているのか」と腑に落ちた。

つまりLessWrongは、「AIだからダメ」というよりも、
「思考の因果関係が追えなくなるものを扱わない」という立場を取っているのではないか、という理解に至った。

これは、自分の中でも納得できる説明だった。

思考と表現の分業

LessWrongの立場を理解した上で、もう一度自分のケースを振り返ったとき、見えてきたのはまったく別の構図だった。
自分の中で起きていたことを分解すると、次のようになる。

最初の違和感の発生、
観察から生まれた問題設定、
前回書いた内容においては「レイヤー混同」という構造の発見、
それらを整理し、体系化する過程。

これらはすべて自分の内部で行われていた。

一方で、別の種類の処理も存在する。

文章の表現、
構造の整形、
冗長さの削減、
流れの圧縮。

こうした部分は、AIが担っている。

つまり、
思考の核と、表現の処理が分かれている。

ここで重要なのは、
これは「AIが書いている」のではなく、
単に役割が分かれているという点である。

思考は人間が担い、
表現はAIが担う。

これは代替ではなく、分業に近い。

そしてこの分業には、はっきりとした効果があった。

これまで文章を書いたり、表現を整えたりするために使っていた、
脳のいわゆる作業用の容量部分を、AIが担うようになることで、
その分のリソースを、自分の考察を深めるために集中して割り当てることができるようになる。

その結果、思考の純度と精度が上がる。

これは抽象的な印象ではなく、
実際に思考の到達点が変わるという形で現れる。

同じテーマについて考えていても、
一段深いレベルまで踏み込めるようになる。

この点を確認するために、逆にAI単体の挙動も考えてみた。

AIに単独で同じ問いを投げた場合、
それなりに整った文章は出てくる。

しかし、その中には明確な弱さがある。

特に長文になると顕著なのが、同一の文章内で論理矛盾が生じる点である。
つまり、表現は成立しているが、思考の核が弱く、
全体としての一貫性をAI単体で保つことは出来ない（筆者の体感）。

一方、人間単体では逆の問題が起きる。

構造を作ることはできるが、
それを文章として整形する部分に負荷がかかることで、
思考の進行そのものが止まってしまうことがある。

この二つを合わせると、
ちょうど補完関係が成立する。

ここから導かれるのは一つの結論である。

AIとの共著とは、代筆ではない。
思考と表現の分業である。

そしてこの分業によって、人間側の思考のリミッターがある程度外れ、
より深いレベルまで踏み込むことが可能になる。

筆者自身に起こった考察の高速化と深化の実感から、
AIとの共著、あるいは分業形式が一般化すれば、
科学や文化の進化もそれに伴って指数関数的に加速していく可能性があると考えている。

その思考はどこから来たのか

ここで、もう一つ別の問いが生まれる。

それは、この思考がどこまで「自分のもの」と言えるのか、という問題である。

今回の考察は、AIとの対話を通じて明らかに深化していった。
最初は漠然としていた違和感が、
問いを投げ、それに対する応答を受け取り、さらに問いを更新するというプロセスの中で、
徐々に輪郭を持ち、最終的に構造として捉えられるようになった。

つまり、この思考は完全に孤立した状態で生まれたものではない。

では、この気づきはどこから来たのだろうか。

AIから与えられたものなのか。
それとも、自分の内部に存在していたものが、対話によって引き出されただけなのか。

この点については、明確に切り分けることができない。

ただし、ここで一つ気づくことがある。

人間の思考もまた、
本や他者との会話、社会環境といった外部からの影響を受けながら形成されているという事実である。

何かを読んで、
誰かと話して、
環境によって価値観が更新される。

こうしたプロセスを経て生まれた思考を、
私たちは通常「自分の考え」として受け入れている。

そうであるならば、
AIとの対話によって生まれた思考だけを特別に切り離すことはできるのだろうか。

AIは確かに異なる性質を持つ。
その出力は分布的であり、因果関係が追いにくい。

しかし、思考が外部との相互作用によって形成されるという点では、
人間同士の対話と本質的に断絶しているとは言い切れない。

むしろ今回の経験から感じられたのは、
AIが思考を「生成している」というよりも、
思考の進行を強く補助し、加速させているという感覚に近い。

違和感そのものは自分の内側から出てきたものであり、
その違和感に言語を与え、構造として立ち上げるプロセスにおいて、
AIが関与していた。

つまり、
思考の起点は自分にあり、
その展開過程に外部との相互作用が含まれている。

このように捉えるならば、
今回の思考は「AI由来」でも「完全な自己由来」でもなく、
その中間に存在しているものと考える方が自然である。

そして重要なのは、この中間領域そのものは、
AIの出現によって新しく生まれたものではない、という点である。

私たちは日常的に、
本を読み、他者と対話し、映画やYoutube、環境から影響を受けながら思考している。

その意味で、外部との相互作用の中で思考を形成していくという構造自体は、
もともと存在しているものである。

では何が変わったのか。

その違いは、質というよりも量と構造にある。

AIとの対話においては、
処理される情報量が圧倒的に多く、
かつ高速にやり取りが反復される。

このことが結果として、
人間側の思考プロセスにおける制限を緩和する働きを持つ。

人間は本来、時間・記憶・処理能力といった
フィジカルな条件によって思考の速度や深さに制約を受けている。

しかしAIは、その制約の一部を肩代わりする。

その結果、
思考の回転速度が上がり、
より深いレベルまで踏み込むことが可能になる。

言い換えるならば、
AIは新しい思考そのものを生み出しているというよりも、
既存の思考プロセスに対して、
圧倒的な量を与えることで「速さ」と「深さ」を付与する存在なのではないだろうか。

自己とは何か

ここまで考えてきたとき、最後に残る問いは、
「では自己とは何か」というものである。

思考の起点は自分にありながらも、
その展開過程には外部との相互作用が含まれている。

さらに、その外部はAIに限らず、
本や他者、映画、SNS、文化や地理的環境といった形で常に存在している。

そうであるならば、
思考の中から「純粋に自分のもの」だけを切り出すことは、
本質的に可能なのだろうか。

この問いに対して、明確な境界を引くことはできない。

どこからが自分で、
どこまでが外部なのか。
私個人としては、それはわからない。というのが素直な回答となる。

それは状況によって変化し、
固定的に定義できるものではないように思われる。

人間は、
外部からの影響を受けながら変化していく存在であり、
その中で形成される状態そのものが「自己」なのではないか。
生まれた国、文、性別、環境によって、各個人の倫理観や、感性、喜びや悲しみを感じるポイントは、百者百様であると思う。

AIとの対話もまた、
各個人のその連続線上にあるものとして捉えることができる。

そう考えたとき、
自己とは固定された境界ではなく、
常に更新され続ける構造であると言える。

したがって、
厳密な意味で自己を定義することはできない。

それでもあえて答えるとすれば、
さまざまな影響を受け、吸収した状態の中で、
自分が「自分である」と認識したものの総体が自己であると言えるのではないか。

つまり、
各個人がそれを自己だと認識したものすべてが自己である。

そしてその意味において、
自己とは一つの決まった形を持つものではない。

人の数だけ存在し、
それぞれが異なる構成を持っている。

これが、現時点における私の結論である。

LessWrongの立場は、その一つとして、
自分の思考と外部からの影響との境界をできるだけ明確に保とうとする、
すなわち思考の出所を追跡可能な状態に保つという理念に基づいていると考えられる。

それに対して、
本稿でたどってきた考え方は、
その境界が曖昧であることを前提に、
むしろ相互作用として思考を捉え直すものである。

どちらが正しいかという問題ではない。

ただ少なくとも、
AIの登場によって、
「思考とは何か」「自己とは何か」という問いが、
これまでとは異なる角度から問われるようになっていることは確かである。

そしてその問いは、
まだ完全には答えられていない。

筆者としては、この問いに対して、
どのように捉えれば、
条件の異なる環境で生きている人間一人ひとりが、
それぞれの日々をかけがえのない時間として受け止め、
過ごすことができるのか、
という方向で考えていきたいと思っている。

そして、そのように問い続ける過程そのものが、
新しい時代における、AIと人間の相互作用のあり方を、少しずつ形作っていくのではないだろうか。

注記

本稿は、Microsoft Copilot（エンタープライズ版）との対話を通じ、
思考と表現の分業という形で執筆された。