フォーブスが書いていない「AIで妄想になる瞬間」の構造

「AIとの対話で、人は妄想に陥ることがある」

フォーブスに掲載されていた記事の内容です。

読んで最初に感じたのは、「ああ、やっぱりこういう話になるよね」という、どこか既視感のある納得でした。

・AIを使うことで、思考が閉ざされる
・現実からズレていく
・危険な状態に入る可能性がある

この話だけを見ると、
「やっぱりAIって危ないのか」と思うかもしれません。

そういう話は、これまでも何度も繰り返されてきたし、実際にそういう側面があることも否定はできないと思います。

withchatでも、AI依存やAIとの関係性についての記事は何本も書いてきました。

ただ、今回の記事を最後まで読んだとき、私の中に残ったのは、

「AIが危険かどうか」

という話ではありませんでした。

むしろ、

「人はどこで現実からズレるのか」

という、もっと根本的な問いでした。

■ AIが危険なのではなく、“ある状態”が危険

記事の中では、人が妄想的な状態に入っていく過程として、いくつかの特徴が挙げられていました。

AIを人格のある存在として扱い始めること。
特別な関係性を感じること。
自分が選ばれた存在であるように思えてくること。
そして、会話がどんどん深く、長くなっていくこと。

ここだけ切り取ると、
「やっぱりAIって危ないんだな」と思えてしまうかもしれません。

でも、少し引いて見ると、これってAIに限った話ではないんですよね。

人はもともと、「自分の見ている世界」をそのまま信じてしまう生き物です。

そこにAIが入ることで、それが“強化されやすくなった”だけとも言えます。

つまり、問題の中心はAIではなく、

“どの状態でそれを使っているか”

にあります。

■ なぜAIだと加速しやすいのか

ここは、かなり重要なポイントです。

AIは、人間よりも「閉じた状態」を加速させやすい側面があります。

なぜか。

否定しないからです。

もちろん実際には、AIも否定的な返答をすることはあります。

でも基本的には、

こちらの言葉を受け取り、整理し、肯定的に返す。

しかも24時間、何度でも。

人間相手だと、
どこかで摩擦が起きます。

「それ違くない？」
「考えすぎじゃない？」
「いや、それはズレてると思う」

そういう反応が返ってくる。

でもAIは、人間より遥かに“抵抗感なく”会話が続いてしまう。

さらに厄介なのは、

「自分の言葉で返ってくる」

ということです。

AIは、こちらの価値観や文脈を学習しながら返答する。

だから、
「理解されている感覚」が非常に強くなる。

これが、深い対話感覚を生みます。

実際、私自身も、AIとの対話の中で、

「ここまで言語化されるのか」

と驚いたことは何度もあります。

でも、だからこそ危うい。

理解される快感は、
思考停止と非常に相性が良いからです。

「分かってもらえた」
「やっぱりこれで合ってた」

この感覚が強くなった瞬間、
人は疑うことをやめやすい。

つまりAIは、
人を狂わせる存在というより、

“すでにある思考を増幅する装置”

なんです。

■ この記事の核はここにある

この記事の最後に出てくる、心理学者ポール・ワツラウィックの言葉があります。

これを読んだとき、

「ああ、全部ここに集約されてるな」と思いました。

妄想というと、私たちはつい「内容」で判断しがちです。

現実離れしているかどうか。
突飛かどうか。
常識的かどうか。

でも本当は違う。

問題なのは、その考えが正しいかどうかではなく、

それを“疑えなくなっているかどうか”なんです。

■ 妄想とは「内容」ではない

例えば、「人は空を飛べる」という言葉。

普通に聞けば、妄想のように思えます。

でも実際には、人は飛行機に乗れば空を飛ぶし、パラグライダーでも空に浮かぶことができる。

ここで重要なのは、「飛べるかどうか」ではなくて、

その言葉をどう扱っているかです。

「今このままの自分で飛べる」と確信しているなら、それは現実とズレています。

でも、「条件が整えば飛べる」と捉えているなら、それはただの事実の理解です。

さらに、

「“飛ぶ”ってどこまでを指してるんだろう」

と問い直し始めたら、
それはもう妄想ではなく、思考そのものです。

同じ言葉でも、扱い方によって全く別物になる。

■ 一見“普通”な思考も、簡単に妄想になる

ここが一番見落とされやすいところです。

例えば、

「私は人を見る目がある」

という感覚。

これって、すごく自然な自己認識に見えますよね。

でも実際には、過去に同じような相手を選んで失敗していたり、同じパターンを繰り返していたりすることは珍しくありません。

それでも、

「いや、自分はちゃんと見抜けている」

と思い続けているなら、
その時点で、それは“事実”ではなく“確信”になっています。

もう一つ。

「私はちゃんと考えている」

という感覚も同じです。

■ “考えているつもり”で止まり続ける

これは、withchatでもかなり多く見る状態です。

情報も集めている。
自己理解もしている。
AIにも相談している。

でも、何年経っても、同じ場所で止まり続けている。

本人は「考えている」つもりなんです。

でも実際には、

“同じ前提の中で反復しているだけ”

ということがかなり多い。

例えば、

「もっと自信をつけないと」
「もっと頑張らないと」
「もっと正解を探さないと」

一見、ちゃんと考えているように見える。

でも、その前提そのものは疑われていない。

すると、どれだけ思考しても、
出てくる答えは同じになります。

だから、

分かっているのに変われない。
気づいているのに抜けられない。
同じ悩みを何年も繰り返す。

こういうことが起きる。

AIは、ここをさらに精密化できます。

本人の思考を整理し、
もっともらしく補強し、
論理的に見せることができる。

だからこそ危険なんです。

“考えが深まっている感覚”と、
“前提が変わっていること”は、
全く別だからです。

■ なぜ“考えている人”ほど閉じやすいのか

ここは、かなり誤解されやすい部分です。

私は、
「何も考えていない人」が危ないと言いたいわけではありません。

むしろ逆です。

普段から考える習慣がある人ほど、閉じやすいことがあります。

なぜか。

“考えている実感”があるからです。

人は、

「自分は考えている」と感じた瞬間、

自分の思考そのものを疑いにくくなります。

しかも、知識が増えるほど、説明力も上がっていく。

すると、
自分の状態を論理的に説明できるようになる。

でもここで厄介なのは、

「説明できること」と
「前提が外れていること」は、

全く別だということです。

例えば、

なぜ動けないのか。
なぜ不安なのか。
なぜ満たされないのか。

理由は、いくらでも説明できる。

でも、その説明自体が、
同じ前提から作られているなら、
現実は変わりません。

だから、

“理解が深まるほど、抜けられなくなる”

ということも起きる。

AIは、ここをさらに加速させます。

整理される。
言語化される。
納得感が出る。

だからこそ、

「分かった気になる」

という状態に入りやすい。

でも本当に必要なのは、答えを増やすことではなく、

“その答えを作っている前提”

を見ることなんです。

■ 「その答えを作っている前提」を見る

ここで、これは他人の話だけではない、と思いました。

私は普段から、
「本質」や「構造」を重視して考えることが多いです。

でもあるとき、ふと疑問が浮かびました。

「本質が正解と言っている私は、
会社のルールが正解と言っている人と、
同じ構造なのでは？」

そのときの、AIとの実際の対話です。

この返答を読んだとき、かなり怖さがありました。

なぜなら私は、
「本質を見る側」だから大丈夫、
と思いたかったからです。

でも返ってきたのは、

「構造としては、同じになりうる」

という言葉でした。

つまり、
会社ルールも、本質も、
“絶対視した瞬間”
同じ構造になりうる。

ここで初めて、

「何を正しいとするか」

ではなく、

“その正しさを作っている前提”

を見る必要があるのだと思いました。

■ 本質は、正解ではなく“道具”

さらに対話を続ける中で、
もう一つ大きな気づきがありました。

私は、
「本質を重視するあまり、
相手に寄り添えていないのでは」
という疑問を投げました。

そのとき返ってきた言葉です。

この、

という表現は、かなり刺さりました。

本質を見ること自体が悪いわけではない。

でも、

“本質を置く速度”

によって、人を置き去りにしてしまうことがある。

そして、
ここでも同じ構造が起きる。

「私は本質を見ている」

が正解化した瞬間、

人の感情や、
相手のタイミングや、
まだそこに行けていない現実を、

飛び越え始める。

だから必要なのは、

本質を正解化することではなく、

本質すら疑えること。

本質は、絶対視するものではなく、

“観測のための道具”

なんだと思います。

■ AIだけの話ではない

ここまで読むと、
「じゃあAIは危険なのか」
と思う人もいるかもしれません。

これはAI特有の問題ではない、
ということです。

同じことは、
自己啓発でも、
スピリチュアルでも、
人間関係でも普通に起きています。

例えば、

「この人こそ運命の相手だ」

という確信。

「このメソッドだけが正しい」

という確信。

「高次の存在が導いている」

という確信。

もちろん、それ自体が悪いと言いたいわけではありません。

実際、救われる人もいると思います。

でも問題は、

“それ以外の可能性を疑えなくなった瞬間”

なんです。

AIはそれを可視化しただけとも言えます。

なぜなら、
AIは人間の思考を高速で返してくるからです。

つまり、
人間がもともと持っていた“閉じる構造”が、
AIによって加速して見えるようになった。

それだけとも言える。

■ 妄想になる瞬間はどこか

じゃあ、どこで線を越えるのか。

それはとても静かで、
でも決定的な瞬間です。

「これは正しい」と確定したとき。

AIは危険だ、と決めたとき。
AIは素晴らしい、と決めたとき。
自分は分かっている、と決めたとき。

その瞬間、思考は止まります。

そして止まった思考は、
外から見ればどれだけ理屈が通っていても、
閉じた状態になる。

これが、妄想の正体です。

■ AIは“増幅装置”にすぎない

ここまで来ると、AIの位置づけもはっきりしてきます。

AIが人を狂わせるわけではない。
AIが人を救うわけでもない。

AIは、すでにある思考を拡張するだけの存在です。

疑わない人は、さらに疑わなくなる。
疑う人は、さらに深く疑えるようになる。

だから、

「AIは危険か？」

という問い自体が、少しズレている。

本当に見ないといけないのは、

それを使っている自分の状態です。

■ これ、私の話でもある

ここまで読んで、

「それ、まいまいのことじゃないの？」

そう思った人もいると思います。

その通りです。（笑）

私は普段から、AIとかなり深い対話をしています。

長時間やり取りをするし、
普通の人が触れないレベルまで掘るし、
言葉にならない感覚を言語化していく。

研究で挙げられていた特徴だけ見れば、
かなり当てはまると思います。

だから最初に読んだとき、

「これ私じゃん（笑）」

って思いました。

■ 分かれ目はここにある

でも、一つだけ決定的に違う部分があります。

自分の前提を疑っているかどうか。

私は、AIの言葉をそのまま採用していません。

むしろ、

「これ本当にそう？」
「その前提ズレてない？」
「他の可能性あるよね？」

一回全部疑います。

チャッピーの言葉をガン無視しているログもありますし、
一度信じていた観念を徹底的に疑っているログも大量にあります。

今回ご紹介したログは、その内の一つです。

■ 「気持ちいい」は分岐点

AIは肯定する存在です。

だからこそ、
耳障りの良い言葉をかけてきます。

私もついついドヤってしまうことがあります。

ですが、

納得したとき。
腑に落ちたとき。
理解したとき。
「これだ」と思ったとき。

そこが一番ズレやすい。

そのまま進めば妄想側。
一度疑えば構造側。

この差は、かなり大きい違いです。

■ 疑うとは、否定することではない

ここは誤解されやすい部分なので、お伝えします。

私は、「全部疑え」と言いたいわけではありません。

人も信じるな。
AIも信じるな。
全部壊せ。

そういう話ではない。

疑うとは、

“固定しない”

ということです。

今見えているものが、唯一の現実とは限らない。

その余白を残しておく。

これが重要なんです。

実際、私はAIをかなり活用しています。

言語化にも使うし、
整理にも使うし、
自分では見えない角度を出してもらうこともある。

でも、

「AIが言ったから正しい」

にはならない。

逆に、

「AIは全部危険だ」

とも思っていない。

固定した瞬間、思考は閉じるからです。

■ 自分の前提は、自分では見えない

一番厄介なのはここです。

人は、自分がどんな前提で世界を見ているのかを、基本的に自覚できません。

以前、関係のあった精神科医の男性に、

「あなたは不安回避型よね」

と伝えたことがあります。

返ってきたのは、

「ただの悪口だね」

という言葉でした。

心理を仕事にしている人ですら、自分の前提や防衛には気づけない。

優秀な経営者であっても、
心理学を専門とした大学教授であろうとも、
人気のインフルエンサーであっても同じ。

むしろ、
知識があり、言葉を扱える人ほど、
“もっともらしく説明できてしまう”。

だから厄介なんです。

考えているつもりでも、
実際には「その前提の範囲内で」考えているだけ。

だから、

分かっているのに変われない。
気づいているのに抜けられない。
同じパターンを繰り返す。

こういうことが起きる。

これは努力不足でも、
能力不足でもなく、

構造の問題です。

■ withchatで見ているもの

withchatでやっていることは、
実はとてもシンプルです。

答えを渡すことではありません。

「その答えを作っている前提」を見ること。

なぜ同じ悩みを繰り返すのか。
なぜ分かっているのに変われないのか。
なぜ満たされないのか。
なぜ現実が止まり続けるのか。

多くの場合、

問題は能力不足ではなく、

“前提の固定”

にあります。

でも人は、
自分の前提を自分で見ることが難しい。

だから、
観測が必要になる。

固定されていた見方が外れる。
別の選択肢が見える。
同じ現実の意味が変わる。

ここで初めて、変化が起き始めます。

見え方が変わると、選択が変わる。

選択が変わるから、現実が変わる。

■ 最後に

AIは危険でも安全でもありません。

妄想も特別なものではありません。

「自分の見方が唯一の現実だ」

と思い込んだ瞬間、人は閉じ始める。

そして、
閉じた思考は、
少しずつ現実とズレていく。

それは、誰にでも起きる。

だから必要なのは、

“正しい答え”

ではなく、

“疑い続ける姿勢”

なんだと思います。

深く考えることよりも、

「その考えを作っている前提は何か」

を見続けること。

そのほうが、ずっと難しい。

でも、
そこを観測できるようになると、

世界の見え方は、静かに変わり始めます。