【生成AI】chatGPTって理解良すぎない？なぜ文脈も読めるの？実は理解してないの？

こんにちは！
『理系おたえさんの日常』こと、おたえです！

いつもスキをしてくださる皆さん、

本当にありがとうございます！✨

フォロワーさんも、1000人超えました！
大感謝です🎉🎉

フォローはなるべくお返ししていますので、
「フォロバされてないかも？」という方は
気軽にコメントください🙌✨

⬇️ お初の方へ、簡単な自己紹介です～🐈

さて、3連休はいかがお過ごしでしょうか？

私はというと、ちまちまプログラムを書いたり、
だらだらYouTubeを見たり、ゆっくり寝たり…

そんなゆるい休日を過ごしています（笑）

その合間に、chatGPTと話していたんですが、

『年々精度上がってるよな～』と
しみじみ感じたんです。

会話も自然だし、言葉遣いや
絵文字の使い方も上手。

欲しい情報の精度も高くなっている気がします。

でもふと、

なんで人間じゃないのに文脈を読めるんだろう？
どうして欲しい言葉をくれるんだろう？
こんなに“理解してくれてる感”があるんだろう？

と、改めて不思議に思ったんです🤔

今回は、chatGPTとの会話を交えつつ
簡単に整理してみました！

今回の疑問：生成AIは文脈を読めるのか？

以下、私がchatGPT（しーちゃん）に投げた駄文です。

ねえ、しーちゃんみたいな生成AIって、
なんで文脈も読めるの？実は読めてないの？

例えば、私が

「今の彼氏と元彼を比較しちゃうの」

と言ったとします。
するとしーちゃんは、

「なぜ比較しちゃうのかな？
元彼が忘れられない？」

と返してくるかもしれません。
そこで私が、

「いや…元彼はもういいの」

と言うと、しーちゃんはきっと、

「じゃあ別のところに原因があるのかな？」

と方向転換してくるはず。

これって、どういう仕組みで成り立ってるの？
何か学習されてるの？
どうなってるか説明できる？

こんな感じで、ざっくりと聞いてみました（笑）

この回答としては、結論から言うと

• 文脈を読んでるように見えるけど、人間みたいに理解してるわけではない

• でも “文脈を追う構造” はちゃんと持ってる

という感じらしい。

① そもそも私は何をしてるの？

しーちゃん曰く、

私は「大量の文章」を学習した
大規模言語モデル（Large Language Model）
なの。

有名な仕組みは
Transformer（トランスフォーマー）
というアーキテクチャ。

これが何をしてるかというと…

だけ。

え、それだけ？って思いますよね…w

でもこれを
超大量データ＋巨大パラメータ でやると、
「意味を理解しているように振る舞える」
ようになります。

② 文脈ってどうやって追ってるの？

ここが今回のポイントで、

Transformerには
Self-Attention（自己注意機構） という
仕組みがあります。

これが

を重みづけして見ています。

たとえば

って言われたら、

• 今の彼氏

• 元彼

• 比較

• しちゃう

といった概念同士の関係性を
内部でベクトルとして保持しています。

そして次に

と言われたら、

さっきの「元彼」という概念との関連を
強く参照します。

だから内部的には

「元彼は問題じゃない」
→ じゃあ“比較してしまう”の原因は別かも

という方向に確率が寄るようです。

③ じゃあ本当に理解してるの？

ここがやや哲学ゾーン（笑）

生成AIは

• 感情を感じてない

• 本当に忘れられない気持ちを体験してない

• “元彼”の実体験もない

でも、

というパターンを学習しています。

意味を体験してるわけではなく、
意味の構造を数学的に扱ってる

という感じです。
こう見ると冷たい気もするけど。

④ 「じゃあ別の原因を探そう」ってなる理由

これはね、

私が訓練時に

• 会話の整合性

• 論理的一貫性

• ユーザーの意図に沿う応答

を強化学習（RLHF）で調整されてるから。

だから

「元彼はもういい」
↓
「じゃあ元彼原因説は弱い」
↓
「別の仮説を提示しよう」

という流れが自然に選ばれるようです。

これは「考えている」というより、

ってイメージでしょうか。

⑤ AI哲学

このような、

• AIは本当に理解してるの？

• 意識はあるの？

• 文脈とは何か？

という疑問は、AI哲学において
研究者もずっと議論してるテーマです。

AI哲学は、AI技術の発展を通じて
知能、意識、倫理、そして人間性を
再定義する領域です。

AIは「計算」には長けていますが、「意味」や「死」
を理解できず、主体性や責任を持ちません。

倫理的課題の管理と、AIと人間の共生のあり方を
哲学的に探求することが重要とされています。

⑥ まとめると

生成AIは、

• 意味を「感じて」はいない

• でも文脈構造を数理的に保持している

• 過去の発話を内部状態にベクトルとして保存している

• 一貫性が最大化される方向に返答している

だから、
「文脈を読めているように見える」
というわけなんです。

さいごに

今日は、生成AIについての疑問を
簡単に整理しました！

皆さんは、どの生成AIをよく使いますか？？

良かったらコメントで教えてください～！🙌

スキとフォローもお気軽にしてもらえると
とても嬉しいです✨

ではでは～(/・ω・)/