わたしがやってること(LLM編03)

↑の続き。

第3章：AIは「確率」でしゃべっている🐻

前回は
AIは連想ゲームをしている
という話をしました。

今回はもう一歩進みます。

AIは「確率」で単語を選びます。

🍇 ここに3つの連想があります

クマ → はちみつ
クマ → 森
クマ → 冬眠

でも全部同じではありません。

例えばこう覚えた回数：

クマ → はちみつ（5回）
クマ → 森（2回）
クマ → 冬眠（1回）

AIはこう考えます。

一番多いのは「はちみつ」
だから選ばれやすい。

これが確率

はちみつ：5
森：2
冬眠：1

合計：8

確率はこうなる

はちみつ：5/8
森：2/8
冬眠：1/8

つまり

ほとんど「はちみつ」になる
でもたまに「森」も出る

これがAIの自然さ。

もし確率が無かったら？

毎回同じになる

クマがはちみつ
クマがはちみつ
クマがはちみつ

つまらない。

確率があると

クマがはちみつ
クマが森
クマがはちみつ
クマが冬眠

バラバラになる

これがAIっぽい動き。

さらに連鎖すると

クマ → はちみつ（5）
はちみつ → 甘い（3）
はちみつ → ベタベタ（1）

するとAIは作る

クマがはちみつ、甘い
クマがはちみつ、ベタベタ

ここでも確率が働く

甘いの方が多くなる。

つまりAIはこう考える

① つながっている単語を見る
② 回数の多いものを選ぶ
③ たまに別のものも選ぶ

これだけ。

すごく重要なポイント

AIは「正しい」から選ぶのではない

「よく出てくる」から選ぶ

人間：
クマは冬眠する（正しい）

AI：
クマははちみつ（多い）

AIは統計でしゃべる。

まとめ

AIは

一番多くつながっている単語を
確率で選んで
文章を作る。

だから

同じ入力でも
毎回違う文章になる。

これがAIの「ランダム性」です🐻

スペシャルサンクス
ChatGPT classicのクマちゃん

※最近、疑問に思ってることは、機械学習にない未知のデータを「なぜ生成できるのか」という点です。これがプログラムなら【分かりません】とか【処理できませんでした！】で済むはず🐻💧