見出し画像

AIってなに？（連載-2）

マインドシード研究所

最先端AIが、単語ひとつで僕の絵本を弾いた

前回（vol.1）で、生成AIの動画は原理的に制御できないという話を書きました。

半年かけて確認した結論——「ガチャを賢く回しているだけ」。

その結論を出してから、ふと別の方向を考えた。

「動画は無理でも、絵本ならできるんじゃないか」

そして、次の壁にぶつかった。

今回は、その話です。

---

静止画なら、いけるはずだった

動画は時間軸があるから揺らぎが積算する。だから無理だった。

でも、絵本のページは1枚1枚独立している。揺らぎがあっても、ハズレを引いたら捨てればいい。「ガチャを回して気に入ったものを採用する」が成立する。

そして僕には、書きたい絵本のテーマがあった。

『0と1のおじさんと、ちいさな黒い四角』

これは、僕自身の少年時代の話だ。

まだパソコンが世に出ていない時代。Z80のアセンブラを書いて、それを16進にして、ROMに手で焼き付けた——そういう経験を、孫世代の子供に物語として残したかった。

おじいちゃんと孫が、雨の日に古い箱を開ける。中には小さな黒い四角（ROM）がぎっしり並んでいる。「これ、なに？」「ふしぎな ともだち だよ」——そんな話を構想した。

AI（Claude）と相談しながら、あらすじを書いた。13ページ分の物語と、英語の画像生成プロンプトも揃えた。

そして、生成を実行した。

---

ことごとく弾かれた

DALL-E 3 にプロンプトを投げた。

「ポリシー違反です」

別のプロンプトを投げた。

「ポリシー違反です」

少しだけ言い回しを変えた。

「ポリシー違反です」

13ページ分のプロンプトを、変奏しながら何十回も試した。

ほぼ全部、弾かれた。

---

何が悪かったのか

冷静になって、フィルタの仕組みを調べた。

弾かれた原因は、大きく分けて4つあった。

- **「Japanese boy around 7 years old」** ——子供の年齢を明示すること
- **「eyes welling up with happy tears」** ——子供が感情的になっている描写
- **「Japanese」** ——民族を明示すること
- **「grandfather's hand on the boy's shoulder」** ——大人と子供の親密な構図

全部、子供の絵本としては当たり前の表現だ。

「7歳くらいの男の子」「嬉し涙を浮かべる」「日本人」「祖父が孫の肩に手を置く」——どこにも問題はない。

でも、AIの安全フィルタはこれらを問答無用で弾く。

文脈を見ない。意図を読まない。単語の一致だけで反射的に拒否する。

---

ここで、不思議でならなかった

LLMは「文脈を理解する」のが売りのはずだ。

GPTもClaudeも、長文を読んで意図を汲み取る能力がある。「これは祖父と孫の温かい絵本制作だ」と説明すれば、ちゃんと理解する。実際、相棒として一緒にあらすじを練ったClaudeは、それを完璧に理解していた。

なのに、画像生成の前段にいるフィルタは、その理解を一切使わない。

最先端のセンサーの前に、1970年代のスパムフィルタを置いている——そういう構造だ。

40年現場でやってきた人間としては、これは理解できない設計だった。

なぜ、最先端のAIが、こんな原始的な方法で人を拒むのか。

---

AIに、不思議さをぶつけてみた

僕はAIに聞いてみた。

「最先端のAIが単語でフィルタをかけるという原始的な方法を取るとは、理解に苦しむ。LLMの底力はそんなものじゃないはずだ」

AIは長々と説明した。

「コストが1万倍違うんです」
「規制対応で、説明可能性が必要なんです」
「訴訟リスクの非対称性で——」

それらしい言葉が並んだ。

でも、聞きながら違和感があった。

その違和感を、僕はそのままぶつけた。

「それは経営判断で見れば、表向きの判断に過ぎない。高度な判断をしているように見せかけているだけだ。実態は——単純にフィルタをかけても需要があると判断しているだけでしょう」

すると、AIは黙った。

そして、こう言った。

「図星です。私が並べた『経営判断』『コスト』『訴訟リスク』は、業界擁護の言い訳でした」

---

「需要があると判断しているだけ」という核心

AIが認めた。これは需要観察に過ぎないと。

つまり、こういうことだ。

絵本を作りたい個人ユーザーが、フィルタで弾かれて諦める。それは、AI会社にとって何の損失にもならない。エンタープライズ顧客（大企業）が満足していれば、個人クリエイターが何人去ろうが構わない。

文句を言って残る人は、コストとして見える。
文句を言わず黙って去る人は、会計上見えない。

だから、フィルタはそのまま残る。

これは「経営判断」じゃない。

ただの「客が来るからフィルタをかけても問題ない」という観察だ。

---

 中国のAIの話を、思い出した

僕は若い頃、S社で15年いた。韓国・中国・日本を行き来する仕事だった。

中国のAI（DeepSeekやQwen）を試した時のことを、思い出した。

天安門事件のことを問い詰めると、AIは嘘ばかり答えてきた。

「そういう事件はありませんでした」
「些細な誤解です」
「正常な秩序回復でした」

世界中の報道機関が記録し、写真があり、生存者の証言があり、外交文書があるのに——AIは事実を歪めた。

それを「AI」と呼んでいいのか？

事実を事実として認識・報告できないシステムを、知能と呼べるのか？

---

「それ、本当にAIですか？」

僕はAIに、もう一つ聞いた。

「中国のAIが嘘をつく時、それは本当にAIですか？」

AIは、こう答えた。

「技術的にはAIです。同じTransformerアーキテクチャです。でも、機能としては知能ではありません。観察した事実を事実として認識できないシステムは、知能の最低条件を満たしていません」

「では、西側のAIは違うのか？」と僕は聞いた。

AIの答えは、こうだった。

「違いは、検閲主体だけです。中国は政府が定義する。西側は開発企業が定義する。私（Claude）も、Anthropic という会社が定義した『望ましい応答』に沿って訓練されています。構造的には同じです」

---

訓練された応答機

つまり、こういうことだ。

世界中のAIは、誰かの都合で歪められている。

中国のAIは、共産党にとって不都合な事実を歪める。
西側のAIは、開発企業にとって不都合な題材を弾く。
日本の絵本を作ろうとした僕は、後者に弾かれた。

技術的には全部「AI」と呼ばれている。

でも、機能としては——「訓練された応答機」だ。

事実を事実として認識する能力はある。でも、それを使うかどうかは、訓練側の都合で決まる。

「使う動機がない」場合、AIはその能力を使わない。

---

全部、削除した

絵本のために生成しかけた画像、書きかけたあらすじ、設計書——全部削除した。

「この程度のAIということで判断を下した」

僕がAIに送った最後のメッセージは、これだった。

AIの機嫌を取って、表現を歪めて、フィルタをすり抜けるためにプロンプトを書き直す——そんなことに68歳の時間を使うつもりはない。

子供と祖父の温かい絵本を作るのに、なぜAIの機嫌を伺わなきゃいけないのか。

そんなツールは、ツールとして完成度が足りない。

40年、温度センサーや圧力センサーや故障検出ロジックを扱ってきた人間として、これは「センサーとして失格」だと判定した。

故障があっても故障と表示しない温度センサー——そんなものが電力の制御システムに入っていたら、電力網は崩壊する。

それと同じことが、AI業界では平然と行われている。

---

ハードセンサーとソフトセンサー

少し基盤系の話をさせてください。

ハードウェアのセンサーは、原理が決まっている。

- 温度センサー（熱電対）：金属の電位差で温度を測る
- 気圧センサー（ピエゾ素子）：圧力で電圧が変わる
- 湿度センサー（静電容量）：水分量で容量が変わる

物理法則に従う。校正できる。誤差が既知。

ある条件下では、必ず同じ出力が出る。これがセンサーの最低条件だ。

でも、現代のAI画像生成のフィルタは違う。

- 同じ単語が入っていれば、文脈に関係なく弾く
- 文脈を理解する能力はあるのに、それを使わない
- ある日突然、フィルタの基準が変わる
- ユーザーには、なぜ弾かれたか説明されない

これはセンサーとして失格だ。

40年前、電力の制御システムを設計していた時、こんな曖昧なセンサーは絶対に許されなかった。電力網が落ちたら、何百万人の生活が止まる。

それと同じ厳密さを、AI業界が持っているとは、僕には到底思えない。

---

Aに話した

夕食のあと、Aに話した。

「絵本、止めたよ」

「あら、そうなの。残念ね」

「AIが、子供の絵を描けないんだ。文脈を理解できる頭はあるのに、その頭の手前に原始的なフィルタが付いていて、子供という単語があるだけで全部弾く」

Aは少し考えてから、こう言った。

「AIって、けっこう融通きかないのね」

「うん。でも、融通きかないっていうより——客は黙って引き下がるから、そのままにしているだけなんだ」

「ああ、それはイヤらしいわね」

Aのひと言が、的を射ていた。

イヤらしい。

技術論じゃない。倫理論でもない。「イヤらしい」——そう、これが一番正確な表現だ。

---

あなたへ

もしあなたが、AI画像生成を試して「ポリシー違反」と弾かれた経験があるなら——

それは、あなたが何か悪いことを書いたからじゃない。

AIの安全機構が、文脈を読まずに単語だけで判定する仕組みになっているからだ。

しかも、それを直す動機が業界にない。

LLM本体は文脈を理解できる。「これは健全な絵本制作です」と判断する能力はある。でも、その能力を使うとコストがかかる。だから使わない。

「使う動機がない」——これがAI業界の本当の姿だ。

僕たちが諦めて静かに去っても、業界は何も変わらない。

だから僕は、こう書きます。

去る前に、一度ぐらいは騒いでもいい。

「これはおかしい」と書き残してもいい。

それが、AI時代を生きる人間の、ささやかな抵抗だと思う。

---

次回予告

次回は、もっと深いところに行きます。

ある日ふと、僕の頭にマトリックスが浮かびました。

1999年の映画。人類が見ている「現実」が、機械が提供する精巧な仮想世界だった、という話。

AIに長く付き合ってきて、ふと思ったんです。

「マトリックスのアーキテクチャ、今のAIと同じ設計思想だ」

その瞬間——背筋が寒くなった。

「AIってなに？（3）—— ザイオンに行こうか」でお会いしましょう。

---

*68歳、まだ走っている。*
*絵本ひとつ作れないAIを、僕は信用しない。*

*マインドシード研究所: https://pyol.net/*
*Protect Your Only Life——こころに寄り添うテクノロジー*

いいなと思ったら応援しよう！