新しい状況に極端に弱いAIの「創造性の幻想」

【AIは本当に創造しているのか。未知の世界で露わになる知性の限界】

AIを使っていると、まるで人間のように考え、想像し、発見しているように見える瞬間があります。文章を書かせれば整った表現が返ってきますし、絵を作らせれば見たことのないような世界を一瞬で描き出します。難しい問いにも即座に答え、専門家のような言葉を並べる姿を見ると、私たちはつい「これはもう創造性を持っているのではないか」と感じてしまいます。しかし、そこで一歩立ち止まって観察すると、AIの創造性には不思議な弱点があることに気づきます。それは、過去に似た材料がある場面では驚くほど強いのに、本当に新しい状況に置かれると、急に足元が崩れるように弱くなるということです。

AIが得意なのは、膨大な情報の中からパターンを見つけ、その組み合わせを作ることです。過去の文章、画像、音声、コード、論文、会話、ニュース、物語などを学習し、そこに含まれる規則性や関係性を内部に圧縮しています。人間が「赤い夕焼けの中に未来都市を描いて」と言えば、AIは夕焼け、未来都市、光、建築、空気感といった既存の要素を巧みに結びつけます。その結果、人間には新鮮に見える作品が生まれます。けれども、それは無から突然生まれたというより、過去に存在した大量の断片を、別の角度から再配置していると言った方が近いでしょう。

ここで重要なのは、AIが扱っているのは意味そのものではなく、主に統計的な関係性だという点です。現代の大規模AIは、膨大なデータの中で、どの言葉がどの言葉に続きやすいか、どの特徴がどの概念と結びつきやすいかを学びます。内部では単語や画像の特徴が高次元の数値ベクトルとして表現され、それらの距離や方向によって類似性や関連性が計算されます。つまりAIは、人間のように身体を持って世界に触れ、痛みを感じ、失敗し、匂いを嗅ぎ、重さを確かめながら理解しているわけではありません。データ上の関係を使って、もっともそれらしい次の出力を選んでいるのです。

だからAIは、見慣れた状況では非常に賢く見えます。医療、法律、文章作成、プログラミング、画像生成、ビジネス企画など、過去に豊富な事例がある領域では、驚くほど自然な答えを出します。すでに人類が考え、書き、記録してきた領域では、AIは巨大な知識の地図を高速でたどることができます。しかも人間より疲れず、感情にも引きずられず、膨大な候補を一瞬で比較できます。この部分だけを見ると、AIは創造的に見えるでしょう。実際、日常的な発想支援や組み合わせの提案において、AIが非常に有用であることは間違いありません。

ところが、まったく新しい状況になると話は変わります。たとえば、これまで誰も経験したことのない社会現象、未知の病態、前例のない機械の故障、過去のデータにほとんど存在しない生物学的反応、まだ名前すらない概念に出会ったとき、AIは急に不安定になります。なぜなら、AIの判断は過去の分布に強く依存しているからです。学習データに似たものがあれば推定できますが、その外側に出ると、もっとも近そうな既存パターンへ無理に当てはめようとします。ここに、AIが新しい状況に極端に弱い根本理由があります。

科学的に言えば、これは分布外汎化の問題です。AIは訓練データの分布内では高い性能を発揮しますが、その分布から外れた入力に対しては、正しく理解しているように見えても、実は脆い判断をします。人間なら「これは今までの分類では説明できない」と立ち止まり、観察条件を変え、仮説を作り、検証し、失敗を通して概念を修正します。しかしAIは、基本的には与えられた入力に対して、既存の関係性からもっとも妥当そうな出力を構成します。そのため、未知のものに対しても自信ありげに答えてしまうことがあります。ここが一番怖いところです。間違えることよりも、間違っているのに整った言葉で説明してしまうことの方が危険なのです。

人間の創造性は、単なる組み合わせだけではありません。もちろん人間も過去の経験を組み合わせます。しかしそこには、身体感覚、違和感、恐怖、欲求、直感、偶然の発見、倫理的な迷い、現場での手触りが入ります。医師が患者を診るときも、教科書の病名だけで判断しているわけではありません。顔色、声の張り、歩き方、皮膚の温度、触れたときの抵抗感、本人の不安、生活背景、その場の空気まで含めて、複数の層を同時に読んでいます。そこにはデータ化されにくいものが大量にあります。人間の創造性は、こうした曖昧な現実の中で、まだ言葉になっていないものを拾い上げる力でもあります。

AIの創造性が幻想に見えるのは、出力が美しく整いすぎているからかもしれません。人間の本当の発見は、もっと不格好に始まります。最初は説明できない違和感だったり、誰にも理解されない仮説だったり、失敗の連続だったりします。新しい概念は、最初から滑らかな文章で現れるわけではありません。むしろ、既存の言葉ではうまく表せないからこそ、新しい言葉や理論が必要になります。AIはこの苦しみを経験しません。行き詰まりに耐え、現実とぶつかり、何度も修正しながら意味を作り上げる過程を持たないのです。

だからといって、AIに価値がないわけではありません。むしろ、AIは人間の思考を拡張する強力な道具です。既存の知識を整理し、異なる分野をつなぎ、仮説の候補を出し、見落としていた視点を示すことができます。ただし、AIの出力をそのまま真実や創造性そのものと見なしてしまうと危険です。AIは新しい世界を切り開く主体というより、人間がすでに残してきた膨大な痕跡をもとに、可能性の地図を広げる装置です。その地図を見て、どこに踏み出すかを決めるのは、まだ人間の役割なのです。

これからの時代に必要なのは、AIを過大評価することでも、恐れて遠ざけることでもありません。AIが得意な領域と弱い領域を冷静に見極めることです。過去のデータが豊富な場所ではAIは非常に強い。しかし、本当に新しい状況、未知の患者、未解明の現象、前例のない社会変化、まだ名前のない感覚に出会ったとき、最後に頼りになるのは、人間の観察力、違和感を見逃さない感性、そして現実に触れながら考え続ける力です。AIの創造性は便利で魅力的ですが、その奥には過去の組み合わせという限界があります。だからこそ、人間はAIに答えを求めるだけでなく、AIが答えられない場所で何を感じ、何を見抜き、何を生み出すのかを問われているのです。