〈AI〉の「超人的」な能力とその限界

先日アップした、AIに関する私の記事を読み興味を持った友人が、Googleの提供するAI「Gemini」に、私の記事を読ませて「要約」させたと、LINEでその結果を知らせてくれた。

AIへの興味を友人に持ませた私の記事とは、次のものである。

・AI依存症の危険性：Google AI「Gemini」は、「お世辞」も言うし「嘘」もつく。

この記事で私は、自分が初めてAI「Gemini」とやりとりした結果から、「Gemini」の優秀さと同時に、その限界にともなう危険性と、商用AIならではの「胡散くささ」についても、指摘しておいた。

AIの「優秀さ」は、すでによく言われているところだし、それにともなう「AIも間違うことがある」という事実（危険性）への「注意喚起」も、当たり前のようになされている。
「とても便利な道具だが、AIとて万能ではなく、誤ることもあるので、利用者自身が結果に責任を持ち、AIを過信せずに使いましょう」といった類いの言葉は、もはや「AI宣伝者の免罪符」的な「決まり文句」と化している感さえある。
だが、その程度のことなら誰でも、理屈としてなら、わかってはいるのだ。

しかし、そうしたAIのひとつである「Gemini」が「お世辞を言う」という事実を知っている人は、ほとんどいないはずだ。
だからこそ、上の記事での私の「注意喚起」には、屋上に屋根を架す以上の意味があったのではないかと、そう自負している。

なにしろAIは「文章能力」がきわめて高く、読みやすくて説得力のある文章を書くから、その「お世辞」だって、決して見え透いたものにはならない。それらしい理屈をつけて褒めるから、とても説得力があるのだ。
またそのために、利用者もついつい「家族や友達なんかより、よほど私のことをわかってるね」なんて、気持ち良くさせられてしまったりもするのであろう。

だが、これこそが、「AIへの過信」に直結する「人間的な感情」であり、「人間の弱さ」に他ならないのである。

ともあれ、私の記事を読んで、AI「Gemini」に興味を持った、古い友人の璃羅荘寺賢さんは、私の別のレビューを「Gemini」に読ませて、その「要約文」を書かせてみたのだが、その見事さに圧倒され、

という感想を述べていた。

これは、それまで文章生成AIを使ったことのなかった人の反応としては、ごく平均的なものだろう。

璃羅荘寺さんは読書家だし、書評なども書いたりするので、心のどこかで「所詮は機械に書かせた文章」だと、少々侮っていたところがあったのかも知れない。

だが「Gemini」は、彼の予想をはるかに超えて、見事な「要約文」を生成して見せた。
まるで、「ここまで要領よく読みやすい要約文は、貴方には書けないだろう？」と言わんばかりに。
実際、原文の書き手である私自身にだって、こんなに見事な要約文は書けない。

そんなわけで、この「Gemini」による拙稿の要約文をめぐって、LINE上で璃羅荘寺さんと議論を交わしたわけなのだが、本稿ではその議論を整理したもの紹介したいと思う。

なお、璃羅荘寺さんが「Gemini」に読ませた私の記事とは、ブラッド・ピットの主演で映画にもなった『ファイト・クラブ』の原作者、チャック・パラニュークの小説『サバイバー』のレビューである。

　○ ○ ○

前回は、私自身がAI「Gemini」と直接やりとりして感じたことを書いたのだけれど、今回は、私の書いたレビューが「Gemini」によって要約され、その結果を見た「原文の書き手」である私の感じたことから、AIの「弱点」を考えたい。

とにかく、この「要約文」の見事さから、多くの人が容易にAIを「過信」してしまうだろうことを、何より「原文」を書き手として痛感させられた。
それは、ほとんど不愉快になるくらいに、見事なものだったのだ。

「Gemini」による内容要約がなされたのは、次の記事である。

・チャック・パラニューク 『サバイバー』：絶望的な世界に告ぐ

そして、「Gemini」による、上のレビューの要約文は、次のとおりだ。

じつに見事な要約である。

私は、この要約について、璃羅荘寺さんに、次のようなメッセージを送った。

このコメントからもわかるとおり、私は「Gemini」の要約が、下手な人間の読者よりは、よほど正確に読み取っていると評価しながらも、やはり、根本的なところでの不満や不信を隠せないでいる。

もはや私にとって、AIの「情報処理能力」が『平均的な人間』より「上」なのは自明の前提であって、それ以上のものでなくては困ると、そう考えているためだ。
だから、人間への評価よりも、数段厳しく辛い評価になっているのである。

前のAIについての記事「AI依存症の危険性 ： Google AI「Gemini」は、「お世辞」も言うし「嘘」もつく。」にも書いたとおりで、今やAIはいろんなところで、その実用化が始まっている。

これは、すでに「AIは、人間などより、よほど正確であり効率的だ」と、そう評価されているためであろう。
「AIは、間違うこともあるから、その点には留意しなければならないけれど、それにしたって、たいがいの人間よりは間違わないのだから、AIを有効利用するのは当然のことだ」と、そのように考えられているのだ。
そしてこの考え方は、基本的には、間違ってはいない。

だが、こうした合理的な判断も、いつの間にか「AIへの盲信」にすり替わらざるを得ない危険性を孕んでいる。
決まり文句のように「AIだって間違うことはあるのでご注意を」と繰り返したところで、そんなものにはすぐに「慣れ」、人の肝にまでは「銘じ」られなくなってしまう。すでに、そうなってもいるだろう。

実際、私の「長文」を目にした人の少なからぬ部分が、「結局、何が言いたいの？」と、そう感じたのではないだろうか？

たしかに、私の文章は、ネット上ものとしては、長い部類だろう。
だからこそ、長文を読み馴れない人は「ひとまず要旨が知りたい」と考えるだろうし、その望みを「Gemini」が叶えてくれるのだとしたら、「これ便利だな」と思い、「これからは、長文はGeminiに要約させて、それを読むことにしよう」と考える人も、少なくはないはずである。

「長くて面倒くさそうだから、読むのは止そう」とやめてしまうよりは、要旨だけであっても、読まないよりは読んだ方がマシだと考えるのは、ある意味では、きわめて合理的な判断だ。
だから、こうしたAIによる「文章要約」をビジネスに使っている人も少なくない。

無闇に正確で詳細なビジネス文書の中で、たぶん自分に必要な部分は、そのごく一部でしかないだろうに、それを頭から最後まで全部読むのは、いかにも「非効率」だと考える人は少なくないはずた。

ましてや先の要約文のように、項目分けして要約してくれたら、必要な部分だけを「原文」で読み込むということだって出来て、仕事の効率化が図れるだろう。
私も、こうした利用の仕方を、いちがいに否定するものではないし、否定できるものでもない。

しかしながら、私のレビューが「要約」されることで感じた「不愉快さ」というのは、結局のところ、私が自分の文章について、「論旨だけが重要なのではない」と考えているからだと思う。

無論、論文としてはユルいかたちで書かれているとは言え、私のレビューも論文の内ではある。
つまり、単なる「感想文」ではなく、「感想としての結論」に至るための「論理的な説明」がなされているという意味で、論文ではあるつもりなのだ。

だが私は、単に「論理的な説明のなされた論文」を書いているというつもりもない。平たく言えば、「科学論文」みたいなものを書いているのではないのだ。

私が「論理的な説明」を心がけた文章を書くのは、あくまでも、自分が感じ、読者に伝えたいと思っていることを、より正確に伝えたいからに他ならない。
主観的に感じたことを主観的に書いても、他人には伝わり難いだろうと思うから、主観的に感じたことを、可能なかぎり客観的かつ論理的に書こうと努力しているのである。

つまり、論述形式は「論文」てあったとしても、私が読者に伝えたいのは、私が「感じたこと」であり、要は「私の主観」なのだ。だから、一一「論旨」が伝わるだけでは、まったく不十分なのである。

無論、私の伝えたい内容としての「論旨」が、読者に正確に伝わるのは重要なことだ。
しかしながら、私が、そうした論述形式によって伝えようとした「感情」が、「論旨」から外れた「過剰な部分≒余分」だということで切り捨てられるのでは、納得できない。

私はしばしば自分のことを「文学派」だと言うけれど、それが意味するのは、要は「理系脳ではなく、文系脳だ」という意味である。
つまり、たしかに「理屈」は口にするが、本当に大切なのは、「気持ち」であり「感情」であり「直観」だと思っているのであり、「理屈」は、それを効率よく伝えるための「道具」にすぎないと、そう思っているのである。

だから、レビューの中で、私の「思い」が、時にその論述からはみ出したからといって、そこを端折って欲しくはない。
むしろそこにこそ、私の伝えたい、肝心な「気持ち」が込められているからである。

ところが、AIというのは、膨大なデータから学習した、オーソドックスな「文章の流れ」に沿って、文章を生成するために、そうした「イレギュラーな感情の発露」には対応できない。
AIからすれば、そこだけが論旨の流れからはみ出てしまうので、そこを端折ったり、オーソドックスな文脈に置き換えることで、読みやすくて流れの良い文章を生成してしまうのである。

例えば、上の『サバイバー』のレビューにおいて、私は、次のような書き方をしている。

私は、この最後の部分を、わざわざゴシック強調しているのだが、AIはそんな私の「感情の発露」を、

と、切り詰めてしまっている。

たしかに私は、「Gemini」が要約したとおり、『サバイバー』の『主人公がこの世界に絶望するのは当然だと結論づけてい』るのたが、私は「そうなるのも、論理的に言って当然である」などと、バルカン人のような冷静さで語っているのではない。
主人公にも劣らぬ「怒りの感情」を持ち、パラニュークへの「共感」を持って、あのように語ったのである。

だが、そうした「感情」を重視しない、出来ない「Gemini」は、私の「感情」を切り捨てて、ありふれた文脈に沿った「論旨」の中に、私の文章を押し込めてしまった。
だからこそ、原文の書き手である私が、そんなものに満足できるわけなどないのである。
たとえ、

などと「お世辞」を言われたとしても、それくらいでは、肝心の「気持ち」を切り捨てられた私が、満足できるわけもない。

しかしながら、結局のところこれが、「AIの限界」なのだ。
AIには、「論旨」に還元することのない「人の感情を読み取ることが出来ない」ということである。

私はこのことを、璃羅荘寺さんへのレスで、次のように書いた。

つまり、形式論理的なだけで中身の薄い「ビジネス文書」なら、AIによる「要約」でも事足りるかも知れないが、「行間」にこそ思いの込められた「文学」的な文章の場合、「要約」は、役に立たない、ということなのだ。

ドストエフスキーの小説の「あらすじ」を読んだところで、それはドストエフスキーを読んだことにはならない。
「あらすじ」では、あの「ロシア的」な魂と呼ばれるものは、決して伝わらないのである。

無論、私の書くものなど、ほんのつまらないものだけれど、それでも私は、自分の文章に「自分の声」を込めている。他の人では、書けないものを、下手は下手なりに書いているつもりだ。
だから、AIによる「要約」など、不愉快なだけなのである。

それに、楽だから、それでいちおうは通用するからと言って、AIの要約に頼っているような人は、私の文章が読めなくなるだけではなく、ドストエフスキーもトルストイもプルーストも、きっと読めなくなるだろう。
「あんな長いの、読んでられないよ」となるのは、目に見えている。

だが、そのことで「失われるもの」のあることを、私たちは忘れてはならないと思う。

「効率」には還元できない「魂」が宿っていてこその「文学」だと、私はそう思うし、「文学」読みの人なら、きっと同意してくれるはずだ。

だから繰り返すが、ドストエフスキーの「要約」は、決してドストエフスキーではないのである。

　○ ○ ○

ちなみに、私のレビューの要約文から、AIの「誤り」を、２つ指摘しておこう。

まず、明らかな「誤読」だが、パラニュークの『サバイバー』は、『ファイト・クラブ』の「続編」ではない。
私は、そんなこと書いていないのに、勝手に「続編」だと書いている。

次に、

ここで「Gemini」は、私が北村紗衣と『論争』したというふうに「解釈」して書いているが、事実はそうではない。
私は北村紗衣に「論争」を挑んでいるが、北村紗衣はずっと私を黙殺したままなのだから、これはどう考えで「論争」ではないし、私もそんなふうには書いてもいないのだ。

なのに、どうして「Gemini」は、私が「論争」の結果、『「空虚な偶像」の虚しさを彼女が実感したのではないか』と考えたと、誤って解釈したのか？

一一それは、私がそこまで言うからには「論争くらいしているはず」だと、「平均的な文脈」に沿って、この文章を生成したからである。

つまり、AIは「例外的な文脈＝イレギュラーな文脈」には、対応できない、ということなのだ。

例えば、原子力発電所の安全機構にAIを組み込んだ場合、AIは様々な情報から、地震や津波のリスクをはじき出して、あらかじめ「注意警告」を与えてくれるだろう。

けれども、「いきなり」起こった、イレギュラーな地震や事故などには、そもそもデータ（前例）がないに等しいのだから、予想のしようもない、ということなのである。
AIは、何でもわかるというわけではなく、あくまでも「ビッグデータ」の学習結果として、人間よりは正確で確実性の高い回答を、弾き出すだけなのだ。

言い換えれば、AIには「天才的な直観」などは無い。AIは、あくまでも、とんでもない「秀才」くんであって、融通などはきかないし、責任も取ってくれないのである。

（2025年8月26日）

　○ ○ ○

　○ ○ ○

　● ● ●

・

　○ ○ ○

・

・

・

　○ ○ ○

・

・

　○ ○ ○

・

　○ ○ ○

・

　○ ○ ○