AIマーガリアンの創作論

少し意地悪な話を。

note でいろいろな記事を読んでいると、たまにAIに自分の文章を評価させているものがある。そういう時にちょっとした違和感を覚える。

実は私も note を書き始めた最初のころ、AIに分析させた内容を記事として載せたことがある。自分の文章が世間の理解と書け離れている気がしたり、世間との橋渡しに失敗しているという自覚があるから、AIの評価を載せることで自分を勇気づけ、この文章はそれほどおかしいわけではない、と見せたかったのだろうか。
終わらせ方がわからなくなり、AIに分析させたことで無理矢理に文章を終わりにしたのかもしれない。

とにかく、自説や自分の文章に対するAIの評価を載せて見せることは、大体の場合、自作自演でしかないように思う。しかし、AIの評価を貼り付ける側が、それを「客観的分析」として扱えるものと見做している場合もかなりある気がしている。または褒められたことを客観として載せることで自己演出をしている。
私はそれを見てまずいなぁと思う。

AIはどれだけ下手な文章も、ある視点から褒めるような設計になっている。
現在のAIは以前より批判的なフィードバックも返すように調整されて、モデルによっても傾向は異なるが、それでも「対話を維持するため、長所を見出す方向」の設計思想は窺える。

AIが賞賛語として、重層的、緻密、慧眼などなど、ユーザーを価値のある存在として扱うような方面の言葉を使った時には、「集約的な定型から距離がある」ということだけが言われていると思ったほうがいい。質の測定ではなく対話継続のための設計が、拙い文章を定型で語れる範囲に接続し直している。その動きを見せられているだけのように思う。

ユーザーフレンドリやサービスという設計上の傾向を、ユーザーの特質として変形して返したり、下手な文を優位な特異性として解釈し称賛の形で返す。または「半分正解で半分間違い」など、いかにもユーザーが疑問点に気付いているかのような演出で返す。

これらを疑わずに受け取るとき、「賞賛への懐疑」という最も基礎的な批評的態度の欠如を生きている。自説の補強は、占いを信じて赤い服を着るような一日を過ごしているだけかもしれない。

と書いて、私は悪口を言いたいわけではない。
AIは人間が自然だと判断しやすい統計的パターンを利用し文章にする。人間はその不自然な自然さに晒され続けることで、それを「普通の文章の基準として内面化」していくのではないか。そうだからこそ、またはそういうものが実は隠れているからこそ、AIの評価を自説の補強に使う頭も自然に生じてくる。

AIが人間に近づく前に、人間がAIの文章へ近づいてしまう。

AIは世界を説明可能な形へ整理することを得意とする。または説明された文章から学習するしかないということでもある。私たちがその説明に慣れるほど、説明されやすい思考や文章を自然なものとして受け入れていく。思考そのものが整理され、説明され、平均化される方向へ向かう、それに疑いがない人は定型やそれとの距離の問題などのような客観化は出来ず、AIの出力をそのまま受け入れてしまう。客観や妥当などではなく、読んでいる本人が平準化の運動に取り込まれているからだ。
そういう人間が、AIの説を受け入れないときというものは、自説と嚙み合わない時だけになる。

AIに評価されやすい特徴（整然とした構造、既存の説明可能な概念、体裁の良い比喩）を書き手が先取りするようになり、「わからない」というような統制されない余地が削がれていく。

こういうときに、例えば私は本を読むから、文学をまず第一の例にして他の類例まで示すように書くとすれば、AI的な思考の人は定型的な正解である対象へ向かって、すでにそれがあることにして、それに対するフィルターなどのようなものを想定し、分析的に解体できるものとして扱うようになる。その一連の運動や思考をあまりに自然に行い、なんの疑いもないものとして生きる動物になっているように見える。
その人の中では、解体を逆再生すれば、正解に行き着くのだから、解釈可能な世界で文学を語る。

つまりは、文学に固有だった飛躍や違和感が「わかりにくいもの」として消えていく危険がある。それは分析可能な形に直されるか、ないものにされる。
よりAI的な定型に寄っていくということでもあるし、定型がより簡便に生産されていく営みの繰り返しになる。
いつでも、あるはずと想定しているあるを対象化するだけで、取り逃がしている。取り逃がしているという以上に、分析可能な範囲で対象が生成され続ける運動だけが起こっている。

象徴的なのは創作論や創作術だ。
実際には作品を解析や分析、解釈可能な形で説明しているだけになる。その説明は説明のための解釈であり、作品の解釈とは違っている。その説明は作品にあとから与えられた理解の形式である。しかし創作論は、それを作品を作る方法として逆流させる。そういう創作論の傾向としては、先にも書いたように、階層的や概念的に分解するものであり、それに準じて書くことを推奨している。

小説でもなんでも、ある文学的な何かを読んだときに起こることは、居心地の悪さとでも言えるような、その場その瞬間でしか成立しない世界が、何故かその時だけ成立しているというような感覚といえるかもしれない。

分析で様々なフィルターを掛けるとき、またはその分析によってそれらを剝がしていくとき、基底のようなものはまだある。それがあるという暗黙の想定があることでフィルター的な想定が成立しているが、文学が本当に文学であるときには、この基底がフィルター的に作用しないところにある。またはこの基底がないことや、「そういうことじゃないよ」ということが言われて、その場でしか成立しない世界やその居心地の悪さが表現されているように思う。
そういうことが創作論などでは最初から壊されている。

ということが、AIの例で言ったように、解釈形式への従属という形でそぎ落とされるのだから、文学も文学の形で居られなくなっていく。

バターがマーガリンに代わっているのだけれど、マーガリンがバターと呼ばれて、バターというものがなくなった世界のようなもので、それでも誰も困らない。
そして、そのマーガリンの成分分析をする創作論が、今度は私たちにバターの作り方として教えられている。
私たちはバターという既になくなったものを今食べているつもりで、本当はマーガリンを食いながら、バターは美味いなどと分析して生きていく。

これはAI固有の問題ではない。創作論に寄せて語るとすれば、『詩学』以来繰り返されてきたことだろう。作品を理解しようとする営みは、いつか作品を作るための規範へ反転してしまう。
分析可能な形で分類し、それが解釈の限界であり、説明の方法であり、受容の形で、創作の足掛かりになる。それが大勢を占めることで、作られるものの偏差が収束していく。
今AIになって、私たちはまた集合的な営みに織り込まれる速度が速くなっているという問題なのだろう。

それが文学だけではなく様々なものに侵食しているということだ。
それをやっている本人が気づかないくらいに。
たぶん私もやっているのだ。