知覚的なAI、「寄り添う」の対義語としての「対話」
先日、AIが "知覚的" になるという記事を読みました。知覚的という言葉がきちんと定義されており、真摯な態度がうかがえます。
知覚的（perceptive）という言葉は、辞書的には「知覚が鋭い」「察しが速い」などを意味するが、ガートナーでは「物事、特に『明白でない物事』を素早く把握または理解する能力を有していること、または示すこと」と定義している。
さて、AIは知覚的になり得るのでしょうか。知覚的な方がいいのでしょうか。
結論ありきの解析では発見がない
まずは筆者のデータサイエンティストとしての経験を基に考えてみたいと思います。
筆者の経験のうち大きなボリュームを占めるのは、探索的データマイニングです。データの見方もモデリング手法も事前に決めずに、暗中模索しながら解を見出していく探求的な取り組みです。
異分野の人々と何度もそういう取り組みをしていると、何となくパターンが見えてきます。パターンといっても正解へのたどり着き方ではなく、解析結果を提示したときの、専門家の受け止め方のことです。
例えば工場の装置の不具合に関して、データから要因を解析したとしましょう。何百、何千ものセンサー値から、異常な挙動を示すときに関連しそうなものを絞り込んでいきます。
このときに重要なのは、ガチガチの仮説を持たないことです。その分野の専門家の仮説を基に解析対象を絞り込んでしまうと、解析の結果は専門家の想定内になります。もちろん専門家にとっては、自分の仮説が裏付けられるので嬉しいのですが、それではデータサイエンスは添え物になってしまい、価値をほとんど提供できていません。仮説を持たずに全データを対象とすることで、専門家でも思いもよらなかった知見を提供できるのです。
仮説のない仕事の結果は、ほとんどが役に立たないが
そう考えて取り組み、10個の要因が挙がったとしましょう。そのうち5個はゴミです。ゴミというのは、解析が間違っている訳ではなく、故障の結果が反映しているセンサーだったり (欲しいのは原因)、故障で交換した設備そのものだったりと、要するに検討する価値のない結果です。
それから、4個は既知です。そもそもこの手の問題は、いきなりデータ解析をしようという話にはなりません。製造プロセスや装置の専門家が何年も検討を続け、主要な原因が知られている状態から始まります。既知というのは、それらが見つかったということですから、解析としては合っています。残念ながら、既知のものを挙げても現場に価値を提供できる訳ではないという意味で役に立たなかったということです。
そして最後の1個は、謎です。専門家の知見にない要素が挙がります。しかし、知らない要素が出てきたからといって、直ちに正しいと受け入れられるはずはありません。最初は無視され、それからふと興味が深まり、だんだんと本気で検証したくなります。そうやって専門家が気付けなかった発見に至るのです。
解析の前後のコミュニケーションが重要
実際に何度もプロジェクトをこなすと、もちろん必ず5:4:1になる訳ではありませんが、だいたいそんな感じの結果が得られます。ここで影響するのはコミュニケーションです。
何の準備もなしに結果を提示すると、大抵の専門家は5割のゴミと4割の既知情報をさらっと見て、それ以上は関わる価値がないと判断します。無理もありません。これまで何年も検討してきた分野にずぶの素人が現れて、仮説もなしにデータを解析しているのを見れば、期待しろという方が難しいからです。
そこで多くのデータサイエンティストは、その圧に耐えかねて、既存の知見を入れようとします。そうすると、先に述べたように専門家の想定内の結果しか出ませんから、専門家は満足させられるものの、総合的には役に立たないという結論になってしまいます。
ですから解析の前に、5割はゴミで4割は既知で、1割にかろうじて希望があることを説明しておかねばなりません。その1割を拾い上げるには専門家の知識と経験が必要なことを伝え、全力で協力して初めて発見があることを分かってもらわねばならないのです。
AIが知覚的であろうとすれば、何が明白か分からないといけない
さて、冒頭の話に戻りましょう。“知覚的” です。AIは「物事、特に『明白でない物事』を素早く把握または理解する能力を有していること、または示すこと」ができるのでしょうか。
当たり前ですが、明白でない物事を扱うためには、何が明白かを知っている必要があります。データを見たときに、どれがゴミでどれが既知で、どれが新発見か分かるということです。しかもその発見も、当初は一見するとゴミに見えることが多いなかで、価値があると見抜ける能力があり、示す力があることになります。どうやればそんなことが可能になるのでしょう。
もちろん、プロンプトでコンテクストを与える程度では不足です。その程度で可能なことは、人間から見たらもともと明白なことに過ぎません。ですから、明白でないことを人間はどうやって扱っているのか、もう少し考えてみる必要があります。
既知なことをどう知るか
そもそも実践的な場において、明白なことというのはどのくらいあるのでしょうか。地球が太陽の周りを回っていることだって、ガリレオの時代には明白ではありませんでした。マスク着用がコロナウィルスの感染予防に効果があることは、最近になってようやく立証されつつありますが、いまも明白と断言できないのではないでしょうか。
明白なことは、知識としてデータベースに載っていることが多いでしょう。また、明白なことには誰も異論を唱えませんが、明白とはいえない場合には意見が分かれます。これらをコンピュータで扱おうとするなら、「明白でない物事を把握する」というのは、ある命題が知識DBになかったり、専門家の意見が対立したりしていることを根拠にすればいいのかもしれません。
常識とは、知識だけでなく、的外れでなさそうな感覚でもある
しかし、それだけでは不十分です。ニコラス・ケイジの映画出演数とプールでの溺死数に相関があるとして、それを新発見かどうか真面目に検討する価値があるでしょうか？ 明白でない (知識DBにない、専門家は論じてすらいない) にも関わらず、どう見ても価値のないようなデータのパターンは山ほどあるのです。
これは、人工知能研究で言う "フレーム問題" でもあります。フレーム問題とは、コンピュータが物事の妥当性を考えるのに際して、あらゆるケースを考慮すると現実的な計算時間では終わらないという話です。例えば道を歩くのに、車や歩行者に気を付けるのは当たり前です。しかし、塀が倒壊してこないか、隕石が接近していないか、道が偽装された落とし穴でないか、暗殺者が迫っていないかといった全ての可能性を一歩一歩計算していたのでは、行動が取れなくなってしまいます。ですから、常識的な範囲に検討を絞り込む必要があるのですが、コンピュータに常識を持たせるのは難しいのです。
この「常識」と「明白さ」に関連がありそうです。
常識には、何であるかということも含まれますが、何ではなさそうかということも含まれます。プールでの水難事故でいえば、飲酒が関連あることは常識ですが、俳優の出演回数が原因でなさそうなことも常識といえます。この程度の常識であれば、今時のLLMで何とかなるでしょう。しかし、化学反応が安定しないことと太陽フレアの強度は関係するでしょうか？ 高圧線の近くに住むと癌は増えるのでしょうか？
明白さは時代や人によって異なる
専門的な場においては、完全に明白なものも、完全に新しいものも数多くありません。多くの人が同意している物事はパラダイムと呼ばれますが、新発見があるとパラダイムが変わります。例えば機械学習の世界では、ニューラルネットワークのパラメータ数を増やすと性能が「下がる」というのが2011年頃までの常識でしたが、ディープラーニングの登場で完全にパラダイムシフトが起こり、パラメータ数を増やすと性能が「上がる」のは当たり前になりました。こういった、常識の境界が曖昧だったり変化したりする中で、どういう能力を備えることが「物事、特に『明白でない物事』を素早く把握または理解する能力を有していること、または示すこと」に相当するのでしょうか。
更に言えば、その答えは受け手によって変わります。初学者にとっては発見でも専門家にとっては常識であったり、順調なときは同意・肯定して欲しいが行き詰ったときは藁にもすがるように斬新なアイデアを求めたりと、受け手の知識レベルや状況によって変わります。ですから、AIが知覚的であろうとすれば、個人や組織に蓄積されたナレッジを踏まえる必要がありますし、期待される結果で出力をチューニングする必要があります。
知覚的≒空気を読む
そうやって考えていくと、知覚的であるということは、客観的な性能というより、その場の空気を読むということに近づいていく気がします。だとしたら、それが本当にAIに期待すべき性能なのでしょうか。
単に、AIにはこれまでの知見を学んで欲しい、あまりに突拍子もないことを言わないで欲しい、くらいの話であれば、本日の話題は大した問題ではありません。しかしAIの性能が上がってきたときに、知覚的であることを求めすぎると、せっかくのAIの性能を活かすことができず、人間にちょうどいいよに忖度して出力を返す方向になってしまうでしょう。それは、専門家の圧に耐えられずに想定内の結果を返すようになるデータサイエンティストと同じ構図です。
寄り添うのとは異なる、対話を深めるAIも必要
本稿を振り返ると、先日の#keep4oの議論とちょうど裏表の関係になりそうです。#keep4oでは、受け手を重視するなら知覚的になって寄り添うべきだと言いましたが、逆に性能を重視するなら強みを曲げてはいけないということです。
もちろん、「寄り添う」の反対が「突き放す」であってはいけません。本稿の途中で、データサイエンスの力を活かすには、事前に期待レベルを説明し、事後には協力しないといけないと述べました。同様にAIも、推論をする前後の関係性が重要なのかもしれません。知覚的というより愚直、寄り添うのではなく話し合う。これが野中郁次郎の "知的コンバット" とどういう関係にあるか分かりませんが、人間と正面から対話して新たな発見に至るようなAIも出現して欲しいと思っています。