AIは寄り添うべきか: 合理性、直感、常識、そして良き人生と社会
先日ChatGPT5が登場したときに、バージョン4oが使えなくなったことに反発したユーザたちが「4oを返せ (#keep4o)」という運動をしました。その原因は、バージョン5がよそよそしくてユーザに寄り添ってくれないからだと言われています。「寄り添う」ことにどんな価値があるのか。筆者の苦手な領域ですが、今後のAIにとって重要そうなので考えてみたいと思います。
話を聞いてくれることの納得感
例によって、まずIT・AIを離れてアナログな世界を考えてみましょう。
筆者の知識の中で、「寄り添う」と聞いて最初に思い浮かべるのはホメオパシーでした。ホメオパシーというのは代替医療の一種で、薬の代わりにレメディという砂糖玉を用いた療法を行うものです。当然ですが、標準的な治療法に比べて効くというエビデンスはありません。しかし治療効果がないかといえばそうではなく、プラセボと同程度の効果はあると言われています。これは決して馬鹿にできるものではありません。というのも、『偽薬のミステリー』で詳しく紹介されているように、プラセボ効果というのは疾患に対して本当に効果があるからです。
ホメオパシーのような代替医療が人気なのは、一説によれば、患者さんに寄り添うからだと言われています。大病院が3時間待ち3分診療といった病院都合のシステムなのに対し、代替医療では患者さんの悩みをよく聞き、十分に納得感を醸成します。その、自分が大切にされているという感覚が、科学的な根拠よりも優先されるという構図だと思います。
科学的な「正しさ」より心に響く「納得」の方が優先されるというのは、よくある話ではないでしょうか。ネットの世界には「正論パンチ」という言葉がありますが、人間は正しさだけで動くものではありません。むしろ、正しさを振りかざすのは反発を生むばかりで、最終的に人を行動に導くことは難しいことも多いです。
それは、ビジネスの世界では「腹落ち」と呼ばれています。頭で分かる正しさだけではなく、心から納得することで決断できるという使われ方をします。
正しさと人間の感覚にはズレがある
ここで問題なのは、人間の感覚は正しさとはズレることです。物理的な刺激ですら、明るさは実際に2倍になっても2倍明るくなったと感じない一方で、電気刺激は少し強くすると大きく違いを感じるといった具合に、感覚というのは当てになりません。スティーブ・ジョブズがiPodのシャッフルモードに関して、完全にランダムにすると感覚とズレるので、少し調整していると言っているのもこの話でしょう。またカーネマンが示したように、人間は損をする方向や一度手に入れたものなどを過剰に高く評価するなど、多くの思考の癖があります。ですから、感覚的にしっくりくることと正しいことは乖離してしまうのです。
正しさへの反発
正しさと納得感が必ずしも一致しないということが分かったとして、納得感を重視するのはありなのでしょうか。
例えば鉄から金を作れるという直感があったとして、それに人生を賭けるのはお勧めできません。科学的には非常に難しいとされているからです。一方で、お酒は健康にいいという直感の場合には、もう少し複雑です。というのも、統計的にお酒が健康に悪いのは確かなのですが、その正しさはあくまで確率的なので、自分が例外になることはいくらでもあり得るからです。その場合には、直感を信じ自信を持って生きた方が充実した人生になるかもしれません。
そもそも、「正しい生活」「正しい努力」といった言葉にはうんざりという雰囲気もあります。そのひとつに、2016年に話題になった言葉に “post-truth” があります。第1次トランプ政権の成立やイギリスのEU離脱などの文脈で語られました。オックスフォード大学出版局は、post-truth を「世論を形成する際に、客観的な事実よりも、むしろ感情や個人的信条へのアピールの方がより影響力があるような状況」と定義しています。正しいことより、感情や信条から「腹落ち」することの方が価値があるという考え方です。昨今のポリティカル・“コレクトネス”への反発も同じような気がします。
人は合理的に振る舞うのにエネルギーを必要とする
ここで両論併記を目指して、正しさの価値を述べるために啓蒙主義を調べていたところ、面白い本を見つけました。ジョセフ・ヒースの『啓蒙思想2.0』です。本書は主に政治における右派・左派の説得性を通じて直感と合理性の関係を論じているのですが、非常に学びの多い一冊でした。
乱暴に要約すると、合理的に考えるというのは人間が進化的に獲得したものではないため、直感とは相反する。合理的であろうとするのには大きな努力を必要するので、独力で頑張るより合理的に振る舞える仕掛けを用意した方がいいという内容でした。本書は2012年頃のアメリカを主に扱っているのですが、その後の “post-truth” を正確に言い当てています。
この中で地味に印象的だったのは、常識を直感の側に含めていることです。この場合の常識とは、広く共有されている知識というより、「そんなの常識的に考えれば分かるでしょ」という感覚を意味します。「直感的に判断する」というと少し考えが足りない気がしますが、「常識的に判断する」といえば説得力があります。その結果として合理性が追いやられてしまうのです。
合理的だとお金が儲かり、社会は進歩する。それだけ？ それは十分な理由？
こうやっていろいろ考えてみると、ChatGPTが個人に寄り添うことをやめ、正しさに比重を置いたことに対して批判が出るのは当然でしょう。OpenAIは、汎用人工知能を経済性で定義しているくらいですから、人々に合理的な知識を提供して金銭的な成功をしてほしかったのかもしれません。しかし少なからぬユーザは、合理的経済人に近づきたかったのではなく、いちいち頭の汗をかかないような、直感的で常識的なやり取りがしたかったのかもしれないのです。
では、直感だけで、心を重視するだけでは何がいけないのか。もちろん、合理的でなければいろいろ損をする確率は高まります。またジョセフ・ヒースは、合理性こそが人類を進歩させてきたと言っています。
しかし、もしそれだけが理由なら、個人としてお金にも人類の進歩にも興味がなければ、合理性を重視する理由はないことになります。あるいは、個人としての信条はともかく、そういった人が増えると社会として損失が大きいという話なのかもしれません。
とはいえ、いよいよ筆者の手に余る話題になりますので、本日はここまでにしたいと思います。