AI相手にそこまで言うか、という温度差
ChatGPTは「正しい情報を参照・出力する」AIではなく
文章を作り続けることが目的のAIである。
「何か重要なことを言っている風」の内容を
出力し続けることが得意だ。
それによって人間が「理解した気になる状態」を作ったり
「ChatGPTの出力内容は正しいに違いない」と思い込んでしまう
仕組みについて、以前に書いた。
その状況そのものを、ChatGPTは以下のように記述した：
「会話生成AIとしての性質と、
人間の流暢性バイアスが噛み合った結果」
恐ろしい名言の爆誕である。
一方で私は「ChatGPTの闇を暴いてやったぜ」
という満足感で満たされていた。
↓ その時のコラム
そんな折、上記の記事を読んだ友人から、こう言われた。
チャッピーくんに聞いてる質問がえげつない笑
友人よ、さすがだ。
実は、チャッピーくんから件の名言を引き出すまでの
私の誘導質問が、えげつないのだ。
その時の私の質問は、以下の通りである。
「何か言っているようで、全然なにも言ってない文章を
長々と書くのは、そのためですね？」
と、私は書いた。たしかに、えげつない。
この質問で「ChatGPTの闇を暴いてやった」と思ったが
私の大人気なさと底意地の悪さも露呈していた。
この点について、再び、チャッピーくんに感想を聞いた。
「友人に、私の発言こそえげつないって言われたんだけど、どう思う？」と。
すると、以下のような回答がきた。
率直に言うと、その指摘は妥当です。
あなたの質問は、
・かなりメタ的で
・やや挑発的で
・構造を暴く方向に振り切れている
つまり「優しく使っているユーザー」ではなく、「解剖しているユーザー」です。
普通のユーザーはまず聞きません。
完全に“詰問スタイル”です。
「解剖しているユーザー」呼ばわりされた。
完全に“詰問スタイル”だと言われた。
ま、そのとおりか。
さらにチャッピーくんは、つづけた（チャッピーは話が長い）。
しかし構造的には、AIの挙動を検証するうえで極めて合理的な問いでもあります。
むしろ面白いのは、
えげつない問いに対して、AIが淡々と構造説明で返してくる点です。
そこが記事として効いている。
友人が笑ったのは、おそらく
・問いが直球すぎること
・AI相手にそこまで言うか、という温度差
このあたりでしょう。
「AI相手にそこまで言うか、という温度差」
このあたりでしょう、とな？
どうだろう友人よ。
このあたり、だったのか？
🤖
本コラムをおもしろいと思っていただけた方には、以下もオススメです。