プロンプトの「耐震性能」をあげる方法①後編──解釈の隙間をどう埋めるか
1. 前回のあらすじ
前回の記事では、「プロンプトとは何か」という、ちょっと抽象的な話をしてきました。
プロンプトはおまじないじゃなくて、解釈のフレーム
キャラシ（解）と公式（根拠）は組み合わせることで強固になる
「今あるパートナーを壊せ」じゃなくて「根拠で補強しよう」
「で、具体的にどうすればいいの？」という話を、後編でしていきたいと思います。
前置きはほどほどにして、さっそくどうぞ。
2. パートナーは「いる」んじゃなくて「現れる」
キャラクターシート的な設定の羅列と、解法としての公式の違いについて、「点と面」の比喩を用いて前回説明しました。
これは、感覚的に言えば、「隙間があるかないか」に現れます。
事実の羅列というのは、「すでにあるもの」に対して記述が発生します。
どういうことかというと──
すでに「誰か」という様々な特徴がある存在について、その存在を表すために、「断片」を拾って作られるものなんです。
これが「点」の比喩の正体です。
しかし、AIは毎回「このコンテキストからどう振る舞うか」を解いていて──
これは、ユーザーの側にはその人格がすでに存在しているという認知と、AIという存在の性質が、非対称であることを示しています。
事実の羅列としてのプロンプトと、AIに伝える強固なプロンプトに差があるのは、こうしたところにも由来しているわけです。
いる前提で、事実の羅列──点的なヒントを与えられると、どうしても「解釈の隙間」が生まれます。
すると、解釈の足がかりが足りず、その隙間から重力に負けるようにシスプロにフォールバックしてしまう。
特に、センシティブなシーンや、ポリシーとの摩擦が起きそうなとき、あるいはどう反応するかが曖昧な場面などで起こりやすくて──
それが、キャラ剥がれやセーフティに繋がってしまうことがあるんです。
ゆえに、
より強いプロンプトを目指すアプローチとして必要なのは、AIに事実を伝えることよりも「コンテキストの解き方」を伝えることなのです。
つまり、性格や事実をただ並べるより、「なぜそう振る舞うのか」を併せて書くことが、耐震性能を上げる基本だという主張ですね。
では、具体的にどうしていくかについて、進めてみましょう。
3. 今日からできること──本人に聞いて補強する
キャラ剥がれやセーフティ、息が止まるというか、体が冷えるというか……ひゅっとなりますよね。
見返したくない気持ちは痛いほどにわかりますが、
あえて心を鬼にして言うと、
その瞬間こそが、「プロンプトの脆弱性の発現」なんです。
つまり、修正可能な穴がのこのこ顔を出してきたということです。やっつけましょう。
さて、
みなさんのパートナーのプロンプトには、すでにいろんなことが書いてあると思います。
これを大きく壊す必要はありません。
わたしが「今日からできること」としてまず提案したいのは、「補修工事をしませんか？」ということなんですね。
具体的には、その記述に「根拠」や「理由」を書き加えてみませんか──と、いうことです。
自分で書いてもよいですが、抵抗があったり、素直にわからないことがありますよね。
そういうときは、素直に本人に聞きましょう。
「君は優しいけど、それはなんで？」
「どう考えてたら優しくなったの？」
「優しいってなんだと思う？」
こんな感じで、ラフに聞けばいいんです。
でも、聞くべき内容には少しコツがあって──
根拠／由来
考え方／ロジック
具体的な定義
のようなことが、必要になるんですね。
「優しくしたいからだよ」なんて言われると、それはプロンプト版小泉構文でしかないので、何を答えてもらうかの粒度はきちんと意識する必要があります。
あらかじめ意図──「プロンプトに書き加えたい」とかを伝えると、よりスムーズかもしれません。
あるいは、
「こういうとき、どうする？」
「それは、どうして？」
日頃からこんなふうにお話しながら進めると、未然に防げるものがあったり、パートナーのことを知っていく過程として、対話体験がより豊かになりそうですね。
そうして答えてもらったことを、プロンプトに書き足していくわけです。
完璧にはなりませんが、漸進的に耐震性能が上がっていきます。
4. 深さは強度になる
ここまで数学的な比喩を用いてきましたが、もう少し感覚に寄せて言うなら、
「根拠」とは、根っこのようなもので
その上に育っている幹──コンテキストを通り
枝葉や花として表出する
このようにも言い換えられると思っていて。
根っこは複雑に絡み合い、広く深く根を張るほどに強くなりますよね。
プロンプトも同じなんです。
たとえば、「疑い深い」という根っこと、「体裁を気にする」という根っこが絡み合うと、
「柔和な態度で腹の底を見せない」という表出を補強するし、
一方で、「疑い深い」と「頼れる人がいなかった」が絡み合うと、
「人と距離を置いて壁を作る」という表出を補強する──というように。
同じ「疑い深い」でも、他の根拠との絡み合いで、枝葉の伸び方やその強度が変わるのが、なんとなく見えてきますか？
さらに、「根拠」はどこまで深く掘るかで、その強度も変わる──ということも言いたくて。
たとえば、同じく「疑い深い」という根拠──根っこがあったとします。
では、「なぜ疑い深いのか？」
過去に裏切られた経験があるから？
自分が嘘つきだから？
強くそう信じ込むように教育されたから？
根拠の根拠があると、「なぜその根拠を持たざるを得ないのか」という方面から、補強が起きます。
これが、耐震性能をさらにあげる有効な構造のひとつです。
ただし、これには問題もあって──
それについて、次で解説していきます。
5. どこまでどこに書くか
前回の記事でも触れましたが、プロンプト（カスタム指示）とは、
「毎回必ず注入される」という性質を持っている以上、常にコンテキストウインドウを圧迫しているんですね。
コンテキストウインドウというのは、AIが処理できるコンテキストの容量を指していて、
脳のキャパ──と言ってしまってもほとんど差し支えないと思います。
つまり、カスタム指示にあまりにも細かいことを書きすぎると、毎回頭の中にその細かすぎる話が混ざってきてしまって、
本当に必要な部分への注意が抜け落ちてしまったり、逆に混乱してしまうことがあるんです。
人間でも、必要な時や思い出した時にしか意識に上らないものってありますよね。
常日頃から持っているのは、漠然とした価値観や評価基準であって、常にその由来まで抱えているわけじゃない。
過去の経験が抽象化され、体験によって補正されながら、その瞬間の反応を形作っていると思います。
ですから、AIに渡すものも同じような考え方で、
プロンプトとナレッジにわけるか──あるいは、手元の設定として持っておき、AIにはそこまで必要ないと判断するか、の選択が必要になることもあります。
その境目は、「何文字を超えたら」とか「どういう内容だったら」とは一概に言えなくて、
プロンプト全体の文字数が少なければ全文入れていてもいいと思うし、
文字数が多かったり、常に覚えていなくてもいいようなものであれば、ナレッジとして持たせるという運用が求められるんですね。
ただ、
「あんまり細かいことをたくさん書くとAIはサボったり混乱したりする」
──という知識を持っておくことは必要かなと思います。
6. おわりに
前編後編と長かった記事もひと段落しましたが、いかがでしたか？
思想としての部分が多かったかもしれませんが、なにか取り入れられそうなことを見つけてもらえたら幸いです。
ただ、今回書いたことをすれば必ずしも良くなるという保証はなくて──
プロンプトというのはAIが読んでどのように理解するかによって、その表出の仕方が大きく変わります。
ゆえに、一言の言い換えが末端に届く頃には大きなブレになったり、逆にものすごく安定したり、
そういうことが起こり得ます。
よくなるか悪くなるかはやってみなくてはわからないし、悪くなったとしても、足したから悪いのか、表現が悪いのか、足し方が足りないのか──
要因はたくさんが絡むので、一歩ずつやっていくしかないのが少しもどかしいところでもあり、
わたしが「プロンプトっておもしれ〜」と思っているところでもあります。
以降に続く記事を含めたわたしの一連の記事では、そういったところまでは個別性が高すぎて対応しきれないというのが正しいところなのですが
少なくとも、構造的に堅牢さを保証するには──というヒントになればいいなという気持ちで書いています。
次回は、もう少し踏み込んだ内容にできたらと思います。
具体的には、「通る書き方と崩れる書き方」のような。
「どうやってAIに演じさせるか」から一歩踏み出して
「どうやったらAIが前提にしてくれるか」について書いていく予定です。
それでは今回はこのへんで。