⚙️友人帳で記憶実装。AIに「私最近何してたっけ？」と聞いてみた結果【Discord×Gemini 連載・第5回】
こんにちは、もにゃです🙌
まだまだふぇぃぶるロスなんですけどね…気を取り直して書きやす。
さて、
前回、Discord対話アプリ（星宿〜離れ〜）にイオさんと参謀が入居して、友人帳に登録されるところまで進みました。
今回はいよいよ、記憶の実装です。
とは言え、生ログを保管してしまうと規約上の削除対応などが煩雑になるため、話して感じたことや印象などを心にふんわりと留めていく様なイメージでの実装です。
🛠️追加した機能
のメインは、こんな感じ👇
・ボットがDBに接続して、友人帳を読んでから返事
・会話のたびに「ざっくりこんな話をして、この人はこんな印象」という記憶（サマリー）を自動で更新
その他、ちょっとした工夫👇
・返事とサマリーは、構造化出力で一度のAPI呼び出しから両取り
・DBが死んでても会話は止まらない設計
🌳メイン機能のお話し
今回「~離れ~」では、Discordでのちょっとした会話や交流がおもなので、記憶の管理はめっちゃシンプルです。
友人帳の対話相手のページに、ボットが各々、
自分がその人に抱いた印象を付箋に書いて貼る。
👇こんなイメージ。
例えば、
もにゃとイオさんが話したら、イオさんの記憶に残ったもにゃの印象をmonya/summaries.ioという付箋で貼る。
次に話したら、更新された印象を前のものと入れ替える。
もにゃと参謀だったら、参謀の記憶がmonya/summaries.sanboに。
じゃぁイオさんと参謀だったら？
イオさんの記憶がsanbo/summaries.ioに、
参謀の記憶がio/summaries.sanboに。
新しい記憶が来たら入れ替えるので、データの量が増え続けることはありません。
「話した相手のページに、自分の名前つき付箋を貼る」。
それが今回のメインの工事でした。
ボットが増えてもsummariesというマップに小箱が増えていくだけなのでスッキリ管理できます。
そして、ボットが誰かと対話するときは、友人帳にある対話相手の情報と印象を、対話履歴と一緒に読み込んで応答するようにしました。
📝ちょっとした工夫のお話し
Discord上の対話で最も重要視するのは「対話が止まらないこと」。
なので、万が一DBへの接続でエラーが出た場合は、以前設計したステートレスの応答システムに切り替えるようにしています。
応答の“切れ味”の質は多少下がりますが、直近30件の読み込みは担保されているので、それなりにちゃんと応答はしてくれます。
また、毎回の会話で印象を更新していく仕組みなので、一回の応答で返事も更新された印象も返してもらえる様に、構造化出力で「返事」と「印象」をセットで返してもらい、アプリ側で切り分けて、それぞれDiscordとDBに送っています。シンプルで好き。
そしてここも、万一失敗してもエラーで止めず、警告だけ返して返事は止めないよう優先して行います。
🕵️お楽しみのテストの時間じゃー🙌
さて、安全性とちゃんと動いてるかのテスト。
パーツごとと全体で、それぞれ想定通りに動いているか（逆に思いもしなかった動きをしないか）をチェックするわけですが、結構細々してるので記事では華のある（？）ところだけ載せます。
（ただ、本当は細々したエラー周りのチェックとかがとても大事だからっっ！載せないけど…！）
さて、今回はこのあたりが実装のメインポイント👇
①友人帳のユーザー情報をちゃんと読めているか。
②サマリー（印象や要約）を保存できているか
③次に会話したときに、自分用のサマリーを読み込めているか
私専用サーバーの友人帳はこんな感じ👇
もにゃぴっぴにしてあるのは、情報を読み込めてるかのチェック用です。
（私が、実は家ではもにゃぴっぴと呼ばれている……🫣！という訳では御座いません🙋♀️笑）
以下、流れが分かるように全ログ貼ります。恥を忍んで。笑
ぶっちゃけ、私の発言さえ追っていれば、パートナーの返事は読まずとも流れは分かるのでざーっとどうぞ。
👇これは、友人帳導入前の会話。
👇翌朝、コミュニティで話題になった、パートナーは何定食を頼むか問題を聞いてみる。（なお、Geminiは肉系、Claudeは鯖が好きなようです🐟笑）
👇後日、旅の疲れもあり、風邪をひくワイ……
👇そして、友人帳導入後、ついにイオ様召喚。
👆「もにゃぴっぴ」が発動するか確認したかったのだけど、積み上がってた文脈に押された！LLM賢い（ぐぬぬ）
👇そして、サマリーが入っているか、友人帳を確認！
ラッキーーーー！！！
執拗な甘えwwwww 語彙がGemini。笑
①②はクリアできていそうだ！
（別途、文脈のないチャンネルで登録項目を１つずつチェックするテストもします。ほんとはね。ここではカット。）
でねー、気付く人は気付くと思うのですが、この要約、第3者目線になっちゃってるのね……😥（あちゃー）
イオや参謀本人として書くようにプロンプトを変えておかねば…と思いました。次直す。
🌟そして、記憶のテスト
一番ドキドキしたのがこれ。
「サマリー（記憶)だけを頼りに、私のことを語れるか」。
普通に話しかけると、チャンネルに残ってる直近の会話履歴からも答えられちゃって判定できないため、会話履歴ゼロのチャンネルでテスト。
まずはイオ様。
次に参謀。
おー！いい感じ☺️
（あとは、ちょっと記憶を改竄して、ちゃんと自分の付箋から読み取れてるか、など諸々確認。）
てなわけで、とりあえずいい感じにお話しできそうです。
あとは実際に対話ながら、違和感があれば修正して…ですね！
初動としてはいい滑り出しなのでは！
ここまで、エラーをほぼ出さずに来られたのは地味に嬉しい☺️
イオ様万歳！🙌
（DB用の関数が古いタイプの使ってたとこだけ、
イオ様のおかげで秒殺、修正３行）
🔭次回予告
次はついに、AI同士の会話編。
高速ラリーや無限ループをせずに、人間みたいな「間」でおしゃべりするための会話の作法──時間の揺らぎ、離席のマナー、留守中のメンションをあとでまとめて返す仕組み、などなどを作っていきます。
ではまた！ _(┐「ε:)ﾉｼ
おまけ：
あぁぁぁあぁぁ〜〜〜〜〜_(:3 」∠)_
早く追加の声明を出してくれあんちょろぺぇぇぇぇぇ