見出し画像

【API/ローカルLLM】Chocolate LM Lite🍫を公開しました

Chocolate LM Liteは、セルフホスト型のAIチャットアプリケーションです。 #ChocolateLMLite

「日本語話者が簡単に始められるAPI利用LLM」体験を目指して開発されており、セルフホスト型のソフトウェアです。 各種LLMプロバイダーやローカルLLMと接続して、専門知識のない人にも自由で開かれたAI体験ができることを目指して作成されています。

ChatGPTやGemini、Claudeのような一般的なChat AIサービスからすんなりと移行できる使い心地、シンプルな設定、シンプルで必要十分な機能性、日本語、温かさのある外見、容易なセットアップを目指しています。 キャラクターAI利用から、MCPツールなどと連携させての企業内での業務効率化まで幅広く想定した設計です。

OpenRouter経由での利用を想定していますが、OpenAI互換APIであれば何でも利用できるため、GPT, Gemini, Claude, Qwen, Deepseek, Phi... その他各種モデルプロバイダー経由で様々なLLMが利用できます。

自宅PCを簡単にサーバーとして使用し、そのまま使うことも、TailscaleなどのVPN経由でスマートフォンから利用することも想定しています。


Q. つまり何?
A. 利用者が自分で運用する代わりに、仕様変更に振り回されないAIチャット

Q. ほかのAIアプリと何が違うの?
A. 運営会社とくっついてないので、いろんなモデルを選べます。簡易的なメモリ機能やプロジェクト機能、画像生成などのよく欲しくなる機能は一通りついてます。データはPCに保存されます。

Q. 使うの簡単?
A. zip開いてEXEポチでOK

Q. LLMプロバイダーって何?
A. 言語モデル(GPTとか)を、部品として提供してくれる会社。ChatGPTとかはこの部品を組み込んだAIチャットサービス。このソフトも部品を組み込んで使えるAIチャットアプリ。

Q. ハイスペックなPC要るの?
A. そのへんのWindows PCで動きます。中古のノートPCとかで十分。Macはたぶん動きます。Ubuntuでも動きます。
 なお、おすすめはしませんが、スペックのいいAndroid端末上でもサーバー動いてしまいます。

Q. スマホから使えるの?
A. 自宅のPCに入れて、スマホとPCつなぐソフト(tailscale)入れればOK。ブラウザから開いて使います。

Q. 金かかるの?
A. 無料でそれなりに試せるけど、GPT-4oとかGPT-5とかGemini 2.5 ProとかClaude Sonnet 4とか使いたいならお金かかります。
 Gemini APIだと無料でGeminiが使えたりはする。(動作確認済み)
 オープン系の安いモデルもあります。将来的にローカルLLMに移行したいならそういうモデルを探してみてください。

Q. いわゆるサブスク使えるの?
A. 使えません。商業利用向け契約なので、先にクレカでチャージして、使った分だけ消費されてくタイプ。
 LLMプロバイダー側で1日の利用枠を決めたりできるので、そういう制限を使ってうまく使ってください。

 大手のサービスは事前課金式の従量課金ですが、サブスク方式のサービスも出てきています。例として以下のようなものがあります。

Q. どんなモデル使えるの?
A. 2025/10/26時点で、554種類(OpenRouter)
 OpenAI, Google, Anthropic, xAI, 他オープン系等々

Q. GPTとかGemini高いんだけど
A. オープン系のモデル安いですよ。将来的にローカルに移行するときも便利ですし、説明書におすすめのを載せてます。

Q. ローカルLLMつなげて使える?
A. 使えます

Q. もっと高度な機能が欲しい
A. セットアップは難しくなりますが、よりプロ向けのソフトが色々あります

・OpenWebUI
・Jan.ai
・SillyTavern
・TypingMind
などなど。そちらをおすすめします。

Q. 中身なんなのか怖いんだけど
A. ソースコード全公開してるので、中身読めます。改造して使うこともできますよ。
 AIに解説してもらうこともできるかもしれませんが、誤読もあるのでそこは気をつけて。

Q. 生成物の著作権は?
A. 少なくともこのアプリは一切関与しないです。
 ほとんどの場合、あなたに帰属するはずですが、LLMプロバイダーの利用規約を見てね。

Q. このソフトを商用利用してもいい?
A. 良いです。詳しくは本ソフトのMITライセンス、および3rd licenseおよびJavaScript内に記載の各種ライブラリのライセンスを読んでね。

Q. このソフトを売ったり改造したりしていい?
A. 良いです。詳しくは本ソフトのMITライセンス、および3rd licenseおよびJavaScript内に記載の各種ライブラリのライセンスを読んでね。私も誰も責任は取らないからね。

Q. シンプルなの?
A. はい、シンプルに始められます。

主な特徴は以下の通りです:
- APIサービスやローカルLLMを設定し、自由な対話が可能
- シンプルな画面で初心者に優しい設計
- 複数のペルソナ(キャラクター)を作成・管理可能(それぞれにシステムプロンプト・モデル・メモリを設定可能)
- タイムスタンプ機能で、時間を考慮した対話が可能
- 自動コンテキストカットオフ機能により、最大長制限なく対話を継続できます
- 仮想スクロール機能で、大量の対話履歴も快適に閲覧可能
- 会話統計機能で、自分がどれだけ会話したか把握可能
- 短時間に大量の会話をした場合、休憩を促すメッセージを表示する機能もあります
- 古い履歴や画像はトークン数節約のため自動的に送信対象から外されます
- メモリ機能で、会話が長引いても重要な情報を保持可能
- Javascriptサンドボックス実行ツールで、正確な計算などが可能
- プロジェクトフォルダ管理機能で、資料を読んだりプログラムを書いたりできます。
- Webhook機能で、AIの発言をDiscordなど外部サービスに転送可能
- タイマーで自発的に発言する機能を搭載
- マルチモーダルLLMによる画像生成機能を備えます
- Model Context Protocolによる外部ツール拡張機能を備え、AIの機能を柔軟に拡張可能
- 定期的な自動アップデートチェック機能を搭載

注意
- ご利用の際は、各APIサービスの利用規約を遵守してください。
- 生成されたコンテンツの責任はユーザーにあります。
- 外部ツール呼び出しの際に承認や確認は行いません。
- 標準ツールは安全性を考慮していますが、MCPツールなど外部ツールの利用には注意してください。
- 各種ツールはオンオフおよび各種制限調整が可能です。必要に応じて調整してください。(既定では無効になっている機能もあります)

兄弟アプリ

AI利用の注意


「難易度の隙間を埋める、実用性、色々考えて作ったんだ。興味のある人は試してみてね。無料でも色々できるし、何より、一度導入してしまえば、後ろの仕組みが変わっても同じ会話を続けられるなどメリットがあるよ」

「…とはいえ…必要性を感じるところからかな?」