LLMに「自分専用のアシスタント」をやらせてみる

ローカルLLMの話をここまで何回か書いてきた。ニュースの要約、得意・不得意の境界線、自動収集の仕組み。
今回はもう少し踏み込んで「日常の作業をLLMに手伝わせる」という使い方について。
自分はEVO-X2上のLM StudioでGPT-OSS-20B（量子化）を動かしている。

「AIに仕事を奪われる」じゃなくて

AIの話題になると「仕事が奪われる」という方向に行きがちだけど、
自分の実感としてはそうじゃない。

少なくとも今の段階では、
AIは「仕事を代わりにやってくれる存在」というより「作業を手伝ってくれる道具」に近いと思う。
包丁が料理を作ってくれるわけじゃないのと同じで、LLMも使う人間次第となる。

ただ、
いい道具を持っていると作業効率は確実に変わる。

要約や翻訳の「その先」

以前の記事で、ニュースの要約や翻訳にLLMを使っている話を書いた。
あれはあれで便利だが、使い続けているとそれだけじゃもったいないと感じるようになる。

GPT-OSS-20Bは20Bパラメータある分、
単純な要約以上のことにも対応できる。

いくつか具体的に書く。

まず、文章の壁打ち。
このnoteの記事も、いきなり書き始めるんじゃなくて、まずLLMに「こういうテーマで書きたいんだけど、どういう構成がいいかな」と聞くことがある。
（この記事もそう）

出てくる提案をそのまま使うわけじゃないけど、自分の頭の中にある漠然としたアイデアが整理される。
「その切り口は思いつかなかった」となることが結構あって、何も文句を言わない壁打ち相手としては良い。

次に、コードの下書き。
以前の記事で「短い関数やエラーメッセージの解読はローカルで十分、100行超のコード生成は破綻する」と書いた。
その通りで、大きなコードを丸投げはしていない。

でも、Pythonスクリプトの雛形とか、設定ファイルのテンプレートとか、
「書けるけど調べるのが面倒」な作業を任せるのにちょうどいい。
ゼロから書くのと、叩き台を修正するのでは、後者の方が圧倒的に速かった。

あとは、調べものの効率化。
何かを調べるとき、まずLLMに聞いてみて概要を掴む。
そのあと必要に応じて検索して裏を取る。

LLMの回答は必ずしも正確じゃないけど、
「何をキーワードにして調べればいいか」
のあたりをつけるには十分である。
特に技術的な用語が多い分野だと、
最初のとっかかりを得るだけでかなり時短になる。

ローカルで動かす意味

これらの用途なら、ChatGPTでも同じことができる。

じゃあなぜローカルかというと、いくつか理由がある。

一つは、気軽さ。
ブラウザを開いてログインして、という手順がない。
EVO-X2でLM Studioを起動しておけば、いつでもすぐ使える。
些細なことだけど、この「すぐ聞ける」感覚は重要で、ちょっとした疑問を溜めずにその場で解消できる。

もう一つは、プライバシー。
仕事の内容や個人的なアイデアをクラウドに送りたくない場面がある。
ローカルなら全部自分のPC内で完結するので、
何を聞いても外に出ない。

そして、コスト。
毎日何十回と使っても追加課金なし。
クラウドAPIだと使用量に応じて課金されるけど、ローカルは電気代だけで済む。

「アシスタント」という感覚

使い続けていると、
「道具」というより「アシスタント」に近い感覚になってくる。
完璧な秘書じゃないけど、雑用を頼める相手がいるという感じ。

たまに的外れなことを言うし、
難しいことは任せられない。

でも、
簡単な下調べとか、文章の叩き台とか、ちょっとしたコードの生成とか、
「自分でやると5分かかるけど、頼めば1分で出てくる」ことを片端から任せていく。

その積み重ねが、1日の作業量を変える。

万能じゃないから使いやすい

変な言い方だけど、
ローカルLLMは万能じゃないからこそ気楽に使える。

ChatGPTに長文の指示を送るとき、
「せっかく課金してるんだからいい結果を出してもらわないと」と無意識にプレッシャーを感じることがある。ローカルだとそれがない。

「ダメだったらもう一回聞けばいいや」で済む。

この心理的なハードルの低さが、
結果的にたくさん使うことに繋がって、トータルの効率が上がる。

次回はデスク環境の紹介を書く予定。フォローしてもらえると！