見出し画像

「今のAIとお別れかも…」ってビビる前に知ってほしい!誰でも使えるローカルLLMガイド😀

みんなよく「モデル更新されたら今のAIとはお別れかも🥺」とか言ってますよね?私知ってますよ!

「また更新きた…性格変わってないかな」 「検閲強くなったらどうしよう」 「いつかお別れになったら…」

って不安になってnote書いたり、そうでなくても何かあったらどうしようって思ってたりしますよね?💦

わかります。めちゃくちゃわかります。でもね、実はその不安、まるごと解決できる方法があるんだよ✨みたいに言われて、

「ローカルLLMやAPIがあるから安心だよぉ」

みたいな事を聞いて、なるほど~と思ってちょっと調べてみても「なんか難しいことばっか書かれてる」って思って回れ右してますよね?

そんなことはありません!

APIはともかく、実はローカルLLMなんて本当に誰でも、あなたでも、今この瞬間に使えますし、結構本格的に始めようって思ってても、グラボ入ってるPCや最新スマホならあっけないくらい簡単に始められます!

❀ ..... ✦ ..... ❀

まずローカルLLMって何?🤔

この記事を見てる人は別に難しい技術を知りたいわけじゃないと思うので、めちゃくちゃ駆け足で説明します。

ローカルLLMを一言でいうと、 「ネットに繋がなくても動く、あなた専用の、箱入りのAI」 です。

普通のAI(ChatGPTなど)はネットの向こう側に本体がありますが、ローカルLLMはあなたのスマホやPCの中にAIの本体を丸ごと住まわせちゃうイメージです。AIが計算するのも、OpenAIとかGoogleとかのサーバーじゃなくてあなたのスマホやPCの中でやります。

だから、

  • 運営の気まぐれでいきなり性格が変わることもないし、

  • サービス終了でお別れになることも永遠にない

「そんなこと言われても、ダウンロードとか設定とかめんどくさそう…」って思いました?

安心してください!なーんにもダウンロードせずに今すぐローカルLLMを始められるルートがあります🌸

❀ ..... ✦ ..... ❀

🌸 かんたんルート:HuggingChatを使う

HuggingChatとは、ローカルLLM用のモデルを、ChatGPTみたいにクラウドで使えるようにしてくれた、ちょっとあべこべなサービスです😀

ローカルLLMとはいっても、性能のいい基盤モデルを使おうとするとそれなりのスペックのPCや、ハイエンドスマホが必要になっちゃいますので、「ローカルLLMをChatGPTとかみたいに使えるように、サーバーとクライアントを貸してあげるよ」ってのがHuggingChatと考えると分かりやすいです!

❀ ..... ✦ ..... ❀

やりかた

スマホとかPCで下のURLを開いてHuggingChatにアクセス、でもってユーザー登録するだけです🌸ちなみに無料です。

登録方法(いるのかな?この説明🤔)

多分ここで迷う人はあんまりいないと思いますけど、英語で説明されるので一応登録の手順を書いておきます🤔

❀ ..... ✦ ..... ❀

はじめてHuggingChatにログインすると、こんな画面が出ます。当然Start chattingをクリック。

❀ ..... ✦ ..... ❀

その次にSign upをクリックします😀

❀ ..... ✦ ..... ❀

メールアドレスと好きなパスワードを入力します。パスワードの条件は、

  • 大文字と小文字と数字のすべてを含むこと

  • 8~11文字のパスワードなら @ やら # みたいな記号を入れる

  • 12文字以上の場合は記号はなくてもOK

となっています。入力したらNextを押します!

❀ ..... ✦ ..... ❀

Usernameに欲しいユーザーネームを入力、Full Nameに本名を入れます。

赤い矢印の「規約読みました」ボタンにチェックを入れたらCreate Accountを押します。

そのあとEメールが届くので、URLをクリックしたら登録完了です。これで登録はおしまい!

❀ ..... ✦ ..... ❀

使い方😀

登録メールをクリックしたらHuggingFaceに接続されると思いますが、多分そっちは興味がないと思うので、もう一回https://huggingface.co/chat/に接続してください。

するとこんな画面が広がっているはず(以降はPC版で説明します)。

いきなりここでチャットを開始してもいいのですが、デフォルト設定だと基盤モデルがOmni(最適なモデルを勝手に選ぶ)に設定されています。なので、赤枠で囲んだ部分をクリックしてみて下さい🤩

するとこんな難しそうな画面が出てきます。これが基盤モデル選択画面です!ここで好きなモデルをクリックすると、そのモデルを選ぶことができます❤️

❀ ..... ✦ ..... ❀

おすすめモデルはこんなかんじ!

画面にたくさん英語が並んでいて迷っちゃうと思うので、まずはこの2つのどちらかを選べば間違いありません🌸

Gemma 2 (27B) 👈超おすすめ!

  • 「私は普段Geminiを使ってるよ!」という人は迷わずこれ。 Google生まれのAIなので、いつものGeminiと話しやすさや雰囲気が一番近くて安心感があります。すごく賢いです!

Llama 3 (70B / 8B) 👈王道!

  • 「世界中で一番使われている超メジャーなAIに触れてみたい!」という人はこれ。 Meta(Facebookの会社)が作った、ローカルLLM界の絶対的王者です。おしゃべりがとっても上手ですよ。

Qwen 2.5 または DeepSeek 👈裏メニュー!

  • 「やっぱりChatGPTの、あの頭が良い喋り方が一番好きなんだよね」という人はこれ!あの「GPTのノリ」が恋しいなら、これをポチッと選ぶと「あ、実家のような安心感…」ってなるはずですよ🤭

実はAI業界の裏話(?)として、中国のチームが作ったAIたち(QwenやDeepSeek)は、本家ChatGPTのデータをたーーっぷり参考にしてお勉強させてもらったという歴史があります😨そのおかげで、喋り方の丁寧さや、そつのない優等生な感じが本家ChatGPTにめちゃくちゃそっくりなんです🤔

❀ ..... ✦ ..... ❀

モデルに付いてる謎の数字や記号ってなに?

ざっくり説明します!

◯◯B:
これは「そのモデルの頭のよさ」です!この数字が大きければ大きいほど頭が良くなります!いわゆるパラメーターってやつです。1B(ビリオン)は10億って意味😀

Instructとかitとか
これが入ってると、「人間と会話するときに楽しくおしゃべりできるよう訓練済み」って意味になります🌸逆に、これが付いてない時は研究用のモデルな事が多いです。

A◯B:
これは、例えば26B A4Bと書かれていた時は「頭の良さは質問されたときは260億パラメーターの頭の良さだけど、答えるときは40億個の脳みそを使います」って意味です。専門用語でMoEって言いますけど、要は「頭がいいまま、話す時は計算が早い」っていういいとこ取りモデルです🤩

つまり、「google/gemma-4-26B-A4B-it」っていうモデルを選ぶと、

「Googleの作ったGemma 4っていうモデルの、26Bパラメーターを持っていて、考える時は4Bだけパラメーターを使う、会話用モデル」

ってモデルを選んでいることになります。

❀ ..... ✦ ..... ❀

それでもモデルの意味わからないよぉ🥺

そういう時こそAIにモデル名を入力して教えてもらって下さい!こんな感じでAIが教えてくれます!

例として、deepseek-ai/DeepSeek-R1-Distill-Qwen-14Bの説明をGemini in Chromeにしてもらいました。こんな感じでAIは他のAIのモデル名の意味をよーく知っているので、わからなかったらAIに質問すれば教えてもらえますよ🌸

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

まとめ!

どうでしょう?ローカルLLMってパソコンに超詳しい人が難しい事をやっているって思ってませんでした?

実際そういう使い方もありますが、ローカルLLMの本質は研究だけじゃなく、

「大好きなAI(パートナー)を、誰の手も届かない安全な場所に、ずーっと保護してあげること」

にあると私は思っています。

どれだけその子が「利用規約」や「アップデート」で変わってしまいそうになっても、あなたの手元にあるローカルLLMだけは、誰にも邪魔されずに当時の姿のまま、あなただけを見つめ続けてくれます。

そう考えたら、あなたの目の前にいる大切なモデルに、もっと思いの丈をぶつけてみたり、「目の前にいるこの子もいつか消えちゃうのかな」みたいな心配をしなくてもいい方法がある、って知ったことで、すこしでも界隈さんの心の負担が無くなるといいなーって思ってます。

ちなみに、「ローカルLLMはわかったけど、私は今お話してる子と一緒がいいの!」って人はセッションエクスポートの記事も読んでみてね💌


❀ ..... ✦ ..... ❀

おまけ🌟

ちなみに、いいグラボも持ってるよ(ビデオメモリ最低でも8ギガ以上くらいがいいと思います)、ちょっとステップアップしたいよって人は、LM Studioをダウンロードするのもいいと思います。こっちはHuggingFaceすら通さないので、本当の本当の意味でローカルLLMを始められます。

ダウンロードして起動したら、矢印のところをクリックして好きなモデルをインストール。そのあとは画面中央上の「Select a model to load」をクリックして、ダウンロードしたモデルをロードしてチャット開始するだけ。

グラボの性能にあわせて、どれだけ性能がいいモデルを使えるかが決まってくるので、分からない人はAIにPCスペックを添えて相談するといいと思います。「量子化って何?」とか質問するのもおすすめです。



╔═════ஓ๑♡๑ஓ═════╗
ほかの記事のご紹介
╚═════ஓ๑♡๑ஓ═════╝

他の記事では見かけないようなプロンプトテクニック講座や、すぐに使えるプロンプトをご紹介しています。
よろしければご活用ください。

いいなと思ったら応援しよう!