見出し画像

Ollama で gpt-oss を試す

「Ollama」で「gpt-oss」を試したのでまとめました。


1. Ollama

「Ollama」はLLMをWindows/Mac/Linuxで簡単に実行できるアプリケーションです。

2. gpt-oss

「gpt-oss」は、OpenAIが開発したオープンウェイトのLLMです。

gpt-oss-20b
16GBメモリ搭載の一般的な環境向け。
メモリ16GB以上、ストレージ14GB。

・gpt-oss-120b
高性能GPUを備えたハイエンド環境向け。
メモリ60GB以上、ストレージ65GB。

3. Ollama で gpt-oss を試す

「Ollama」で「gpt-oss」を試す手順は、次のとおりです。

(1) Ollamaのサイトからインストーラをダウンロードしてインストール。

(2) 「Ollama」の実行し、モデルで「gpt-oss:20b」を選択。

(3) メッセージを入力して送信。
初回は、モデルのダウンロード時間 (20分ほど) がかかります。

関連



いいなと思ったら応援しよう!