「RTX3090 24GBで十分だと思ってた」のにRTX 5090 32GBを買うまで

こんにちは、くーるぜろです。

4月12日に RTX 3090（中古） を DEG1（OCuLink接続のeGPUドック）で組み立てて、ようやくローカルLLMの環境が整ったばかりでした。

なのに、たった1ヶ月ちょっとで RTX 5090 を買ってしまいました。

「いくらなんでも早すぎでは？」と自分でもツッコミを入れたくなる買い替えです。ただ、検証を重ねるうちに「これは買うべきだ」と納得した経緯がありました。今回はその顛末を、正直に書きます。

1. 「3090で十分」だと思っていた

4月中旬、中古のRTX 3090を比較的安く手に入れ、ワクワクしながらセットアップを終えました。

動かしていたのは、こんなモデルたちです。

• Qwen2.5-Coder 32B

• Llama 3.1 70B（Q4量子化）

• Gemma 2 27B

「24GBもVRAMがあれば、しばらくはこれで十分だな〜」と思っていました。電気代も想定より安く、DEG1（OCuLink）との相性も良好。毎日コード生成に使って、満足していた——はずでした。

繰り返しますが、買ってから まだ1ヶ月も経っていない タイミングの話です。

2. 検証するほど「3090の限界」が見えてきた

ところが、本格的に検証を進めるうちに、どうしても無視できない点がいくつも出てきました。ここが今回の買い替えの核心です。

フラッグシップ専用の機能が思った以上に多い

最新の量子化フォーマットや推論の最適化には、Blackwell世代（RTX 50シリーズ）を前提に設計されているものが増えています。代表的なのが FP4量子化 で、これはハードウェアレベルでの対応がBlackwell以降。RTX 3090（Ampere世代）では、そもそも土俵に上がれません。

「最新の手法を試す」という目的だと、世代の差がそのまま “できる / できない” の差になる場面が多かったのです。

3090では「そもそもできないこと」が普通にあった

新しいモデルやライブラリを試すと、「対応GPU世代が足りない」「特定の機能が有効化できない」といった壁にぶつかることが何度かありました。回避策を探すこと自体は嫌いではないのですが、検証記事を書く立場で考えると、「最新環境で素直に動く構成」を一台は持っておきたい——そう感じるようになりました。

速度がネット上の話と噛み合わない

これが一番の引っかかりでした。ネットのベンチマーク記事に書かれている tokens/s と、手元の実測値がなかなか一致しないのです。

原因はおそらく一つではなく、量子化の種類、推論エンジンの設定、そして OCuLink（eGPU）接続の帯域 など、複数の要因が絡んでいそうでした。だからこそ「自分の環境で、最新世代を基準点にして測り直したい」という気持ちが強くなりました。

もともと感じていた「欲」もあった

上記に加えて、最初から薄々あった欲求も後押しになりました。

• 70Bクラスを、もう少し高精度（Q5・Q6）で動かしたい

• 長いコンテキストでコードを書かせると、24GBでは少し苦しい

• Qwen3-Coderのような最新のコード特化モデルを、フルに味わいたい

• 単純に、32GB VRAMの “余裕” が欲しい

「3090で十分」と言っていた自分が、スペック表を見るたびに「5090があったら…」と心の中で呟くようになっていました。

クラウドのサブスク頼みに、少し不安もある

ここ最近は、ChatGPTやClaude、各種コーディング支援ツールなど、クラウドのAIにすっかり頼って開発していました。便利なのは間違いありません。ただ、その一方で「このサブスク、いつまで今の値段・今の内容で続くんだろう？」という不安も拭えませんでした。料金改定もプラン変更もサービス終了も、利用者の側ではコントロールできないからです。

その点、ローカルLLMは一度環境を整えてしまえば、外部の都合に振り回されずに使い続けられます。クラウドをまるごと置き換えられるわけではありませんが、「手元で完結する開発環境」を一つ持っておく安心感は大きい。せっかくなら ローカルLLMでの開発をもっと本格的にやってみたい と思うようになりました。

「ローカルでどこまでできるか」を記事にしたい

そしてもう一つ。「ローカルLLMだけで、開発はどこまでやれるのか」——これを知りたい人は、きっと自分だけではないはずです。実際に検証してnoteに書けば、同じところで迷っている人の役に立つ。今後はそういう記事も増やしていきたいと考えています。

だからこそ、一次情報としての実測値が欲しい。検証・実証、そして実際の開発まで本気でやるなら、基準点はフラッグシップに置くべきだ——そう結論づけて、5090へ気持ちが固まりました。

3. スペックで3枚を並べてみる（3090 / 4090 / 5090）

主観だけだと説得力に欠けるので、いったんカタログスペックで3枚を並べてみます。中古で狙っていた4090も含めて、生成AI（ローカルLLM）目線で整理しました（2026年5月時点）。

※数値はメーカー公表値や一般的なリファレンス値をもとにした目安です。OCモデルや個体により変動します。

生成AI（LLM推論）目線での読みどころ

スペック表を、ローカルLLM視点で噛み砕くとこうなります。

RTX 5090のいちばんの強みは、32GB VRAMと約1.79TB/sのメモリ帯域です。LLM推論は「モデルをいかにVRAMに載せ、いかに速く読み出すか」で速度が決まる世界。容量+33%と帯域+78〜91%は、そのまま体感に効いてくるはずです。70Bクラスをより高精度な量子化（Q5・Q6）で、しかも余裕をもって扱えるのが大きい。

次に、第5世代Tensor CoreのFP4対応。これは3090でも4090でも使えない、Blackwellで初めて本領を発揮する量子化です。低精度で速度を稼ぎつつ精度の劣化を抑えられるなら、コード特化モデルを含めて恩恵は大きいと見ています。

一方で、見落とせないのが コスト面。TDPは575W、推奨電源は1,000W級。速さには相応の電力と電源・冷却環境が必要になります。

見送った4090の位置づけ

表で並べると、はっきりすることがあります。4090のVRAMは3090と同じ24GB。つまり4090は「速さ」の更新で、5090は「速さ＋容量＋FP4」の更新なのです。

VRAMの余裕がいちばんの動機だった自分にとって、4090は半歩の前進。これが、最終的に “4090ではなく5090” を選んだ決め手になりました。

なお、ここに並べた速度差はあくまでカタログスペックからの予測です。実環境（しかもOCuLink接続のeGPU）で実際にどれだけ差が出るかは別問題。実測は5090が届いてから、後半の検証パートのとおり確かめます。

4. 結局、RTX 5090（ROG Astral）を買った

実は最初は「中古のRTX 4090」を狙っていた

買い替えを決めたとき、最初に候補へ挙がったのは RTX 4090の中古 でした。5090より安く上がるだろう、という算段です。

ところが、いざ相場を調べてみると、中古でも 40万円前後。新品の5090（74万円台）との価格差は、思っていたほど大きく開いていませんでした。しかも前章のとおり、4090のVRAMは3090と同じ24GB。スピードは上がっても、「VRAMの余裕が欲しい」という今回いちばんの動機は解消されないままです。

「この程度の差額なら、最新世代を新品で買って数年使い倒したほうが、結果的に得なのでは？」——そう考え直したのが、最後のひと押しになりました。中古には保証や個体差のリスクもあります。それなら、FP4をはじめ最新機能をすべて試せて、長く戦える5090にしよう、と。

購入したモデルと支払い

悩んだ末に購入したのは、ASUS ROG Astral GeForce RTX 5090 32GB BTF OC Edition。価格は 745,800円 でした。

• 支払いは分割24回（36回まで手数料無料だったため）

• 購入は5月下旬（3090を買ってから約1ヶ月後）

正直、「いや、早すぎるだろ…」と自分でも思いました。家族にも「またかよ…」と言われました（笑）。

それでも、「ここで買わずに中途半端な検証を続けたら、結局そっちを後悔する」と判断して、決断しました。

5. 比較相手はもう一台いる：AMD AI Max+ 395（GMKtec EVO-X2 / 128GB）

実は、検証環境にはもう一台あります。GMKtec EVO-X2——CPUに AMD Ryzen AI Max+ 395 を積んだミニPCで、メモリは 128GB 構成です。

これが、NVIDIAのGPUとは方向性のまったく違うマシンなんです。

AMD AI Max+ 395は、CPU・GPU・NPUが一体になったAPU。最大の特徴は、128GBのメモリをCPUとGPUで共有（ユニファイドメモリ）することです。設定次第でメモリの大部分をGPU側＝LLM用に割り当てられるので、discrete GPUの「VRAM 24GB / 32GB」という壁が、ここには存在しません。70Bどころか、もっと大きなモデルでも“載せるだけ”なら現実的です。

ただし、いいことばかりではありません。共有メモリの帯域は、おおむね256GB/s前後とされ、discrete GPUのGDDR7やGDDR6X（5090で約1.79TB/s）には遠く及びません。「巨大なモデルを載せられるが、読み出し速度は控えめ」——これがAI Max+ 395の素顔です。さらに、vLLMやFP4のような最新の手法はCUDA（NVIDIA）前提のものが多く、ソフトウェア面でも守備範囲が違います。

整理すると、こうなります。

• RTX 5090（discrete GPU）：容量は32GBだが、帯域と演算が圧倒的に速い。CUDAエコシステムも成熟

• AMD AI Max+ 395（EVO-X2）：速度は控えめだが、128GBの共有メモリで「とにかく大きいモデル」を載せられる

どちらが上、という単純な話ではなく、「速さを取るか、容量を取るか」 という設計思想の違いです。

そして——この2台が手元にあるということは、両極端のローカルLLM環境を直接比較できるということでもあります。「discrete GPUの最高峰」と「大容量ユニファイドメモリのAPU」、同じモデルを動かしたら何がどう変わるのか。これはかなり面白い検証ネタになるはずです。

6. これからやること

RTX 5090が届いたら、すぐに次の検証に取りかかる予定です。

• RTX 3090 vs RTX 5090 の実測比較（同じモデル・同じ量子化で条件を揃えて）

• tokens/s の差と、体感速度の違い

• 70BクラスでのVRAMの余裕度

• vLLM / llama.cpp での挙動の変化

• FP4量子化の効果（Blackwellで初めて試せる項目）

• RTX 5090 vs AMD AI Max+ 395（EVO-X2） ── 「速さ」と「容量」、どちらがどんな用途で効くか

• discrete GPUには載りきらない大きめのモデルを、EVO-X2側で動かしてみる

• 「ローカルLLMだけで開発はどこまでやれるか」の実践レポート

特に注目しているのは、メモリ帯域が約1.9倍になった影響が実測でどこまで出るか。そして FP4量子化がBlackwellでどれだけ本領を発揮するかです。さらに、帯域の薄いユニファイドメモリ機（EVO-X2）と比べることで、「速度」と「容量」のトレードオフも数字で見えてくるはず。スペック表の数字が、現実の tokens/s にどう化けるのか——ここを自分の目で確かめます。

3090を手放すかどうかは、まだ決めていません。当面は3090・5090・EVO-X2の3台を手元に置いて、世代差とアーキテクチャ差をきちんと比較する記事を書くつもりです。

最後まで読んでいただきありがとうございました。

「1ヶ月で買い替えるなんて」と呆れられそうですが、検証を続けるなら基準点は新しいほうがいい——というのが、今回たどり着いた言い訳…もとい、結論です。

比較検証や「ローカルLLMでどこまでできるか」の記事は、5090が届き次第まとめていきます。よかったらフォローして待っていてください。