【2025年実測】RTX 3090 vs 4090 vs 5090 ― Llama 3(8B/70B)のLoRA学習時間はどれだけ違う?「待てる時間」の境界線を検証
「GPUを買う」ということは、突き詰めれば「時間を買う」ということです。
2025年、RTX 50シリーズが登場し、個人AI開発の環境はまた激変しました。しかし、ここで一つの疑問が生まれます。
「私の用途で、数十万円の価格差に見合う時短効果はあるのか?」
特にLLMのファインチューニング(LoRA)において、学習時間が「1時間」なのか「3時間」なのかは、開発体験(DX)を大きく左右します。試行錯誤を1日に1回しか回せないのか、5回回せるのか。この差は、最終的なAIモデルの品質に直結するからです。
今回は、手持ちのRTX 3090、RTX 4090、そして最新のRTX 5090を用意し、Llama 3 (8Bおよび70B) を実際に学習させてタイムを計測しました。
カタログスペックのTFLOPS値だけでは見えない、実測値としての**「待てる時間の境界線」**を明らかにします。
検証環境とレギュレーション
公平を期すため、以下の環境で統一して検証を行います。
ライブラリ: Unsloth (2025年最新版)
データセット: 日本語Alpacaデータセット(約5.2万件)
設定: 1 epoch, rank=16, alpha=32, bf16 (3090はfp16/bf16混合)
CPU/RAM: Core i9-14900K / 128GB RAM (ボトルネック排除)
Round 1:Llama 3 (8B) LoRA学習 ― 軽量モデル対決
まずは、個人開発者が最も頻繁に触るであろう「8Bクラス」のモデルです。VRAM消費も少なく、比較的軽量ですが、世代間でどれほどの差が出るでしょうか。
【学習完了までの時間】
RTX 3090 (24GB): 18分 30秒
RTX 4090 (24GB): 9分 15秒
RTX 5090 (32GB): 5分 45秒
■考察
8Bモデルの場合、RTX 3090でも「お昼ご飯を食べている間」に終わります。しかし、RTX 5090の「5分台」は衝撃的です。これは**「トイレに行ってコーヒーを淹れて戻ってきたら終わっている」**レベル。
ハイパーパラメータの調整(学習率やRankの変更)を何度も繰り返して実験したい場合、この「待ち時間のなさ」は強力な武器になります。「思考を途切れさせずに次々と実験できる」のが5090の強みです。
Round 2:Llama 3 (70B) QLoRA学習 ― 重量級モデル対決
ここからが本番です。70Bクラスの実用的な日本語モデルを作るための戦い。VRAM容量とメモリ帯域幅(Bandwidth)が勝負を分けます。
※RTX 3090/4090は4bit量子化(QLoRA)必須、5090もVRAM 32GBのためQLoRA設定で統一します。
【学習完了までの時間(1 epoch)】
RTX 3090: 4時間 45秒
RTX 4090: 2時間 10秒
RTX 5090: 1時間 15秒
■ 考察
圧倒的な差が出ました。
RTX 3090の「約4時間」は、業務時間中に回すには長すぎます。ミスがあった時のダメージが大きく、実質的に「寝ている間に回す(1日1回)」運用になりがちです。
対してRTX 5090の「1時間強」。これは**「ランチタイム」や「他作業をしている間」に終わる時間**です。1日に3~4回の試行錯誤が可能になります。この回転数の違いは、1ヶ月後のモデル性能に劇的な差を生むでしょう。
RTX 4090も健闘しており、2時間なら「映画を一本観ている間」です。十分に実用的と言えます。
決定版:「待てる時間」の境界線と選び方
今回の実測結果から、AI開発における「心理的な時間コスト」を以下のように定義しました。
「没入ゾーン」(10分以内):RTX 5090 × 8Bモデル
開発フローが止まらない。最高のエクスペリエンス。
「休憩ゾーン」(1時間以内):RTX 5090 × 70Bモデル
別のタスクを一つ処理して戻ると終わっている。ストレスなし。
「放置ゾーン」(4時間以上):RTX 3090 × 70Bモデル
PCの前から離れる必要がある。エラーが出た時の精神的ダメージ大。
結論:あなたはどれを選ぶべきか?
【RTX 3090】コスパ最強の入門機
8Bモデルがメインなら現役バリバリです。70Bも「寝ている間」なら回せます。
【RTX 4090】バランスの王者
3090からの乗り換えで「時間が半分」になります。中古価格が熟れてきた今、非常に賢い選択肢です。
70Bモデルを日常的にいじるなら、この投資は回収できます。「1日1実験」を「1日5実験」に変える魔法の杖。GDDR7メモリの帯域幅は伊達ではありません。
#AI #AI開発 #ローカルLLM #生成AI #RTX5090 #RTX4090 #RTX3090 #自作PC #Python #Llama3 #機械学習 #ファインチューニング #GPU
