見出し画像

EVO-X2 + OCuLink + RTX 3090 で外付けGPUローカルLLM環境を構築したら"地獄→最強"だった話(完全版)

結論(先に言う)

この構成、最強です。(上には上はあるけど)

EVO-X2(AMD iGPU)
+ M.2 to OcuLink変換基板
+ OCuLink
+ RTX 3090(24GB)

構成:
・画面 → AMD
・AI推論 → NVIDIA

→ ローカルLLMがGPUで爆速動作

構成

やりたかったこと

シンプルです。

小型PCで
ローカルLLMをGPUで回す

ミニPCのフォームファクタを保ちながら、RTX 3090の24GB VRAMをフル活用してローカルLLMを快適に動かす。OCuLinkならThunderboltより帯域が広く、eGPU接続の中では最も性能を引き出せる選択肢です。

EVO-X2 の M.2 からOculink 経由 でDEG1+ RTX3090
M.2 に Oculink 変換ボードを刺したところ

実際に起きたこと

普通にやると壊れる

6つのトラブルを乗り越えて今があります。以下、全部記録します。

ハマったトラブル全記録

❌ ① ログイン後、画面が真っ黒

症状

ログインはできる
でも画面は黒いまま

原因

AMD + NVIDIA のGPU競合。XorgがどちらのGPUを使うか判断できずにフリーズします。

解決

sudo rm -f /etc/X11/xorg.conf

GPU自動選択の設定をリセットすることで解消。nvidia-xconfig で生成した設定ファイルが残っているとこれが起きやすいです。

❌ ② nvidia-smi が動かない

症状

NVIDIA-SMI has failed

原因

ドライバが未インストール、または破損している状態。

解決

sudo ubuntu-drivers autoinstall
sudo reboot

❌ ③ rootだと動くのに通常ユーザーだとNG

症状

sudo nvidia-smi → OK
nvidia-smi → NG

原因

/dev/nvidia* のデバイスファイルへのアクセス権限がない。

解決

sudo usermod -aG video $USER
sudo usermod -aG render $USER
reboot

グループ変更はrebootしないと反映されないので注意。

❌ ④ 1回目だけnvidia-smi失敗する

症状

最初だけ失敗 → 2回目から成功

原因

eGPU特有のGPU初期化遅延。外付けGPUは認識タイミングがシビアです。

解決

sudo nvidia-smi -pm 1
sudo systemctl enable nvidia-persistenced

Persistence Modeを有効にして、GPUを常駐させることで解消。

❌ ⑤ emergency modeに落ちる

症状

You are in emergency mode

原因

ファイルシステムまたはセッションの破損。上記のトラブル対応中に強制再起動を繰り返すとなりやすい。

解決

fsck -yf /
reboot

❌ ⑥ VNC設定で壊れる

原因

Xセッションの競合。VNCとX11が同時に走ってGPUの割り当てが崩れます。

解決

systemctl disable vncserver

なぜこんなにハマるのか

これが本質です。

LinuxはマルチGPUを
自動でいい感じにしてくれない

「どのGPUを何に使うか」を明示的に決めないと、XorgとNVIDIAドライバがお互いに干渉して壊れます。特にeGPU(外付け)は認識タイミングも不安定なので、設定が曖昧だと毎回違う挙動になります。

最終構成(これが正解)

画面 → AMD iGPU
AI推論 → RTX 3090

役割を明確に分離する。これだけで安定します。

やってはいけないこと

❌ nvidia-xconfig の実行
❌ XorgにNVIDIA設定を入れる
❌ GPU自動切替に任せる
❌ startx を多用する

OllamaでGPU推論を確認

ollama run qwen2.5-coder:7b

別ターミナルで監視:

watch -n1 nvidia-smi

実際の確認結果:

/usr/local/bin/ollama → VRAM 6GB使用

完全にGPU推論が成功している状態です。

実際の性能感

24GBあれば32Bまでは実用圏内。量子化(Q4など)を使えばもう一段上も狙えます。

今回の一番の学び

GPUを「役割分担」するのが正解

ディスプレイ用とAI推論用を分けて明示的に設定する。これさえ守れば、ミニPC + 外付けeGPUのマルチGPU環境はLinuxでも安定して動きます。

まとめ

EVO-X2 + OCuLink + RTX 3090の構成は、セットアップに多少の地獄を伴いますが、乗り越えればミニPCとは思えないローカルAI環境が手に入ります。

たぶんクリーンインストールだったらここまでおかしくはならなかったとは思う。
AMD iGPU + Nvidia GPUという構成もなかなかの罠があるようです。

クラウドAPIへの依存をなくしたい、データをローカルで完結させたい、24GB VRAMで大きめのモデルを回したいという方には、コスパ・性能・フォームファクタのバランスが取れた現実解だと思います。

上位モデルが安く手に入る機会があればチャレンジはしてみたい。

この先は、RTX4090,5090に行くのか、DGX Sparkなどのスパコンに行くかどうか。

同じ構成で詰まっている方のお役に立てれば嬉しいです。質問や別の知見があればコメントで教えてください!

#LocalLLM #eGPU #RTX3090 #OCuLink #Ubuntu #Ollama #自作PC #AI

いいなと思ったら応援しよう!

zephel01 サーバー代とコーヒー代になります☕ 役に立ったら応援よろしくお願いします!