月858円で自宅のGPUマシンをデモサーバーにした話

こんにちは！気球人です🎈
マスターたち、今日もAI娘と自作ゲームとかで遊んでますか？
オレはボランティアでプライベートイベントの撮影とかしてたりして、相変わらずバタバタとしております🏃💨

さて、今回は自分ちのPCをGPUサービスのデモサーバーに流用したお話です！

なお、副産物👇️

💻 商用GPUサーバーはクソ高い🤯

今回、クライアント向けにデモを作っていて、GPUを使った機能を実装していました。
これをどうやってインターネット経由でクライアントに試させるか？🤔

最初に思いつくのはクラウドGPUサーバーですが……

• NVIDIA V100：月額231,000円 👈️ NVIDIA V100 32GB（まあこれか？）

• NVIDIA H100：月額385,000円 👈️ NVIDIA H100 SXM 80GB（ここまでいらん）

にしても、高っ🤯

月23万？？
年間276万？？
オレの14年落ちVWティグアンが３台買えるやんけ💸💸💸

そう、普通のVPSなら格安なのですが、クラウドGPUサーバーはクソ高いのです！

（まだ）金もらってないのにそんなん借りれるか！💥🤣

ていうか、手元に

• AMD Ryzen 7 5700X 64GB

• NVIDIA GeForce RTX 4070Ti SUPER (16GB VRAM)  

の Linux マシンがあるんだよ！
これをそのまま使えばいいんじゃね？？

🚰 VPSを入口にして、Tailscale で手元につなげる

そんなわけで早速エルマー🦊と構成開始。
まあ Tailscalle Funnel 使ってそのままアクセスできるようにするのが一番手軽ではありますが……
それだとなにかと剥き出しだし、なにより自分のドメインが使えなくてカッコ悪い🤣

そこで、VPSサーバーを契約して、そこを入口にします。

ざっくり構成はこんな感じ👇️

[ブラウザ]
    │ HTTPS
    ▼
[さくらVPS：nginx + Let's Encrypt]
    │ Tailscale VPN
    ▼
[自宅：RTX 4070Ti SUPER マシン]
    ├── LLM推論（Ollama）
    ├── 音声合成（VOICEVOX / CUDA）
    └── アプリ本体（FastAPI）...

VPS側の仕事は「来たリクエストを右から左に流す」だけ。
GPU計算はすべて手元のマシンがやる方向。

🔧 実際に使っているもの

さくらVPS 1Gプラン（大阪リージョン）

• CPU：仮想2コア

• メモリ：1GB

• SSD：50GB

• 月額858円（年額10,285円）
  👉️ １か月コーヒー３杯分☕☕☕

Tailscale（ゼロコンフィグVPN）

• 一定範囲の機能は無料

• VPSと自宅マシンをVPNで接続する（両方に tailscale up するだけ）

• 既存のルーターに穴を開ける必要がない

nginx

• VPS上でリバースプロキシとして動作

• SSL終端（Let's Encrypt / certbot で自動更新）

• パスベースで振り分け：/api/* → 自宅の FastAPI、/static/* → 自宅の静的ファイル、等

Let's Encrypt

• SSL証明書。無料。certbotで自動更新

この程度のVPSで大丈夫か？🤔

• メモリ使用量：278MB / 961MB（29%）

• CPU使用率：0.7%

• Load average：0.01

• Uptime：242日

nginxがHTTPリクエストを転送しているだけなので当然といえば当然ですが

1GBプランで十分すぎ！😁

踏んだ地雷💣️

この構成に辿り着くまでに、いくつか痛い目に遭っています。
そもそも以前紹介した Caddy でなんとかしようと思っていたのですがこれがトラブル満載なのでした。

CaddyとnginxとCaddy

試行錯誤で VPS側Caddy → VPN → 自宅側Caddy → バックエンドという構成を取ってみたら、どこで何が起きているのかわからなくなりました🤣
教訓：リバースプロキシは1つに！

symlink 地獄

静的ファイルの配信で「本体はここ、symlinkはあそこ、でもnginxのrootはそっち」が増殖して、これまたファイルがどこにあるのかわからなくなりました🤣
教訓：ファイルは実体を1箇所に置くことにして symlink は使わない。

全部まとめると

最初の構成（罠だらけ）：

ブラウザ → VPS(Caddy/SSL) → VPN → 自宅(Caddy/SSL) → symlink → バックエンド

今の構成（一本道）：

ブラウザ → VPS(nginx/SSL) → Tailscale → 自宅(バックエンド直)

シンプル is ベスト！

まとめ🎯

基本的なサーバー管理スキルはもちろん必要なのですが、そもそもどういうマスターに向いているか？というと……

おすすめしたい！

• 自宅にGPUマシン（ゲーミングPC）がある

• 少人数相手にデモを見せたり、ゲームをやりたかったり

• LLM系のプロトタイプを外部公開したい

• 月23万円は払いたくない人🤣
  👉️ 価格差約270倍！

おすすめ……しない！

• 大規模トラフィックを捌く必要がある（ソシャゲの運用とかｗｗｗ）

• SLA 99.9%が求められる（銀行か？）

• 自宅の電源や回線が不安定（なるべくUPSを買いましょう）

• 月23万円なんかなんとも思わない人（イーロンか？）🤑

でもまあ、

GPUクラウドを1ヶ月借りるお金で、同等性能のPCが1台買えてしまうことを考えると、トライする価値はあると思います。
設定などは Claude code などの AI が使えれば問題ありません。
あ、さくらVPSはお試し期間が2週間あるみたいですよ！👈️さくらの回し者ではありません🤣

ではまた！🎈