300万円PoCはさすがにフィクションすぎ。30万円×2週間のローカルLLM実証法

製造業のDX担当やローカルLLM導入に興味がある方に向けて、いきなりPoCをやる前に30万円クラスのミニPCで"まず自分で触ってみる"という選択肢を紹介します。実データで課題と効果を把握してから本格投資を判断すれば、失敗リスクは劇的に減ります。（読了7分）

なぜ「300万円PoC」の前に自前検証が必要なのか

製造業でローカルLLMの導入を検討すると、ITベンダーから「まずPoC（概念実証）をしましょう」という提案が届きます。見積もりは300万〜1,500万円、期間は3〜6か月です。​

しかし、ベンダーPoCには構造的な問題があります。それは 「触るのが遅すぎる」 ことです。レポート上の精度やシステム構成は詳しく書かれますが、UI・業務フロー・現場の受け入れといった"実際に触らないとわからない課題"は後回しになります。​

数か月後にようやく現場が使い始めて「操作が分かりにくい」「業務に合わない」「効果が思ったより出ない」と気づくケースが頻発しています。でも、その時点ですでに300万円を支払った後です。​

逆に、最初から自分で小規模に触って課題を洗い出し、効果も自分で測定してから判断すれば、無駄な投資を避けられます。ベンダーに相談する際も「特許翻訳で化学式の誤訳が多い」「10ページ超の文書で処理が止まる」といった具体的な課題を提示できるので、的確な提案を引き出せます。​

GMKtec EVO-X2というハードウェア選択肢

ローカルLLM検証の最初のステップで推奨されているのが、AMD Ryzen AI Max+ 395＋128GB統合メモリを搭載したミニPCです。その代表例がGMKtec EVO-X2で、日本では約40万円前後で販売されています。​

スペック概要

• プロセッサ：AMD Ryzen AI Max+ 395（16コア32スレッド、最大5.1GHz）

• メモリ：LPDDR5X-8000 128GB（オンボード、交換不可）

• ストレージ：2TB M.2 PCIe 4.0 SSD（空きスロット1つあり）

• GPU：AMD Radeon 8060S（統合）

• AI性能：最大126 TOPS（NPU: 50 TOPS）

• 映像出力：HDMI 2.1×1、DisplayPort 1.4×1、USB4×2（4画面同時出力）

• サイズ：186×77×192mm（約1.6kg）

• OS：Windows 11 Pro

​

このマシンは、従来のミニPCの範疇を超えたAI処理能力を持ち、LM StudioというChatGPTライクなUIソフトウェアでgpt-oss-20BやGemma 3などのモデルをローカル実行できます。​

性能ベンチマーク

• Geekbench 6 シングルコア：3,040

• Geekbench 6 マルチコア：22,125

• ゲーミング性能：RX 7600を17%上回る（94fps vs 80fps）

• LLM処理：NVIDIA DGX Sparkより高速な生成速度を達成

​​

30万円クラス検証機で何がわかるか

gpt-oss-20Bは総パラメータ約21BのMoE構成で、実際にアクティブなのは約3.6Bと軽量化されており、単一GPU環境で効率よく動きます。EVO-X2の128GBメモリなら複数インスタンスの同時起動も可能です。​

ただし、高性能dGPU（RTX 4060Ti/3090など）と比べるとトークン毎秒は劣る場面があり、「クラウド級の爆速」というより"ローカルとしては十分速い"レベルという評価が多いです。​

この構成で明確になる課題

技術的な課題

• 処理速度（特に長文や高コンテキスト時）

• 専門用語や化学式の精度

• ファイル形式や長文でのエラー

• 図表を含む文書の扱い

業務フローの課題

• Excel連携のしづらさ

• 結果確認の手間

• どこまでLLMに任せるかの運用ルール

現場の受け入れの課題

• 「本当に正確なのか」という心理的ハードル

• 使い方が分からない人への対応

• 既存の作業手順との整合性

これらは、ベンダーのレポートでは見えません。​

ステップ0：OpenRouterで体験する（数百円・1週間）

最初のステップはOpenRouterという複数のLLMモデルを試せるサービスで、gpt-oss-120bやGemma 3などを数百円の利用料で1週間ほど触り、「LLMで業務課題が解決できそうか」を感覚的に掴むことです。​

やること

• 技術文書を要約してみる

• データを分類してみる

• 報告書の下書きを作らせてみる

重要なのは、機密情報は使わないこと。サンプルデータや公開情報で試します。​

推奨モデル

• 画像も読み取りたい：Gemma3-27b

• テキストのみで良い：gpt-oss-120bかQwen3-30a-3b

​

このステップで得られるもの

• LLMで課題が解決できそうかの精度感覚

• どんな使い方ができそうかのイメージ

• どのモデルが良さそうかの候補

結果として「意外と使える」「でも、専門用語が少し怪しい」「長い文章だとどうなるんだろう」といった疑問が出てきます。それが次のステップへのヒントになります。​

ステップ1：EVO-X2で実データ検証（30万円・2週間）

ステップ0で手応えを掴んだら、次は機密情報を含む実データでの検証です。​

構成例

• PC：EVO-X2（Ryzen AI Max+ 395、128GB RAM）

• OS：Windows

• ソフトウェア：LM Studio（無料）

• モデル：gpt-oss-20B

費用：約30万円、セットアップ時間：数時間​

検証の進め方

• 最初の1週間は担当者が試す

• 次の1週間は現場メンバー2〜5名に使ってもらう

実際の業務データで試し、現場の人に使ってもらうことが重要です。​

評価すべき指標

レイテンシ

• 1プロンプトあたりの応答時間

• Time-to-First-Token（TTFT）

• トークン毎秒（decode速度）

代表的な業務プロンプト（特許要約、報告書ドラフトなど）を複数パターン用意し、LM Studioやログから応答時間を計測します。​

精度・品質

• 特許翻訳なら誤訳率

• 要約なら重要項目の抜け漏れ

• 分類なら正解率

化学式や図表番号の扱いなど"現場固有の重要ポイント"に焦点を当ててチェックリストを作ると効果が見えやすくなります。​

業務インパクト

• 1件あたり処理時間の短縮（例：30分→10分）

• 月間削減工数

• 金額換算インパクト（時給×削減時間）

想定事例では、特許調査100件／週で月間200時間→約67時間まで削減、年間約600万円相当の削減効果という試算があります。​

リソース・スケール

• 同時利用ユーザー数ごとの速度低下

• CPU/GPU/NPU/メモリ使用率

• モデル同時起動数

gpt-oss-20Bを1インスタンス→2〜3インスタンスと増やしながら、トークン毎秒や応答時間の変化を測ると、「30万円機でどこまでスケールできるか」の目安が見えます。​

UX／運用性

• 現場メンバーへのアンケートで「使いやすさ」「信頼感」「業務フローとの合致度」を5段階評価

• 自由記述でボトルネックを収集

UIや運用フローはレポートでは見えないので、2週間ほどの試用期間を設けて"生の声"を集めることが重要です。​

よくある失敗と対策

高額PoC先行

課題が曖昧なまま300万〜1,500万円のPoCを行い、半年後に現場が触ってみたら「UIが使いにくい」「業務フローに合わない」「思ったほど効果がない」と判明するケースです。​

対策：ステップ0（OpenRouter）＋ステップ1（30万円検証機）でまず自前検証し、課題と効果を自分でリスト化してから業者や本格環境に進みます。​

課題が不明確

「ローカルLLMを導入したい」レベルの抽象的相談に対し、業者が汎用・高額構成を提案し、実際の業務課題とずれます。​

対策：「特許翻訳で化学式の誤訳を減らしたい」「10ページ超だと途中停止するので長文対応したい」など、ステップ1で見えた具体課題を要件として整理してから相談します。​

UI／業務フロー軽視

レポート上の精度・速度は良好だが、実際に現場が使うとExcel連携や確認作業が煩雑で、結局使われません。​

対策：LM StudioやWeb UIで実際の現場メンバーに2週間ほど触ってもらい、「どこで詰まるか」「どのステップを自動化すべきか」を洗い出してからUIや連携部分を設計します。​

効果測定なし！？

「なんとなく便利そう」で導入し、工数削減や品質向上が数値化されず、投資評価が曖昧になります。​

対策：1件あたり処理時間、月間処理件数、エラー修正工数などをBefore/Afterで測り、PoC段階から効果指標を記録します。​

過不足スペック

いきなりRTX A6000級のGPUサーバを買ったが、実際は20Bモデル＋数ユーザーで足りた／逆に負荷に耐えられず再投資が必要になります。​

対策：ステップ1でRyzen AI Max+ 395機を実運用に近い形で使い、実際の負荷・ユーザー数・モデルサイズを確認した上で、必要なGPUやサーバー台数を見積もります。​

判断の3つの選択肢

ステップ1を2〜3週間実施した時点で、以下のものが揃っています。​

• 実運用可能なシステム（30万円で構築済み）

• 定量的な効果データ

• 具体的な課題のリスト

• 現場の生の声

ここから次の3択が"根拠を持って"選べます。​

選択肢A：自社で本格環境を構築

課題が明確で、自社で解決できそうなら、GPU環境を構築して本格運用に進みます。​

構成例

• GPU：RTX A6000（48GB VRAM以上）

• OS：Linux

• ソフトウェア：Ollama or vLLM + OpenWebUI

• モデル：Gemma 3 27B（マルチモーダル対応）

• 費用：150万〜200万円

• 構築期間：2〜4週間

投資額は明確です。効果も見えているので、投資判断がしやすい状態になっています。​

選択肢B：専門業者に相談

より高度な課題がある場合、専門業者に相談します。でも、この時点で課題が明確になっているので、打ち合わせが効率的です。​

業者への依頼内容例

「現在、Ryzen AI Max+ 395でgpt-oss-20bを運用中。週200件の特許要約で、処理時間が30分→10分に短縮。ただし、以下の課題がある」

• 化学式の要約精度が低い（改善したい）

• 1文書10ページ超だと処理が止まる（対策が必要）

• 図表を含む文書に対応したい（マルチモーダル化）

「これらを解決する構成を提案してほしい。予算は100万円程度を想定」

これだけ明確なら、業者も的確な提案ができます。無駄な検証が不要で、お互い納得できる契約になります。​

選択肢C：やらない

もし効果が見込めないと分かったら、ここでストップします。損失は30万円。300万円のPoCをやってから気づくより、圧倒的に安く済みます。​

まとめ

• ローカルLLM導入は、いきなり300万円PoCではなく、まず自分で小規模に触って課題と効果を把握してから判断すべき

• OpenRouter（数百円・1週間）で体験し、EVO-X2級のミニPC（30万円・2週間）で実データ検証する段階的アプローチが推奨される

• 2〜3週間の検証で「実運用システム」「定量効果」「課題リスト」「現場の声」が揃い、自社構築・業者依頼・撤退の3択を根拠を持って判断できる

• UI・業務フロー・現場受け入れといった"触らないとわからない課題"を早期に顕在化させることで、無駄な投資を避けられる

• 効果測定（処理時間、工数削減、品質変化）を数値化し、投資判断を明確にすることが重要

導入時の追加注意点

この記事では、300万円PoC前に30万円検証機で自前検証するアプローチを紹介しました。実際の導入事例では年間約600万円の工数削減効果が報告されており、情報価値は数百万円規模です。しかし、製造業全体で知見を共有し、業界全体で前進することを優先し、価格は300円に設定しました。この金額なら、ローカルLLMに関心がある多くの担当者が気軽に読めると考えています。​