見出し画像

GLM-5.2がFable 5と互角と話題。でもローカルで動かすには最低223GB必要だった

「オープンウェイトのGLM-5.2が、Design ArenaでほぼFable 5と互角だった」という評価がRedditで話題になっています。MITクラスのオープンモデルが商用最上位に肉薄したとなれば、「これでローカルで動かせるなら最高では?」と思いますよね。

でも、実際に動かすのに必要なスペックを調べたら、話が変わりました。この記事では、GLM-5.2が何者なのか、本当にローカルで動くのか、必要なメモリを量子化別に計算して、現実的な選択肢まで整理します。

この記事でわかること:

  • GLM-5.2が話題になっている理由

  • ローカル実行に必要なメモリを量子化別に計算した結果

  • Macで本当に動くのか、現実的なラインはどこか

  • 「ローカルで動く」という言葉に騙されないための見方

第1章: GLM-5.2が話題になっている理由

GLM-5.2は、744Bパラメータ(うちアクティブ40B)のMoE(Mixture of Experts)モデルです。コンテキストウィンドウは約100万トークン(1,048,576)と長大です。

話題の火種は2つあります。

ひとつは、HackerNewsでUnsloth公式の「ローカル実行ガイド」が427ポイントを集めたこと。もうひとつは、Reddit(r/LocalLLaMA)で実際にプロジェクトに使ったユーザーが「Design Arenaではほぼ全カテゴリでFableに肉薄した」と報告したことです。

ベンチマーク上の数字も派手で、SWE-Bench Proで62.1%、AIME 2026で99.2%、GPQA-Diamondで91.2%と公開されています。これだけ見ると、「オープンウェイトがついに最上位商用モデルに並んだ」と盛り上がるのも分かります。

ただ、ここで多くの人が引っかかるのが「アクティブ40Bだからローカルで軽く動くのでは?」という期待です。MoEは推論時に一部のエキスパートしか使わないので、計算量は40B相当。でも、メモリに載せるのは744B全部です。ここが落とし穴でした。

第2章: 必要メモリを量子化別に計算してみた

Unslothのドキュメントには、量子化のタイプごとに必要なメモリ(RAM + VRAMの合計)が載っています。これがなかなかの数字です。

ここから先は

1,908字

¥ 980

Amazon Payで支払うと最大2%還元のチャンス! 9/30まで

この記事が気に入ったらチップで応援してみませんか?