GLM-5.2がFable 5と互角と話題。でもローカルで動かすには最低223GB必要だった
「オープンウェイトのGLM-5.2が、Design ArenaでほぼFable 5と互角だった」という評価がRedditで話題になっています。MITクラスのオープンモデルが商用最上位に肉薄したとなれば、「これでローカルで動かせるなら最高では?」と思いますよね。
でも、実際に動かすのに必要なスペックを調べたら、話が変わりました。この記事では、GLM-5.2が何者なのか、本当にローカルで動くのか、必要なメモリを量子化別に計算して、現実的な選択肢まで整理します。
この記事でわかること:
GLM-5.2が話題になっている理由
ローカル実行に必要なメモリを量子化別に計算した結果
Macで本当に動くのか、現実的なラインはどこか
「ローカルで動く」という言葉に騙されないための見方
第1章: GLM-5.2が話題になっている理由
GLM-5.2は、744Bパラメータ(うちアクティブ40B)のMoE(Mixture of Experts)モデルです。コンテキストウィンドウは約100万トークン(1,048,576)と長大です。
話題の火種は2つあります。
ひとつは、HackerNewsでUnsloth公式の「ローカル実行ガイド」が427ポイントを集めたこと。もうひとつは、Reddit(r/LocalLLaMA)で実際にプロジェクトに使ったユーザーが「Design Arenaではほぼ全カテゴリでFableに肉薄した」と報告したことです。
ベンチマーク上の数字も派手で、SWE-Bench Proで62.1%、AIME 2026で99.2%、GPQA-Diamondで91.2%と公開されています。これだけ見ると、「オープンウェイトがついに最上位商用モデルに並んだ」と盛り上がるのも分かります。
ただ、ここで多くの人が引っかかるのが「アクティブ40Bだからローカルで軽く動くのでは?」という期待です。MoEは推論時に一部のエキスパートしか使わないので、計算量は40B相当。でも、メモリに載せるのは744B全部です。ここが落とし穴でした。
第2章: 必要メモリを量子化別に計算してみた
Unslothのドキュメントには、量子化のタイプごとに必要なメモリ(RAM + VRAMの合計)が載っています。これがなかなかの数字です。
ここから先は
¥ 980
この記事が気に入ったらチップで応援してみませんか?
