AIモデル選びは性能ランキングから「1仕事いくら」へ
高性能モデルを全員に配ると、何が起きるか
この記事は、以下の続きです。
社内で生成AIを導入すると、少し不思議な場面が起きます。
短いメールの修正にも、会議メモの要約にも、複雑な分析にも、同じ高性能モデルが使われます。
使う側から見れば、その方が迷いません。
会社が指定したAIを開き、やりたいことを入力する。
モデルを選ぶ手間がないので、利用は広がりやすくなります。
ただ、利用が増えたあとに、別の問題が出てきます。
「このAI利用料は、何の仕事に使われたのか」
請求書を見れば、全体の金額は分かります。
管理画面を見れば、消費したトークン数や利用者数も分かります。
ところが、短いメールの修正にいくらかかったのか。
報告書を一本完成させるのに、何回生成し直したのか。
作られたコードを人間が何時間修正したのか。
そこまでは見えないことがあります。
前回の記事では、中国系AIモデルの利用が伸びた背景を、低価格、モデル効率、オープンウェイト、運用基盤から見ました。
その先に残るのは、企業側の選び方です。
安いモデルへ一括で乗り換えればよいのか。
高性能モデルを使い続けるべきなのか。
実際には、会社全体で一つの答えを出す必要はありません。
社内メールの修正と、顧客への提案書。
定型的なデータ分類と、経営判断に使う分析。
失敗してもやり直せる仕事と、誤りが事故につながる仕事。
必要とされる品質が違うのに、同じモデルを使う方が不自然です。
高性能モデルが高いこと自体が問題なのではありません。
高い能力を必要としない仕事まで、同じ条件で処理している。
そこに、見えにくいコストが残ります。
では、料金表に書かれたトークン単価を比べれば、適切なモデルを選べるのでしょうか。
100万トークン単価では仕事の値段は分からない
AIモデルの料金は、よく「100万トークンあたり何ドル」という形で示されます。
数字が並んでいるので、比較しやすく見えます。
ただ、ここには小さな落とし穴があります。
入力と出力では、料金が違います。
同じ文章を何度も読み込ませる場合、キャッシュが使えるかどうかでも変わります。
検索、ファイル参照、コード実行などのツールを使えば、トークン以外の料金が発生する場合もあります。
OpenAIの公式料金ページでも、入力、キャッシュされた入力、出力、ツール利用は別の課金要素として示されています。
つまり、モデルの単価だけを見ても、一回の仕事にかかる費用は分かりません。
同じ要約作業でも、短い資料を一度で要約できる場合と、長い資料を何度も分割して処理する場合では、使用量が変わります。
同じコード作成でも、一度でテストを通過する場合と、エラーを直すために十回やり取りする場合では、総費用が違います。
さらに、人間の時間があります。
安いモデルを使った結果、表現が曖昧になり、担当者が20分修正した。
作られたコードに見落としがあり、別の担当者が一時間確認した。
事実確認が必要な文章が増え、上司のレビュー時間が長くなった。
AIの請求額だけを見れば安くても、仕事全体では高くなっているかもしれません。
反対に、高性能モデルを使うことで、一度で作業が終わり、人間の確認時間が短くなることもあります。
その場合は、モデル単価が高くても、仕事は安く終わります。
OpenRouterの利用量管理では、リクエストごとのトークン数、費用、キャッシュ状況を取得できます。
こうした記録は便利ですが、それだけでは「成果物が完成したか」「人間が何分直したか」までは分かりません。
モデルの価格は、部品の値段です。
知りたいのは、完成品の値段です。
その二つをつなぐには、一つの仕事が終わるまでに何が起きたかを分解する必要があります。
「1仕事いくら」は5つに分解できる
一つの仕事にかかった費用は、次の五つに分けると見えやすくなります。
・モデル利用料
・ツール利用料
・再試行の費用
・人間の確認時間
・失敗による手戻り
モデル利用料は、入力と出力に使ったトークンの費用です。
ツール利用料は、Web検索、ファイル検索、コード実行、外部サービスの呼び出しなどにかかった費用です。
再試行の費用は、回答が使えず、条件を変えて生成し直した分です。
人間の確認時間には、事実確認、文章修正、動作テスト、承認作業が含まれます。
手戻りは、誤った出力を使ったことで、後の工程までやり直す費用です。
たとえば、社内向けの議事録を考えます。
一回目の生成で必要な項目がそろい、担当者が3分確認して終われば、多少単価の高いモデルでも総費用は小さくなります。
安いモデルを使っても、出席者名が抜け、決定事項が曖昧で、三回生成し直し、最後に担当者が15分修正すれば、仕事としては高くなります。
顧客向けの提案書なら、失敗の重さが変わります。
数字を間違えたまま提出すれば、修正時間だけでなく、信用への影響も出ます。
この仕事では、少し高いモデルを使い、人間の確認を必須にする方が合理的かもしれません。
一方、大量の商品データを決められた分類へ振り分ける仕事なら、一件ごとの差額が全体へ大きく影響します。
多少の誤りを後から検出できる仕組みがあるなら、低価格モデルを使う余地があります。
リアルタイムで返す必要がない処理では、実行方法を変える手もあります。
OpenAIのBatch APIは、即時応答が不要な処理を24時間以内にまとめて実行する代わりに、通常より50%低い費用を案内しています。
つまり、モデルを替えなくても、仕事の流し方を変えるだけで費用が下がる場合があります。
見るべき式は、難しくありません。
1仕事の総費用は、AIに払った金額と、人が仕上げるために使った時間と、失敗によるやり直しの合計です。
ここまで見えると、次に考えるべきことも変わります。
どのモデルが一番高性能かではなく、どの仕事を、どのモデルへ渡すかです。
モデルは仕事ごとに振り分ける
モデルを仕事別に振り分けると聞くと、複雑なシステムが必要に思えます。
最初から自動化する必要はありません。
まずは、仕事を四つの軸で見るだけでも変わります。
・必要品質
・総コスト
・情報の機密度
・代替可能性
前回の記事で置いたこの四つの軸は、モデルを仕事別に振り分けるときの基準になります。
必要品質は、どの程度の誤りまで許されるかです。
文章のアイデア出しなら、多少の外れがあっても選び直せます。
契約書の確認や経営判断に使う分析では、同じ扱いにはできません。
総コストは、トークン料金だけでなく、人間の確認時間まで含めます。
機密度は、入力する情報を外部サービスへ送ってよいか、保存や学習に利用されないかという判断です。
代替可能性は、そのモデルが停止したとき、別のモデルへ仕事を移せるかです。
この四軸で見ると、仕事の振り分け方が見えてきます。
短いメールの修正、定型的な要約、分類作業は、低価格モデルから試す。
顧客向け文章、複雑な分析、難しいコード修正は、高性能モデルを候補にする。
機密情報を含む仕事は、契約、保存場所、ログ、学習利用の条件を満たす環境だけで処理する。
どのモデルでも品質が安定しない仕事は、人間を中心に置く。
OpenRouterでは、同じモデルでも接続先を価格優先や処理速度優先で選べます。
最大価格を設定したり、ツール利用に対応する接続先へ振り分けたりする仕組みもあります。
ただ、自動ルーティングに任せれば、必ず最適になるわけではありません。
33モデル、21データセット、40万件超を扱ったLLMRouterBenchでは、モデルごとに得意分野が異なり、適切な振り分けには費用削減の余地がある一方、複雑なルーターが単純な基準を安定して上回るとは限らないと報告されています。
候補モデルを増やしすぎるより、用途に合う少数のモデルを慎重に選ぶ方が有効な場合もあります。
会社で最初に必要なのは、何十種類ものモデルではありません。
低価格モデル、高性能モデル、機密情報を扱える環境。
まずは、この三つ程度から始める方が管理しやすいでしょう。
安いAIより、安く終わる仕事を増やす
AIモデルを選ぶとき、ついランキングを見てしまいます。
数学で何点だったか。
コーディングで何位だったか。
入力できる文章量はどれくらいか。
もちろん、性能は無視できません。
ただ、ベンチマークで一位のモデルが、すべての会社で一番安く仕事を終わらせるとは限りません。
仕事の種類が違うからです。
社内メールを毎月1万件修正する会社。
専門的な提案書を月に20本作る会社。
大量の問い合わせを自動分類する会社。
一件の判断ミスが大きな損失につながる会社。
同じモデルランキングを見ても、選ぶべき答えは変わります。
最初に測りたいのは、次の五つです。
・一つの仕事で使ったAI料金
・完成までの生成回数
・人間が確認した時間
・やり直しになった割合
・求める品質を満たした割合
すべてを正確に測ろうとすると、続きません。
最初は、対象業務を一つだけ選びます。
たとえば、出張報告書の作成です。
同じ種類の報告書を、二つのモデルで10件ずつ作る。
AI料金、生成回数、修正時間、差し戻し件数を記録する。
一か月後に、どちらが安く完成したかを見る。
これなら、モデルの宣伝文句ではなく、自社の仕事を使って判断できます。
料金やモデル性能は、これからも変わります。
今一番安いモデルが、半年後も一番安いとは限りません。
今一番高性能なモデルが、次の仕事でも最適とは限りません。
だから、特定のモデルを正解にするより、入れ替えられる設計を持つ方が残ります。
AIを安く使うことと、仕事を安く終わらせることは、似ているようで違います。
トークン単価を下げるだけでは、人間の修正時間が増えるかもしれません。
高性能モデルを使うだけでは、簡単な仕事に余分な費用を払うかもしれません。
見るべきは、モデルの値段ではなく、仕事が完成したときの値段です。
そう考えると、AIモデル選びは、性能競争というより、仕事の設計に近くなってきます。
以下の記事もご参考に!
いいなと思ったら応援しよう!
よろしければ応援お願いします!
いただいたチップはクリエイターとしての活動費に使わせていただきます!