AIは使われる。それでも投資は回収できるのか――第1話　AIエージェント時代、企業が気にし始めた「トークンの燃費」

ChatGPTのような生成AIは、これまで基本的に「質問に答える道具」として使われてきました。

文章を要約する。
メールを書く。
分からないことを説明してもらう。

人間が一つ指示を出し、AIが一つ答える。これが一般的な使い方でした。

しかし、いま企業が期待しているのは、その先です。
質問に答えるだけでなく、仕事の流れそのものを進めてほしい。
そこで登場するのが、AIエージェントです。

AIエージェントは、目的を渡されると、その仕事をいくつかの工程に分けて進めます。

たとえば、「来週の大阪出張を準備して」と頼んだとします。
普通のAIなら、交通手段やホテルの候補を提案する程度でしょう。

AIエージェントは、もう一歩先まで進みます。

カレンダーを確認する。
社内の出張規定を読む。
新幹線やホテルを検索する。
条件に合わなければ、もう一度探す。
予定を登録し、関係者への連絡文まで作る。

人間から見れば、指示は一回です。

しかし、その裏側では、AIが何度も文章を読み、検索し、判断し、結果を確認しています。

仕事を分解するたびにAIが呼び出されます。検索にもAIが動き、結果が条件に合っているか確認するためにも、もう一度AIが使われます。

ここで重要になるのが、トークンです。

トークンとは、AIが文章を読み、考え、答えを作るときに使う処理単位です。
企業がAPIやクラウド経由でAIを使う場合、この消費量が利用費用を大きく左右します。

短い質問に一回答えるだけなら、処理量は限られます。
一方、AIエージェントは、一つの仕事を終えるまでに何度もAIを呼び出します。

資料を読む。
条件を整理する。
外部サービスを検索する。
結果を比較する。
判断をやり直す。
最後に結果をまとめる。

それぞれの工程で、トークンが消費されます。
長い資料を毎回読み直せば、そのたびに同じ情報の処理費用がかかります。
条件に合う答えが出ず、再試行を繰り返せば、その回数だけ消費も増えます。

人間から見れば、たった一つの仕事です。

しかし企業から見れば、その仕事を終えるためにAIが裏側で何回動き、どれだけの費用が発生したのかが問題になります。

AI導入の初期には、企業はまず利用を広げようとします。

何人の社員が使ったか。
何件の事例ができたか。
どれだけ多くの業務へ導入したか。

この段階では、AIを使うこと自体が評価されます。

しかし、利用が広がれば、企業の問いは変わっていくはずです。

なぜ同じ仕事に、これほど多くのトークンが必要なのか。
すべての工程に、高性能なモデルが本当に必要なのか。
同じ資料を何度も読み直していないか。

これまで問われていたのは、「AIをどれだけ使ったか」でした。

これから問われるのは、

その仕事を、何トークンで終えたか

ではないでしょうか。

もちろん、企業が見るのはトークン数だけではありません。
AIの利用料に加えて、人間が結果を修正する時間、処理の成功率、完了までにかかった時間を含めた、一つの仕事当たりの総コストです。

ただ、そのコストを左右する中心の一つが、トークン消費であることは変わりません。

業界では、こうした考え方を「トークノミクス」と呼ぶ動きがあります。
投入したトークンに対して、どれだけの業務価値を生み出せたか。
同じ仕事を、より少ないトークン、短い時間、少ない人手で終えられるか。
AI導入競争の次に始まるのは、AIをどれだけ大量に使えるかという競争ではありません。

少ないトークンで、どれだけ大きな成果を出せるかという競争です。

これまでのAI相場では、利用者が増えればトークン消費が増え、GPUやデータセンターの需要も増える、という流れが前提にされてきました。

では、企業が「できるだけ少ないトークンで仕事を終える」方向へ進んだとき、この前提はどう変わるのでしょうか。