トークン使用量 — 何がカウントされるか

ダッシュボードでは、トークン使用量が2色で表示されます — 前処理（pre-processing） と 生成（generation） です。それぞれが何であるか、そして何がトークン消費になり何がならないかを説明します。

2種類のトークン

大規模言語モデル（LLM）は、読み込むテキストと書き出すテキストに対して、トークン単位（1トークンはおおよそ単語の¾に相当）で課金されます。agent4.io も使用量を同じ考え方で分けて表示します。

• 前処理（入力）。 モデルが回答するために渡されるすべての情報:
  • ユーザーのメッセージ、
  • 直近の会話履歴、
  • エージェントのナレッジベースから取得された関連チャンク、
  • そしてエージェント自身の指示 — ソウル（システムプロンプト）、タスク、そしてロードされたスキル。
• 生成（出力）。 モデルが生成するすべての情報:
  • 顧客が読む返信、
  • そしてエージェントがツールやスキルを使用する際に、それを起動するために書き出す構造化された呼び出し。

グラウンディングされたエージェントの場合、取得されたナレッジが質問のたびに追加されるため、通常は前処理バーの方が大きくなります。

トークンを消費しないもの

• ドキュメントの取得と保存。 ナレッジベースの構築と検索はクォータを消費しません — 実際にモデルが読み込むテキストのみが消費対象です。
• メッセージの配信。 ウェブウィジェット、Telegram、WhatsApp 経由での送受信にトークンコストはかかりません。

使用量の読み方

ダッシュボード概要では:

• 時間経過によるトークン使用量 — 1日（または1時間）ごとに1本のバーで、前処理と生成に分かれており、24時間 / 7日間 / 30日間の期間切り替えがあります。急増の発見に使えます。
• エージェント別トークン使用量 — 同様の内訳で、エージェントごとに1行、使用量が多い順に表示されます。どのエージェントが最も多く働いているかを確認できます。

これらすべては月間クォータに対してカウントされます。残量が少なくなった場合は クォータと使用量 を参照してください。

使用量を抑える

• 役割を絞ったエージェントは、何でもこなそうとするエージェントよりも少なく短いやり取りで回答します。
• 質問ごとに取得するチャンク数を減らすと入力トークンが減ります。デフォルト設定はすでに調整済みなので、回答に詳細が不足している場合にのみ増やしてください。