クォータと使用量
月次トークンクォータが対象とするもの、上限に達したときの挙動、消費量を確認できる場所。
何がカウントされるか
プランは 月次トークンクォータ を定めます。これは、テナントの会話において基盤となる言語モデルが消費するトークン(入力と出力)で、すべてのチャネルと API を横断して集計されます。検索、ドキュメントの保存、チャネルへの配信はクォータを消費しません。
上限に達したときの挙動
クォータを使い切ると、チャットリクエストは人間が読めるメッセージとともに 429 を返し、ウィジェットは顧客に丁寧な「一時的に利用できません」という通知を表示します。何も削除されません。会話は、翌月のサイクル開始時にクォータがリセットされたとき、またはアップグレードしたときに再開します。
アップグレードは即座に反映されます。プランが変わった瞬間に新しいクォータが有効になるので、忙しい月が沈黙のうちに終わる必要はありません。
使用量を確認する
ダッシュボードにはテナントレベルの消費量が表示されます:
- 日次使用量 — 現在のサイクルにおける 1 日あたりのトークン。急増を早期に把握できます。
- バックエンド別 — 複数を運用している場合、モデル/プロバイダーごとに分けた消費量。
同じ数値は管理 API を通じてプログラムからも取得できるため、自前の監視にアラートを組み込めます。
コスト衛生
- エージェントの範囲は狭く。 引き締まったプレイブックは、何でもこなすペルソナよりも短く安価な会話を生みます。
kに注目。 質問ごとに取得するチャンクを増やすと入力トークンのコストが増えます。デフォルトは典型的なドキュメント向けに調整されています。- 解約した顧客の古いスペースはアーカイブを。 記憶の検索が速く、焦点を保ったままになります。