テナント運用ガイド

クォータと使用量

月次トークンクォータが対象とするもの、上限に達したときの挙動、消費量を確認できる場所。

何がカウントされるか

プランは 月次トークンクォータ を定めます。これは、テナントの会話において基盤となる言語モデルが消費するトークン(入力と出力)で、すべてのチャネルと API を横断して集計されます。検索、ドキュメントの保存、チャネルへの配信はクォータを消費しません。

上限に達したときの挙動

クォータを使い切ると、チャットリクエストは人間が読めるメッセージとともに 429 を返し、ウィジェットは顧客に丁寧な「一時的に利用できません」という通知を表示します。何も削除されません。会話は、翌月のサイクル開始時にクォータがリセットされたとき、またはアップグレードしたときに再開します。

アップグレードは即座に反映されます。プランが変わった瞬間に新しいクォータが有効になるので、忙しい月が沈黙のうちに終わる必要はありません。

使用量を確認する

ダッシュボードにはテナントレベルの消費量が表示されます:

  • 日次使用量 — 現在のサイクルにおける 1 日あたりのトークン。急増を早期に把握できます。
  • バックエンド別 — 複数を運用している場合、モデル/プロバイダーごとに分けた消費量。

同じ数値は管理 API を通じてプログラムからも取得できるため、自前の監視にアラートを組み込めます。

コスト衛生

  • エージェントの範囲は狭く。 引き締まったプレイブックは、何でもこなすペルソナよりも短く安価な会話を生みます。
  • k に注目。 質問ごとに取得するチャンクを増やすと入力トークンのコストが増えます。デフォルトは典型的なドキュメント向けに調整されています。
  • 解約した顧客の古いスペースはアーカイブを。 記憶の検索が速く、焦点を保ったままになります。