配额与用量
每月 Token 配额涵盖什么、到达上限会发生什么,以及在哪里查看消耗。
什么会计入配额
你的方案设定了一个每月 Token 配额——也就是底层语言模型在你租户的对话中消耗的 Token,输入和输出都算,覆盖所有渠道和 API。检索、文档存储和渠道投递不消耗配额。
到达上限会怎样
配额耗尽后,对话请求会返回 429 并附带一条可读的说明,挂件则向客户显示一条礼貌的「暂时不可用」提示。不会有任何数据被删除;等到下一个月度周期开始配额重置,或者你升级方案,对话即可恢复。
升级立即生效——方案一变,新配额马上可用,所以业务旺月不必以沉默收场。
查看用量
控制台会展示租户级别的消耗:
- 每日用量——当前周期内每天的 Token 消耗,让波峰能被尽早发现。
- 按后端拆分——当你同时接了多个模型/供应商时,按模型或供应商分别统计。
同样的数据也可以通过管理 API 以编程方式获取,方便你把告警接进自己的监控系统。
省钱的几个习惯
- 把智能体的范围收窄。 一份紧凑的行动指南,比一个什么都管的人设产生的对话更短、更便宜。
- 留意
k。 每个问题检索更多知识块就意味着更多输入 Token;默认值是按常见文档调过的。 - 归档已经不活跃的空间,比如流失客户的空间——记忆检索才能保持快速而聚焦。