할당량과 사용량
월 토큰 할당량이 무엇을 커버하는지, 한도에서 무슨 일이 일어나는지, 어디서 소비를 지켜보는지.
무엇이 계산되나
당신의 플랜은 월 토큰 할당량을 설정합니다 — 당신 테넌트의 대화에서 기반 언어 모델이 소비하는 토큰으로, 입력과 출력, 모든 채널과 API에 걸쳐서입니다. 검색, 문서 저장, 채널 전달은 할당량을 소비하지 않습니다.
한도에서 무슨 일이 일어나나
할당량이 소진되면, 채팅 요청은 사람이 읽을 수 있는 메시지와 함께 429를 반환하고, 위젯은 고객에게 정중한
"일시적으로 이용 불가" 안내를 보여줍니다. 아무것도 삭제되지 않습니다. 대화는 다음 월 주기 시작에 할당량이
재설정되거나 당신이 업그레이드하면 재개됩니다.
업그레이드는 즉시 적용됩니다 — 플랜이 바뀌는 순간 새 할당량이 활성화되므로, 바쁜 달이 침묵으로 끝날 필요가 결코 없습니다.
사용량 지켜보기
대시보드는 테넌트 수준 소비를 보여줍니다:
- 일별 사용량 — 현재 주기의 하루당 토큰으로, 급증이 일찍 보입니다.
- 백엔드별 — 하나 이상을 운영할 때 모델/제공자별로 나뉜 소비.
같은 숫자를 관리 API를 통해 프로그래밍 방식으로 이용할 수 있으므로, 알림을 당신 자신의 모니터링에 연결할 수 있습니다.
비용 위생
- 에이전트를 좁게 스코프하세요. 빡빡한 플레이북은 만능 페르소나보다 짧고 값싼 대화를 만듭니다.
k를 지켜보세요. 질문당 더 많은 청크를 검색하면 입력 토큰이 더 듭니다. 기본값은 전형적인 문서에 맞춰져 있습니다.- 이탈한 고객을 위해 오래된 스페이스를 보관하세요 — 메모리 검색이 빠르고 집중된 채로 유지됩니다.