AI 客服运营分析 模型与成本

模型与成本CSA-06

Token · 费用 · 响应时延
--:--:--
数据截至 2026-10-16 16:00指标口径 V1.02026年秋季学期
总 Token 消耗
4.82M
↓ 4.2%
单次会话 Token
1,860
↓ 6.1%
平均响应时延
1.8秒
↓ 0.2%
P95 时延
3.6秒
↑ 0.1%
本期总费用
2,860元
↓ 6.3%
缓存命中率
34.6%
↑ 5.4%

模型调用量

MODEL CALLS
4o-mini4oClaude-3.5

柱高为相对调用指数(由份额推算,演示);复杂政策类场景仍依赖 GPT-4o 路由。

时延对比(×100ms)

LATENCY
4o-mini4oClaude-3.5

费用与 Token 趋势

COST & TOKEN
周费用(元)
第1周第2周第3周第4周第5周第6周

路由优化建议

ROUTING TIPS
  • 场景
    简单 FAQ推荐路由:4o-mini + 缓存 · 预期收益 约 38% 费用
  • 场景
    多轮办事引导推荐路由:4o-mini + 工具调用 · 预期收益 降低转人工 12%
  • 场景
    政策解读/争议推荐路由:4o 审核后输出 · 预期收益 差评率 -0.6pp

模型对比明细

MODEL COMPARE
模型调用份额Token费用时延说明
GPT-4o-mini62%2.98M¥1,4201.2s默认问答
GPT-4o24%1.16M¥1,0802.4s复杂政策/多步推理
Claude-3.59%0.42M¥2601.9s长文档摘要
本地 Embedding—0.26M¥1000.3s检索向量化

本地 Embedding 不计入对话份额;总 Token 4.819999999999999M+(演示汇总)。