定义
在大模型应用中,Token 是模型处理文本的基本计量单位。Token 计费通常区分输入 Token、输出 Token、模型类型和调用量,用于成本核算、额度管理和账单生成。
企业私有化大模型平台也可以用 Token 统计做内部用量管理,而不一定对外收费。
应用场景
- 企业知识问答用量统计
- 智能客服按模型调用量核算
- 多部门 AI 应用额度管理
在大模型应用中,Token 是模型处理文本的基本计量单位。Token 计费通常区分输入 Token、输出 Token、模型类型和调用量,用于成本核算、额度管理和账单生成。
企业私有化大模型平台也可以用 Token 统计做内部用量管理,而不一定对外收费。