2026年,企业评估AI智能体的投入,需要把问题落到具体业务:处理一张工单、完成一次对账,究竟花了多少钱?模型调用账单只是起点,真正影响投入产出的,是交付一个合格结果所消耗的全部资源。
先定义“一次任务”
单次任务必须有明确的起点、终点和验收标准。以售后工单为例,从接收问题到生成回复,与完成身份核验、查询订单并解决问题,属于不同的核算范围。
企业应先划分任务类型,再约定何时算完成、何时需要人工接管。简单咨询与复杂投诉分别统计,才能避免平均成本掩盖任务难度,也便于比较不同方案。
把成本拆成四本账
第一本是模型账,包括输入、输出,以及适用时的缓存、推理等计费项目,具体以服务商规则为准。智能体可能多轮规划、反复调用模型,一次用户请求并不等于一次模型调用。
第二本是工具账,覆盖搜索、数据库、外部接口及代码执行等资源。第三本是运行账,包括计算、存储、日志和监控;第四本是人工账,包括复核、纠错、接管,以及应合理分摊的开发维护投入。
用合格交付计算单位成本
用于业务评估时,可采用单次合格任务成本=统计期内相关总成本÷同期验收合格的任务数。分子要包含失败尝试、重复执行和人工补救产生的成本,分母则按事先约定的标准确认。
同时保留“每次发起任务成本”和“每次合格交付成本”,前者观察资源消耗,后者判断交付效率。若人工接管后才完成,应单独标记,避免把人工完成率误认为智能体自主完成率。
让每一笔支出找到任务
建立贯穿模型、工具和人工环节的任务编号,记录调用量、耗时、重试次数及验收结果。对于异步任务和跨系统流程,还要关联子任务,防止漏记后续调用或重复计算支出。
能够直接归属的费用按任务记录,共享资源则按调用量、运行时长等合理依据分摊,并保持口径一致。开发投入是否计入、按什么周期分摊,也应明确说明,避免混用边际运行成本与完整交付成本。
降本要连同质量一起看
优化可以从模型分级、压缩上下文、缓存复用和减少无效重试入手,但每次调整都应检查准确性与完成率。便宜的模型若带来更多返工,合格交付成本仍可能上升。
企业还应同时观察平均成本、成本较高的任务分布、交付时长和人工接管率,并设置调用预算与退出条件。只有在验收标准一致、任务难度相近的前提下,与原有人工或自动化流程比较,才能判断智能体是否带来了实际收益。