日记思考思考

AI真正的成本，从来不只是模型和软件

很多企业第一次认真考虑 AI，思考的通常是一些简单的成本问题。

Shyue 2026-09-28 1 次阅读

很多企业第一次认真考虑 AI，思考的通常是一些简单的成本问题。

一个 AI 系统多少钱？
一个月的订阅费多少？
部署需要多少钱？
如果能替掉几个员工，一年能省多少？

这笔账当然应该算。

但真正把 AI 放进业务以后，我觉得很多企业最后会发现，软件本身可能反而是最容易算的一笔。

真正难算的是后面的东西。

谁来给它准备数据？
谁来维护知识？
谁来检查答案？
谁来处理它犯错以后留下的问题？
谁来面对客户？
谁来承担最后的责任？

这些成本以前不一定存在于企业的“技术预算”里，但 AI 进入业务以后，它们会慢慢出现。

所以我越来越觉得，企业真正需要计算的不是：

“AI一个月多少钱？”

而是：

“为了让AI真正可靠地工作0，公司还需要为它付出多少东西？”

AI最容易制造一种“看起来很便宜”的错觉#

比如一个客服系统。

原来需要几个客服。

现在上一个 AI。

每天可以自动回答大量问题。

老板看后台：

AI已经处理了这么多咨询。

于是会觉得：

这应该已经省下很多人工了。

但如果认真往下看，会发现事情并没有那么简单。

有些问题 AI确实可以独立解决。

有些问题需要人工确认。

有些问题 AI回答错了。

还有一些问题，客户明明已经被 AI接待过一次，最后还是要转人工。

更麻烦的是，人工接手以后，往往不是从零开始。

人需要先理解：

AI刚才说了什么？

客户已经说过什么？

AI有没有做出错误承诺？

前面有没有留下什么不能兑现的话？

如果这些信息没有很好地传给人工，原本的一次服务，可能变成：

AI先聊一遍，人再重新聊一遍。

这种情况下，企业虽然减少了一部分直接客服劳动，却增加了：

AI监督劳动和AI纠错劳动。

现在的客服标准其实已经开始正视这个问题。2026年9月1日起实施的 GB/T 47746—2026《顾客联络服务人工与智能客户服务协同要求》，正是针对人机任务分配、服务切换、数据同步和复杂场景中的协同提出要求。国家标准委的官方解读也明确提到，目前行业存在任务分配随意、服务切换断层、数据同步不畅、服务质量参差不齐等问题。

这件事情本身就很说明问题：

如果AI真的是一个完全独立、可靠的数字员工，就不会这么需要设计“人和AI怎么交接”。

AI的另一个成本，是企业必须重新整理自己#

这一点可能比软件费用更贵。

AI要回答企业内部的问题，总得先有东西可以回答。

于是企业开始整理：

产品资料。

历史订单。

SOP。

合同。

售后政策。

技术文档。

客户信息。

供应商记录。

结果很多企业做到这里，突然发现：

原来自己的资料根本没有那么规范。

文件有很多版本。

同一个产品有几个名字。

不同部门的标准不一样。

老板说的和制度写的不一样。

去年的政策还在知识库里。

一些关键经验根本没有写下来，只存在于某几个老员工脑子里。

于是企业原来以为自己是在：

“给AI喂知识。”

实际上很可能是在：

第一次认真整理自己的业务。

这件事情当然不是坏事。

甚至我个人认为，这可能是 AI 对一些企业很有价值的一次倒逼。

但它也意味着：

AI的成本不只是买模型，而是把一家原本靠经验运行的公司，慢慢变成一家可以被系统理解的公司。

这件事情需要时间，也需要人。

而且，整理出来的知识不一定是真的知识#

这是更麻烦的问题。

企业把资料放进知识库以后，AI就可以“回答问题”了。

但是：

能检索到资料，

不代表：

资料就是正确的。

比如一个产品资料写着：

“支持某种功能。”

但这份资料是三年前的。

销售部门有一个新的说法。

研发部门又有另一个版本。

售后部门还有一套实际执行标准。

AI可能从这些资料里找到一些都“看起来合理”的内容，然后给出一个非常完整的答案。

问题是：

完整并不代表正确。

这也是生成式 AI 在实际业务中比较难处理的一类问题。

最让人不安的，其实不一定是明显的胡说八道。

如果 AI说：

“我不知道。”

反而很好处理。

最麻烦的是：

它说得非常像知道。

企业内部使用 AI 时，这种风险尤其值得注意，因为很多错误不是知识本身完全错误，而是：

用错版本。

用错场景。

把两个规则混在一起。

把一个例外情况当成普遍规则。

或者在资料不足的时候自行补全。

NIST 近年的研究也把这类问题放在生成式 AI 的可靠性和不确定性识别上：模型输出有时会与事实或给定上下文不一致，而一个实际困难恰恰是如何识别模型“不确定”的情况。

所以企业真正需要的可能不是：

一个“知识库”。

而是一套：

能够知道知识从哪里来、什么时候有效、适用什么范围、出了问题谁负责的知识系统。

这和“把资料上传到 AI”其实是两回事。

AI犯错以后，企业不能把责任一起交给AI#

这一点在 C 端服务里已经非常明显。

客户问：

“这个费用是不是包含在里面？”

AI说：

“包含。”

客户相信这个回答，然后付款。

事后企业说：

“AI回答不代表公司。”

从企业自己的系统角度看，可能觉得这是一个技术问题。

但从客户角度看：

他面对的是你的平台、你的客服入口、你的服务系统。

是谁生成的，对他来说没有那么重要。

今年关于 AI 客服的消费者投诉，已经出现比较集中的问题，包括不实承诺、人工接入困难和生成内容失准。相关官方信息披露的案例中，也出现了消费者依据 AI 客服的费用、优惠或售后说明作出交易决定，之后产生履约争议的情况。

所以我觉得这里有一个很现实的原则：

AI可以承担任务，但不能因为承担任务，就自动获得责任。

最终还是要有人负责：

这句话能不能说？

这个价格能不能报？

这个承诺能不能给？

这个技术方案能不能执行？

这个客户能不能这么处理？

AI可以越来越多地参与这些事情。

但“参与”和“负责”还是两回事。

更麻烦的是，人也可能会对AI产生过度信任

这可能是企业真正需要警惕的一件事情。

一个员工如果每天使用 AI，很快会发现：

大多数时候它确实很好用。

于是慢慢形成一种习惯：

“AI都已经帮我判断过了，应该没什么问题。”

问题恰恰可能出现在：

那少数不正确的时候。

如果一个人100次判断里有90次自己做，10次让 AI 做，他可能还会保持警惕。

但如果 AI慢慢承担了80%、90%的信息处理，人可能反而越来越少亲自思考。

这就出现一个新的风险：

人工监督不是越多越安全，也可能因为长期重复检查而逐渐失去警觉。

尤其是那种：

大量低风险内容里夹杂少量高风险内容

的业务。

一个人每天检查几百条 AI结果，很可能会形成机械确认。

真正严重的那一个错误，反而容易过去。

所以：

“有人审核”本身不是风险控制方案。

真正重要的是：

哪些事情需要人审核？

哪些事情可以自动放行？

AI自己能不能识别高风险情况？

出现异常以后能不能主动升级？

这些其实都是业务流程设计问题，而不只是模型问题。

AI还会产生一个经常被低估的成本：维护

很多企业第一次上 AI 的时候，会觉得：

“知识库建好就好了。”

实际上知识会变化。

产品会变化。

价格会变化。

政策会变化。

客户需求会变化。

员工会变化。

业务流程也会变化。

如果知识库不更新：

AI可能永远正确地引用一条已经失效的规则。

这甚至比明显的错误更难发现。

因为它不是：

AI不知道。

而是：

AI知道的是昨天的正确答案。

所以 AI 系统真正上线以后，很可能出现一种新的日常工作：

更新知识。

检查版本。

测试答案。

处理异常。

调整权限。

清理错误资料。

监控模型表现。

这部分工作不一定需要很多人，但它不会凭空消失。

企业如果没有人负责，最后通常就是：

系统越来越旧。

然后员工慢慢不用。

最终企业得到的不是 AI，而是：

一套没人相信的工具。

AI还有一种特别隐蔽的成本：错误发生以后，谁来擦屁股

这个词可能有点粗，但现实里就是这么回事。

AI：

给出了错误报价。

销售要解释。

AI：

技术判断有误。

工程师要返工。

AI：

对客户做了不准确承诺。

客服要处理。

AI：

分析错库存。

采购和生产要补救。

所以 AI 的错误成本不仅是：

“这次答案错了。”

而是：

错误向后传了多远。

一个小错误如果在源头被发现：

成本可能只有几分钟。

如果到了客户那里：

可能变成几个小时。

如果到了合同环节：

可能变成几万元。

如果到了生产：

可能变成一批报废。

如果到了安全和合规：

后果就完全不是同一个量级。

所以我觉得，真正成熟的企业不会单纯问：

AI准确率多少？

而会问：

这个地方错一次，最坏会发生什么？

这才是企业真正需要关注的东西。

所以不同工作，AI的容错率应该完全不同

一个会议纪要错一个字：

问题不大。

一个内部文案写得不够好：

改一下就行。

但如果是：

产品规格。

报价。

合同。

财务数据。

技术参数。

售后承诺。

生产安全。

那么同样一个错误，后果完全不同。

所以我越来越觉得：

AI自动化程度不应该只按照“能不能做”来决定。

更应该按照：

“做错以后承担得起吗？”

来决定。

能承担：

可以让 AI 更自主。

不能承担：

就应该保留更多人工判断。

这可能比单纯追求一个很高的自动化率更现实。

还有一种成本，是企业最开始通常完全算不到的

AI改变了员工本身的工作方式#

例如原来一个客服：

接待客户。

现在：

接待客户 + 看 AI。

一个工程师：

做方案。

现在：

做方案 + 验证 AI方案。

一个销售：

跟客户。

现在：

跟客户 + 审核 AI生成内容。

一个管理者：

管理员工。

现在：

管理员工 + 管理AI系统。

所以企业可能发现：

AI把一部分工作拿走了。

同时也给每个岗位增加了一点新的东西。

每个人增加一点，看起来不多。

但是几十个人加起来：

这也是成本。

这也是为什么“一个AI等于几个员工”越来越没有意义

因为一个 AI 可能确实可以完成：

几个人大量的信息处理工作。

但与此同时：

它需要人提供业务上下文。

需要人检查关键结果。

需要人维护知识。

需要人承担责任。

需要人处理异常。

于是更准确的问题可能是：

一个 AI 能让一个团队少做多少低价值劳动？

而不是：

一个 AI 能替代几个员工？

我个人觉得，后面这个问题可能越来越有意义。

这也解释了为什么现在一些 AI 应用看起来很成功，企业最后却没有真正省下那么多钱

因为第一眼看到的是：

AI完成了多少工作。

第二眼才看到：

人还剩多少。

第三眼才看到：

人在干什么。

第四眼才看到：

为了让 AI 正常工作，又增加了什么工作。

第五眼才看到：

AI 出错以后造成了什么损失。

所以真正应该比较的是：

没有 AI 时，完成这项业务需要多少总成本。

和：

有 AI 时，完成同样业务需要多少总成本。

而不是简单比较：

一个 AI多少钱。

当然，我并不是觉得这些成本说明AI“不划算”

恰恰相反。

如果一个 AI 系统：

每年花50万元，

但是能够帮助企业：

少犯100万元的错误，

或者：

多做500万元的业务，

那可能仍然非常划算。

所以问题从来不是：

AI有没有成本？

而是：

AI产生的收益，是否足以覆盖它产生的新成本和新风险？

这个答案一定取决于具体业务。

对中小企业来说，这一点尤其重要

因为大企业可以承担：

专门的 AI团队。

数据团队。

IT团队。

风险团队。

中小企业通常做不到。

所以一个中小企业如果直接照搬大公司的 AI方案，很容易出现：

模型部署了。

系统接了。

知识库建了。

最后没有人维护。

或者：

AI客服上线了。

人工客服减少了。

但剩下的人每天忙着处理 AI的问题。

然后老板得出结论：

“AI不好用。”

员工得出另一个结论：

“AI就是来裁人的。”

实际上，两个人可能都只看到了结果，没有看到中间的成本结构。

我现在比较倾向于把企业 AI 成本看成五层

第一层：

买AI的钱。

模型、软件、算力、系统。

第二层：

让AI学会业务的钱。

数据整理、知识库、接口、流程改造。

第三层：

让AI保持可用的钱。

维护、更新、测试、监控。

第四层：

AI出错以后人的成本。

审核、纠错、投诉、返工、责任。

第五层：

因为AI改变业务以后产生的组织成本。

培训、转岗、岗位重构、员工抵触、流程变化。

真正算下来，企业才知道：

AI到底便不便宜。

所以我现在反而不太担心企业“不会用AI”

我更担心的是：

企业太早相信自己已经会用AI。

因为 AI 很容易给人一种错觉：

“东西会回答了，流程就自动化了。”

但真正的企业不是一个问答系统。

企业里存在：

例外。

人情。

责任。

利益。

历史遗留问题。

客户关系。

数据不一致。

部门之间的矛盾。

老员工的经验。

老板临时做出的决定。

这些东西都不是一个漂亮的知识库能够自动解决的。

所以 AI 真正进入企业以后，最有可能发生的事情，也许不是：

公司突然变得极其高效。

而是：

原来隐藏在业务里的各种问题，一个接一个被迫暴露出来。

数据不统一，会暴露。

流程不清楚，会暴露。

权限不合理，会暴露。

知识没有沉淀，会暴露。

责任没有划清，会暴露。

员工和企业之间的利益冲突，也可能暴露。

这反而可能是 AI 最有价值、也最让企业难受的一面。

我现在越来越觉得，AI真正成熟的标志，可能不是：

“它能做多少事情。”

而是企业开始知道：

“什么事情可以放心交给它，什么事情不能。”

知道什么时候应该让 AI 自己做。

知道什么时候应该让它停下来问人。

知道什么时候必须保留人工。

知道出了问题以后谁负责。

知道它产生的效率到底有没有转化成真实的经营价值。

这可能比把自动化率做到90%更加重要。

而下一步更值得研究的，其实就是那个最让人难受的问题：

如果AI最需要的人，恰恰是负责判断它对不对的人，那么企业到底应该怎样定义这些人的价值？

因为到了这里，AI的问题就又一次和工资、岗位、责任和劳资关系连接起来了。