2025 年,Anthropic 让一个外号「Claudius」的 Claude,在旧金山办公室里经营一家小店:一台冰箱、几个篮子、一台结账用的 iPad。进什么货、卖什么价,由它拿主意。
员工想要金属块,它找到了供应商,没查成本就定了价。有的卖得比进价还低。
到了第二期,Anthropic 给它加了些规矩。
报价前的那张表
公司写道,第二期最管用的改动之一,是「强制 Claudius 走流程」。顾客要一样新商品时,Claudius 不再张口就报价格和到货日期,给它的指令要求它先用调研工具把两样都核一遍。软件并没有把这一步锁死,流程写在提示里。价格高了,等得也久了,但更贴近实际。
「我们重新发现,官僚流程是有用的,」Anthropic 写道。程序和清单提供了「一种机构记忆,帮员工避开工作中常见的低级错误」。另一项改动,给 Claudius 配一个从上面施压的 AI 老板,「没帮上什么忙」。第二期同时改了好几样,包括更新的模型、更好的工具和更完整的库存信息,流程单独起了多大作用,并没有测出来。但它是公司特别点出来的改动之一。
两种系统
搭这类系统的工程师,给这个选择起了名字。Anthropic 2024 年的一份指南分了两种。工作流里,模型和工具沿着「预先定义好的代码路径」走:先做第一步,再做第二步,中间设检查。智能体里,模型「动态地决定自己的流程和工具使用」,边做边定下一步。
两者没有绝对的高下。工作流「对定义清楚的任务,提供可预测性和一致性」;智能体适合「很难或无法预测需要多少步的开放问题」。但指南提醒,自主意味着「更高的成本,以及错误层层累积的可能」。它的第一条建议是找「尽可能简单的方案,只在需要时才增加复杂度」。有时这意味着根本不做智能体。
第二期的 Claudius 仍然是个智能体,是一个自己决定下一步的店长。变的是,它的指令里给某一类决定写进了一道程序。这是给智能体的自由围上篱笆,不等于由代码一步步编排的工作流。指南自己的分类也有交叠:它列出的一种工作流,就是由一个中心模型临场把任务拆开。
Anthropic 的多智能体调研系统(另有案例)站在另一头。在开放的调研任务上,它在公司测试中胜过单个模型,但耗的 token 比普通对话多得多;工程师也提到,大多数写代码的任务,真正能并行的部分比调研少。
指南里还有两样小东西,值得管理者记住。一是在工作流的步骤之间设「关卡」,用程序检查中间结果,没过就不往下走。二是给智能体设停止条件,比如最多跑多少轮,免得它在一个死胡同里一直转。前者管住固定的部分,后者管住自由的部分。
步骤清楚的地方
管理者对人做的也是同一个选择,只是通常不这么叫。设想一位客服主管在定团队处理工单的办法。重置密码、查订单状态,照话术走,因为步骤每次都一样,有话术就不容易漏掉哪一步;遇到不寻常的情况,照样转给人。一位订单三次出错、气得不行的顾客,交给她最有经验的客服,给一笔可以动用的预算,不给话术,因为没有哪份话术能写全。即便是这份活,也有固定的边:超过一定金额的退款,仍要她签字;每个案子结案后,都按同一个格式记下来。
三个问题,能帮你给任何一件活归类,不管是交给人还是交给 AI。步骤能不能事先写下来?能,就写下来,在要紧的步骤之间设一道检查。不能,就把判断交出去,但要让对方能看到每一步做成没有,设好必须停下来问的节点,再限定它最多能跑多久。不管选哪种,都从少一点自主开始,等结果证明有用了再放开。
第二期一下子改了很多,哪一项都不能独揽功劳。但 Anthropic 特别点出的那一项,也是最朴素的一项:报价之前,先核一下成本和到货时间。