2021 年 3 月 8 日,瑞信一个专门盯高风险客户的委员会开了一场 90 分钟的会,讨论六个客户。其中一个是叫 Archegos 的对冲基金,它的风险敞口已经大幅膨胀。这一次,委员会写下了一个计划,旁边还写了一个名字:业务部门自己的风险团队负责人,被指定为这项行动的「负责人」。给他的目标完成日期,是 2021 年 4 月。
委员会头一回讨论 Archegos 突破限额,是在前一年 9 月。那次它决定「在以后的会上」再议,改正没定期限,连什么时候回来汇报都没定,此后将近六个月再没讨论过这家基金。
现在,名字和日期都有了。不到三个星期,Archegos 就告诉银行,它付不起追加保证金了。
「这事的 DRI 是谁?」
《财富》杂志的亚当·拉辛斯基 2011 年写道,在苹果,「谁负责什么,从来不会搞不清」。公司甚至给这个人起了个名字:DRI,directly responsible individual,直接负责人。「苹果开得好的会,都会有一张行动清单,」一位前员工告诉他,「每一项旁边,都写着 DRI。」苹果的人想找某个项目的对口人,问的就是一句:「这事的 DRI 是谁?」
GitLab 公开的员工手册也用这个词,并注明是苹果起的。手册里,DRI 是对一个项目的成败「负最终责任」的人,有「最终决定权」。DRI 要去征求相关的人的意见,但不必先把每个人都说服了才拍板。
DRI 不是把活全干了的那个人。手册举的例子是:做一个新功能,先做什么,产品经理是 DRI;按时交付,工程经理是 DRI。写上这个名字的用处要窄得多:万一出了岔子,知道该从哪儿问起。
光有名字不够
瑞信缺的不是人。董事会请来的调查人员发现,服务 Archegos 的那个部门,领导层让事情更糟:两位联席主管「谁都不觉得自己『管着』」它的美国互换业务,谁也没有真正去管这块业务和它的风险。两个人可以一起管一摊事,前提是分清谁管哪块。这里没人分过。
等委员会终于写下一个名字,旁边的日期却落在了危险之后。银行最后亏了约 55 亿美元,经过见案例。三年前,TSB 银行切换 IT 系统时也碰上过小一号的同类问题:调查人员问关键测试决定的风险由谁承担,发现说不清楚。
实际用起来,DRI 最好配上三样东西:
- 每一块都有名字。联席主管或者「团队」也能负责,但得先说清谁管哪块。
- 配得上风险的日期。「以后的会上」不是日期,落在麻烦到来之后的也不算。
- 明确范围内的权力。自己那摊事能拍板,范围外的事有直接往上报的路。每件事都得先吵赢才能动的负责人,只是个汇报人。
写上一个人的名字,不等于其他人就没责任了。团队和上面的组织,照样要为自己那部分负责。
没人管的家务
设想五个朋友合租一套房子。垃圾「谁看见满了谁就倒」。人人都看见了,人人都以为别人会倒,或者昨天已经倒过了。到了周五,厨房开始有味道。
后来他们在冰箱上贴了一张值日表,每周一个名字。轮到的人不用每袋都亲手拎,只要保证垃圾倒了。值日表保证不了厨房一定干净。可垃圾桶满出来的时候,大家知道该找谁,话也就能接着往下说:这周是什么事耽误了。
每个智能体背后都有人
AI 智能体让人很容易忘了这一点。一个智能体能把一件活从头跑到尾,人很容易说:这件事归它管。可智能体没法像人那样为一个决定负责;出了问题,这个问题最终还是落到人身上。
对高风险系统,欧盟《人工智能法》也是这个方向。它规定,部署这类系统的机构「应把人工监督交给具备必要能力、培训和权限,并得到必要支持的自然人」。法律没要求只设一个负责人,也没把全部后果压在一个人身上;它坚持的是,监督系统的人得看得懂它,也有权力插手。DRI 是把这件事组织起来的一种办法。
日常用智能体干活,也可以照这个习惯来。智能体跑的每一件任务,都写下结果归哪个人负责、他什么时候检查、他有权叫停什么。这一栏要是空着,事后就很难说清这本来是谁的事。