HealthCare.gov 上线出了大乱子之后,政府的调查人员来到负责建站的机构,问了一个最简单的问题:谁负责?
好几位员工报出来的,是空缺着的职位。问到哪个部门牵头,员工们说出了四个不同的部门。
这个网站 2013 年 10 月 1 日上线,按新法,在没有自建保险市场的州,需要通过联邦保险市场买医疗保险的居民,就在这里买。上线不到两小时,网站开始宕机。到当天结束,成功提交申请、选好保险计划的,一共六个人。
六个。
不只是人太多
来的人比计划的多,这是公众最先听到的解释。美国卫生与公众服务部监察长办公室研究了这个项目,在 2016 年的报告里说:问题不全是访问量,网站本身就有核心的性能毛病。
在这些毛病背后,报告把一件事摆在了第一位:「最要命的是缺少明确的领导,这导致决策拖延、项目任务不清,CMS 也没能在项目一步步恶化时看清问题有多大。」CMS 是美国联邦医疗保险和医疗补助服务中心,就是负责建站的那个机构。
警报早就响过。2011 年 12 月,CMS 的一位技术官员抱怨:没有一个人能拍板、能在业务需求上签字。报告说,中层员工协调起来很吃力,也没有决定权。
2013 年初,有人批评没人明确牵头,CMS 确实指定了一个人:它的首席运营官。可这项任命从没正式宣布过,这个职位也没配上清楚的职责,而接手的人,手上本来就有一大摊事。
连「没人负责」这个问题的补救,也只做了一半。
每一行旁边写一个名字
一件事有四个主人,就等于没有主人。人人都管一点,每个难决定都在等别人。
项目管理里有一个很朴素的工具,叫 RACI 表。每一块工作,写清四件事:谁负责干(Responsible),谁对结果负总责(Accountable),要征求谁的意见(Consulted),要通知谁(Informed)。这张表的要害在那个 A:每件事旁边都要写一个名字,而且人人都知道是谁。
苹果把这件事缩成了三个字母。据亚当·拉辛斯基 2011 年在《财富》杂志上的报道,在苹果内部,对一件事负责的人叫「DRI」,直接负责人。一位前员工告诉他:「苹果任何一个有效的会,都会有一张行动清单,每一项旁边都写着 DRI。」想找某个项目的对口人,大家会问:「这件事的 DRI 是谁?」
想象一个不这么开的会。七个人都同意,客户的投诉周五前要回复。会议纪要上写着:「团队跟进」。到了周五下午,七个人都以为另外六个里有人已经回了。没人去问,因为上面没写谁的名字。
把四个字母填上,同一个周五就是另一个样子。客户经理是 R,负责写回复。组长是 A,答应客户什么由组长拍板,事情到这里就停,不在桌上绕圈。知道问题出在哪的工程师是 C,回复发出去之前先问过。销售是 I,发出去之后告诉一声,下次和这个客户通电话时不至于被问住。四个字母,四种活,只有一个意思是「这事归我」。
HealthCare.gov 最后还是有了那个名字。2014 年 8 月,第二轮投保开始前三个月,CMS 为保险市场请了一位首席执行官。报告说,这个职位在 CMS 并不常见,「但它回应了对一位统一领导的呼声」。
机器人说错了,谁来担
AI 让这个问题换了个样子:活要是 AI 智能体干的,A 那一栏写谁?
加航给过一个不寻常的答案。一位乘客在航空公司网站上问聊天机器人丧亲票价怎么退,照着它的说法做了,事后却被拒绝退款。他把航空公司告到了不列颠哥伦比亚省的一个小额争议裁判庭。加航辩称,自己不能为代理人提供的信息担责,聊天机器人也包括在内。裁判员写道:「实际上,加航是在说这个聊天机器人是一个独立的法律实体,要为自己的行为负责。这是个非同寻常的主张。」
他没有接受。「加航理应明白,它要为自己网站上的所有信息负责。信息来自一个静态网页还是一个聊天机器人,没有任何区别。」
裁判庭判加航赔 812.02 加元。
这回答了对乘客谁来担,没回答公司内部谁来担。A 那一栏只写公司的名字,和会议纪要上的「团队跟进」差不多。美国国家标准与技术研究院的 AI 风险管理框架要求组织有「问责结构」,让「合适的团队和个人」有权限、担责任、受过训练,去管理 AI 的风险。
聊天机器人可以是那个 R,回答是它给的。A 旁边,还得是一个有权改它怎么说话的人,或者一个写明了的岗位。