1984 年,通用和丰田把通用在加州弗里蒙特(Fremont)关掉的一家车厂重新开起来,叫 NUMMI,新厂工人里八成五以上是原来弗里蒙特厂的老人。按当年在丰田那边参与设计培训的约翰·舒克(John Shook)的说法,不到一年,这家厂的质量就从通用最差变成了通用最好。
变化有一部分就挂在明处:安灯绳。拉一下,班组长就过来;问题来不及解决,整条线才停。可在原来的通用厂里,人人都知道的规矩是:生产线永远不能停。
通用想让每家工厂都这样。研究过 NUMMI 的密歇根大学教授杰弗里·莱克(Jeffrey Liker)记得,通用一位副总裁命令一名经理,去 NUMMI 把每一寸都拍下来,回来照着把自己的厂改成一模一样。按莱克的说法,那位经理当场就明白这行不通:员工的干劲,工会和管理层之间的好关系,都是拍不下来的。
第一轮改革,在通用的工厂里装上了安灯绳。有的厂里,工人一拉绳就挨骂。有几家厂,干脆把绳剪了。
同一根绳,两种意思
绳子是最好搬的。搬不走的,是拉一下意味着什么。在 NUMMI,拉绳会把班组长叫来帮忙;在通用的一些厂里,拉绳换来一顿骂。
文化看得见的部分能照搬,人们默认的那层搬不走。
MIT 的埃德加·沙因(Edgar Schein)在 1983 年的一篇工作论文和 1985 年的著作《组织文化与领导力》(Organizational Culture and Leadership)里,把文化分成三层。最上面是人造物(artifacts):办公室布局、着装、看得见的行为,还有章程、入职材料这类公开文件。他在 1983 年写道,这一层很「棘手」,因为「资料容易拿到,却难以解读」。
往下一层是宣称的价值观(espoused values):人们说自己为什么这么做,希望理由是什么,很多时候也是事后找的说法。最底下是基本假设(basic assumptions),理所当然到没人再去留意。按沙因的说法,它们起初也是价值观,因为一直管用,慢慢成了对「事情实际上就是这样」的认定,不再拿出来讨论。
在通用,安灯绳挂在一条老假设上面。一位老资格的通用经理讲过其中的道理:给工人停线的权力,他们就会把线停下来,坐着打牌。据《美国生活》(This American Life)报道,范奈斯(Van Nuys)是一家没有丰田当合作方、自己试行丰田体系的通用工厂,那里的一些经理也反对停线,因为他们的奖金看的是下线的车有多少。
框架的依据与局限
沙因的三层次是用来解读文化的框架,他自己对它依据的说法也很克制:主要来自咨询观察和临床经验,不是对照研究给出的因果结论。他在 1988 年的一篇工作论文里写道,文中的材料来自「我本人的实证研究和担任组织咨询顾问的临床经验」,而这种方法缺少「受控实证研究的方法论严谨性」。他还认为,问卷大多只摸得到中间那层,因为「受访者太容易只给出社会上认可的答案」。照他自己的说法,最要紧的那层,恰恰最难测量。
他的切入点,是找人们做的和说的对不上的地方。舒克 2010 年写 NUMMI,从另一头下手。他文章的要点是先改人们的做法,再等想法跟上来:「靠行动走到新的想法,比靠想法走到新的行动容易。」
第一次复盘
设想一位团队负责人,想让工程师们主动报告险情。她把「无责复盘」写进团队手册,在 wiki 上放了模板。第一份复盘报告交上来,评审会上,她的总监开口第一句就问:改动是谁推上去的?
下一次险情,没人再写。按沙因的分法,模板是人造物,手册里那句话是宣称的价值观,总监那句问话露出了底下的假设:出了事,先找人。第一个用新规矩的人落得什么下场,团队就知道哪一层才算数。
官网上的原则
管 AI 也有上面两层:公开的 AI 原则、评审流程、公平性工具包。2023 年 ACM FAccT 会议上的一项研究往下看了看。斯坦福的萨娜·阿里(Sanna Ali)和三位合作者访谈了 25 人,大多是科技公司里负责把 AI 伦理落到实处的员工。发现这些人身处的环境里,「政策、做法和结果是脱节的」。
伦理岗位的员工说,产品团队大体上都很「好说话」。可话语权在产品上线那边。团队常常到最后才找负责任 AI 的同事,那时模型已经训练好,只差部署。有些产品团队认定,任何改善公平性的调整都会让模型「变差」;一位常听到这种担心的员工说,他在实际工作中没见过这种情况。另一位说出了最底下那层:「不管人们多想把事做好,到头来,季度目标总会挡在前面。」
这是一项小规模的定性研究。作者联系的人里有很多拒绝了,有的是因为签了保密协议;它也说不清这些情况有多普遍。一份 AI 政策可以像安灯绳一样挂在墙上。要看的是上线日期临近时,拉绳的人会怎样。