首页 › 战略与创新 › 开发-测量-认知循环
战略与创新 · 精益创业

开发-测量-认知循环

做一点,量一量人们实际怎么做,再让结果改你的下一步。

Build-Measure-Learn Loop◷ 约 4 分钟▤ 5 个真实故事换成 AI 也一样在知识地图里看它和谁相连 →

2007 年 12 月,巴拉克·奥巴马在民调里落后两位数。他的竞选网站有一个引导页:上面一张图片或一段视频,下面一个按钮,留下邮箱就算报名。每一个邮箱,日后都可以请它来当志愿者,请它捐款。

放哪段视频,团队心里早有数。竞选团队的数据分析主管丹·西罗克(Dan Siroker)写道,大家「非常偏爱」一段叫「Sam’s Video」的视频。「要不是做了这个实验,我们多半就把那段视频放上引导页了。」

可他们没有直接拍板,而是做了 24 个版本:六种素材(三张图、三段视频)乘以四种按钮。每个访客随机看到其中一个,团队记下谁报了名。前后一共 310,382 名访客。

「竞选团队里人人都爱那几段视频。」西罗克写道。

每段视频都输了

「结果所有视频都不如所有图片。」西罗克在帖子下的回复里给了数字:视频版的报名率在 5.95% 到 7.76% 之间,图片版在 8.54% 到 9.66% 之间。最好的那个版本,是一张全家福配一个写着「Learn More(了解更多)」的按钮,报名率 11.6%。原来的页面是 8.26%。

做一点,量一量人们实际怎么做,再让结果改你的下一步。《精益创业》(2011)的作者埃里克·莱斯,管这叫「开发-测量-认知」反馈循环。他在这本书的网站上写道:「创业公司最根本的活动,是把想法变成产品,衡量顾客的反应,然后认清是该转向还是坚持。」他还说,所有成功的创业流程,都「应当以加快这个反馈循环为目标」。

关着灯扔飞镖,你可以练上好几年,越练越自信,却一点没扔准。测量就是开灯,扔一下,看一眼。

这次测试也改了竞选团队后来的做法。西罗克写道:「因为第一个实验效果这么好,整个竞选期间,我们在整个网站上又做了几十个实验。」

只转一圈,转了一年

小圈不转,圈照样会转,只是转得大。罗恩·约翰逊打算把 J.C. Penney 大部分的促销和优惠券换成「天天低价」时,有人问他,新定价能不能先小范围试一试。据报道,他回答:「我们在苹果就没做过测试。」

新定价 2012 年初在全公司铺开。到这个财年结束,营收跌了 24.8%。然后才轮到「认知」这一步。约翰逊谈到 Penney 的顾客时说:「我们知道了,她更喜欢打折。有时候,她爱死了优惠券。」

测试回答不了的事

循环转得再快,转的也只是你放进去的东西。特普·费林(Teppo Felin)和几位同事批评精益创业:对假设从哪里来几乎没给指导,从顾客反馈里能学到的东西有限,实验的结果也往往只是小修小补。这是南希·博肯和尤利娅·斯尼胡尔 2020 年对这番批评的概括;她们的回应是,精益创业本来就是为反复试验设计的,不是为想点子设计的。

奥巴马团队的测试,是在别人已经做好的 24 个版本里挑最好的,它变不出第 25 个。它量的是报名率,因为这个数得出来。西罗克估算,胜出的页面多带来 6000 万美元捐款,他自己也说明了,这个数建立在一个假设上:这份提升在后面的竞选里一直保持。

打电话,还是发短信

假设你管着一家牙科诊所的前台,爽约的病人太多。一位前台想把提醒短信换成前一天打电话,另一位说,电话会把她的整个上午都占掉。

于是你轮着来。接下来的 80 个预约,一个发短信,一个打电话,交替进行。开始之前,你先写好看什么:有没有爽约。结果是短信组爽约 5 个,电话组 4 个。80 个预约,这个差别跟抛硬币差不多,说明不了什么。你倒是弄清了一件事:打电话每天要花大约 40 分钟。所以下一轮,可以试得更久一点,或者更省一点。

安静下来的免下车窗口

麦当劳给 AI 走的是慢的那条路。2021 年 10 月,它和 IBM 结成合作,此后在大约 100 家餐厅测试一套在免下车窗口点餐的 AI 系统。据餐饮行业媒体 Nation’s Restaurant News(NRN)报道,测试的目标是看自动语音点餐能不能让员工的活更简单,让顾客点餐更快、更好。NRN 还报道,麦当劳的目标是点餐准确率达到 95% 以上,才考虑更大范围推广。

2024 年 6 月,麦当劳对 NRN 说:「经过慎重评估,麦当劳决定,目前与 IBM 在自动点餐上的全球合作不再延续到明年。」它说自己收获了「很多经验」,这次合作让它「有信心,免下车的语音点餐会是我们餐厅未来的一部分」。

在一个 AI 工具铺给所有人之前,先用你自己的话写下它要过的线,比如 50 个真实的顾客请求里,答对 45 个。拿这 50 个去试,每一条都亲手核对。再跑一遍,因为同一个工具下一次的回答可能不一样。然后再做决定。

麦当劳说,打算在年底前「就未来的语音点餐方案作出有依据的决定」。下一圈循环,会从大约 100 个免下车窗口两年半里教给它的东西开始。

先看几件事

玩一玩

出处

  1. Dan Siroker,How Obama Raised $60 Million by Running a Simple Experiment,Optimizely 博客,2010 年 11 月 29 日(存档,含作者在评论区的回复)
  2. Eric Ries,The Lean Startup,Principles
  3. The 5 Big Mistakes That Led to Ron Johnson's Ouster at JC Penney,《时代》,2013 年 4 月 9 日
  4. Anne D'Innocenzio,JCPenney shares plunge after 'no sales' bust,美联社,2013 年 2 月 28 日(《基督教科学箴言报》转载)
  5. Nancy Bocken、Yuliya Snihur,Lean Startup and the business model: Experimenting for novelty and impact,Long Range Planning 第 53 卷第 4 期,2020
  6. Teppo Felin 等,Lean startup and the business model: Experimentation revisited,Long Range Planning,2019(文献记录)
  7. Alicia Kelso,McDonald's is ending its AI drive-thru test with IBM,Nation's Restaurant News,2024 年 6 月 17 日
  8. Eric Ries,The Lean Startup(《精益创业》),2011
  9. Dan Siroker,Obama's $60 million dollar experiment,Optimizely(同一篇文章的现行版本)
  10. The 5 Big Mistakes That Led to Ron Johnson's Ouster at JC Penney,TIME,2013-04-09
  11. Dana Mattioli, For Penney's Heralded Boss, the Shine Is Off the Apple,《华尔街日报》,2013-02-24(开头一段,其余在付费墙后)
  12. Anne D'Innocenzio, JCPenney shares plunge after 'no sales' bust,美联社,2013-02-28(Christian Science Monitor 转载)
  13. J.C. Penney's New, Old CEO,Knowledge at Wharton,2013-04-10
  14. Google DeepMind, AlphaEvolve, a Gemini-powered coding agent for designing advanced algorithms (blog), May 14, 2025
  15. Novikov et al., AlphaEvolve, A coding agent for scientific and algorithmic discovery, arXiv 2506.13131, June 2025
  16. Ernest Davis (NYU), Some comments on AlphaEvolve, June 2, 2025
  17. WIRED, Google DeepMind's AI Agent Dreams Up Algorithms Beyond Human Expertise, May 14, 2025
  18. MIT Technology Review, Google DeepMind's new AI agent cracks real-world problems better than humans can, May 14, 2025
  19. Dumas, Pernet, Sedoglavic, A non-commutative algorithm for multiplying 4x4 matrices using 48 non-complex multiplications, arXiv 2506.13242, June 2025
  20. Georgiev, Gómez-Serrano, Tao, Wagner, Mathematical exploration and discovery at scale, arXiv 2511.02864, November 2025
  21. Google, AI Overviews: About last week, May 30, 2024
  22. BBC News, Google AI search tells users to glue pizza and eat rocks, May 24, 2024
  23. The Guardian, Google to refine AI-generated search summaries in response to bizarre results, May 31, 2024
  24. CNBC, Google CEO tells employees Gemini AI blunder 'unacceptable', February 28, 2024
  25. Xiaomi Corporation, Global Offering prospectus, Hong Kong Stock Exchange, June 25, 2018, section Business
  26. Xiaomi Corporation, Global Offering prospectus, June 25, 2018, Open Letter from Our Chairman (Lei Jun)
  27. The Paper (澎湃新闻), 小米十周年雷军演讲全文:和这个伟大时代同行,是最大的荣幸, August 11, 2020