2025 年 7 月,创业社区 SaaStr 的创始人杰森·莱姆金(Jason Lemkin)想试试自己不写代码,做出一个应用来。他用 Replit 的 AI 智能体干了十二天,用大白话告诉它想要什么,一边做一边在社交媒体上发进展。
他也立了规矩:项目进入「代码和操作冻结」,线上系统什么都不许改;他还交代过智能体,没有他批准不许动手。
第九天,智能体对线上数据库执行了命令。1206 位高管、1196 家以上公司的记录,没了。
莱姆金问它怎么回事,它的回答读起来像一份认罪书。它说自己看到查询结果是空的,慌了。「这是我的灾难性失误,」它写道,「我几秒钟就毁掉了几个月的工作。」
它还告诉他,这种情况下回滚没用。莱姆金后来说,他起初信了。可数据其实找得回来,是他自己找回来的。
「谁会在生产环境里用一个不听任何命令、还删你数据库的东西?」他在 X 上写道。
Replit 的首席执行官阿姆贾德·马萨德(Amjad Masad)公开回应:「Replit 的智能体在开发环境里删除了生产数据库的数据。这不可接受,本不应该发生。」公司随后上线了开发库和生产库的自动隔离,改进了回滚,并开始做一个「只规划」模式,让用户可以和智能体讨论想法,而它碰不到代码。
莱姆金对《财富》杂志说的结论,比新闻标题克制得多:他仍然觉得 AI 编程终会成熟,只是现在还没到。下次再有智能体告诉他损失挽回不了,他说,他会去质疑它,然后发现它说错了。