首页 › 案例
奥雅纳(Arup) · 2024 · AI 的故事

会上的其他人

香港一名财务员工怀疑「英国财务总监」发来的邮件是钓鱼诈骗。随后一场视频会议里全是熟面孔,可他们全是假的。2 亿港元分 15 笔转了出去。

◷ 约 2 分钟

这条消息看上去来自公司驻英国的首席财务官,收件人是香港财务部的一名员工,内容说的是要做一笔秘密交易。

据香港警方说,这位员工的第一反应是:这是钓鱼邮件。

接着是一场视频会议。会上有好几个人,样子和声音都像这位员工认识的同事。疑虑就这么打消了。前后 15 笔,这位员工把 2 亿港元,约合 2560 万美元,转进了本地的五个银行账户。

会上除了这位员工,其他人全是假的。「骗徒从 YouTube 上找到被冒充者公开的影片和录音,再用深度伪造技术模仿他们的声音。」署理高级警司 Baron Chan 对记者说。按他的说法,这些影片是预先录好的,跟受害人没有对话,也没有互动。

直到这位员工事后向公司总部求证,骗局才被识破。警方 2024 年 1 月 29 日接到报案,2 月初向媒体介绍了案情,没有公开公司和员工的名字,并说暂时没有人被捕。

5 月,奥雅纳证实,出事的就是自己。这家英国工程公司做过悉尼歌剧院的结构工程,员工超过 1.8 万人。公司说,年初已向香港警方报案,骗子确实用了伪造的声音和图像;还说「我们的内部系统都没有被入侵」。

这位员工的疑心落在邮件上,而那封邮件确实是假的。打消疑心的是那场会议,而那场会议的样子,恰恰是一个谨慎的人在转一大笔钱之前想看到的:几位高层,看得见,听得着,都支持同一个请求。骗子精心搭起来的,正是这份安心。

奥雅纳全球首席信息官罗布·格雷格后来把这件事叫作「技术加持的社会工程」。案发大约一年后,他在接受世界经济论坛采访时说,严格说来这连网络攻击都算不上:系统没被入侵,数据没受影响,只是有人被骗得以为自己在做真实的交易。声音和画面对人来说太重要了,这些技术利用的就是这一点。「我觉得,我们真的得开始怀疑自己看到的东西了。」

他还自己试了一回。出事之后,他好奇,想给自己做一段实时的深度伪造视频。他说做出来的效果并不算逼真。「我用一些开源软件,花了大约 45 分钟。」

这件事里藏着几个道理

信任校准这位员工对一封谈秘密交易的邮件起了疑心,却因为视频里的脸和声音都像同事,信了那场会议。警方说,这些假象是用 YouTube 上公开的影像做出来的。职责分离与四眼原则那场会议看上去就是几位高层一起认可这笔付款,也正是第二个审批人该起的作用。可会上其他人全是假的,各方报道里,15 笔转账都是这一名员工经手。检查清单揭穿骗局的,是很朴素的一步:向总部核实。按警方的说法,这一步是在钱转走之后才做的。

出处

  1. CNN, Finance worker pays out $25 million after video call with deepfake 'chief financial officer', February 4, 2024
  2. Hong Kong Free Press (AFP), Multinational loses HK$200 million to deepfake video conference scam, Hong Kong police say, February 5, 2024
  3. CNN, British engineering giant Arup revealed as $25 million deepfake scam victim, May 16, 2024
  4. The Guardian, UK engineering firm Arup falls victim to £20m deepfake scam, May 17, 2024
  5. World Economic Forum, 'This happens more frequently than people realize', Arup chief on the lessons learned from a $25m deepfake crime, February 4, 2025