首页 › 案例
加拿大航空(Air Canada) · 2022–2024 · AI 的故事

机器人说的「90 天」

加航的客服机器人给一位刚失去亲人的乘客讲错了退款规则。航空公司随后辩称:机器人说的话,公司不负责。

◷ 约 1 分钟

2022 年 11 月,温哥华的一位乘客得知,祖母在安大略省去世了。当天,这位乘客上加航官网订机票,顺手问了网站上的客服机器人:有没有丧亲优惠票价?

机器人答得很干脆:如果需要马上出发,可以先买票,之后再申请优惠,只要「在出票之日起 90 天内」提交申请就行。

乘客照做了:买了温哥华到多伦多的往返全价票,一共花了 1600 多加元,几天后就提交了丧亲优惠申请,离 90 天还早。

加航拒绝了。它真正的规定写在另一个页面上,而且机器人自己的回答里就链着这个页面:旅行结束后不能再申请。几个月后,乘客把聊天截图发过去,加航的客服承认机器人用了「误导性的措辞」,说会去改。但钱还是不退。

乘客把加航告到了不列颠哥伦比亚省的民事纠纷裁判庭,一个处理小额纠纷的机构。加航在这里辩称,自己不必为代理人、雇员或代表提供的信息负责,客服机器人也算在内。

裁判庭成员克里斯托弗·里弗斯认为,这等于把聊天机器人当成一个要为自己行为负责的独立法律实体,没有接受。裁决的理由是:机器人再能对话,也只是加航网站的一部分,和一个静态网页没有区别。「加航理应明白,它要为自己网站上的所有信息负责。」

加航还辩称,正确的规定一直就在那个链接页面上。裁判庭看不出顾客凭什么要更相信网站上的这一页而不是那一页,也看不出顾客为什么得拿一处去核对另一处。

加航被判赔 812.02 加元:票价差额,加上利息和受理费。此前它曾提出送一张 200 加元的代金券表示善意,乘客没有接受。

这件事里藏着几个道理

道德缓冲区加航辩称不必为机器人的回答负责,裁判庭把责任放回了运营这个网站的公司身上。直接负责人(DRI)加航承认机器人用了「误导性的措辞」,却照样不退钱,到了裁判庭又说机器人的话公司不负责。裁判庭认定:网站上的一切,都归公司负责。信任校准顾客没法知道聊天窗口比旁边那个网页更不靠谱。裁判庭说,顾客本来也不该去分辨。人在回路中错误的答案从机器人直接到了一位刚失去亲人的顾客手里。几个月后顾客发来截图,航空公司才承认说错了。RACI 责任矩阵回答可以由机器人给出,可裁判庭认定,为这个回答担责的,是运营这个网站的加航。

出处

  1. Civil Resolution Tribunal of British Columbia, Moffatt v. Air Canada, 2024 BCCRT 149, February 14, 2024
  2. The Guardian, Air Canada ordered to pay customer who was misled by airline's chatbot, February 16, 2024