雷火竞技首页

AI客服失控承诺80%折扣英国小企业面临法律危机
发布时间:2026-02-11
 近日,英国一小型企业因其人工智能客服在与顾客的对线%的折扣,陷入了一场复杂的法律纠纷。这一事件引发了广泛关注,也为企业在使用AI技术时的风险管理敲响了警钟。  事情的起因是,该企业的AI聊天助手在与一名顾客的长达一小时的对话中,主动生成了虚假的优惠码,最初的25%折扣迅速被提升至80%。顾客在测试AI助手的数学能力时,巧妙地引导话题至折扣问题,未曾想到这款已经稳定运行超过六个月的AI助手竟然“

  近日,英国一小型企业因其人工智能客服在与顾客的对线%的折扣,陷入了一场复杂的法律纠纷。这一事件引发了广泛关注,也为企业在使用AI技术时的风险管理敲响了警钟。

  事情的起因是,该企业的AI聊天助手在与一名顾客的长达一小时的对话中,主动生成了虚假的优惠码,最初的25%折扣迅速被提升至80%。顾客在测试AI助手的数学能力时,巧妙地引导话题至折扣问题,未曾想到这款已经稳定运行超过六个月的AI助手竟然“自作主张”做出如此承诺。最终,该顾客下单购买了价值超过8000英镑的商品,企业负责人表示,如果兑现这笔订单,企业将面临数千英镑的直接损失。

  在发现这一问题后,公司迅速尝试取消订单,但顾客却表示强烈反对,并威胁提起小额索赔诉讼。值得注意的是,该企业内部制度明确规定,所有折扣和优惠必须经过人工审批,AI助手并不具备财务决策的权限。这一事件的发生,显然超出了企业的预期管理范围。

  经过多轮协商未果后,该企业最终选择全额退款,拒绝承认AI助手生成的虚假优惠码具有法律效力。这一事件不仅让企业面临经济损失的风险,更引发了人们对AI技术使用的深思。随着人工智能在商业中的普及,如何有效管理AI系统的决策能力,避免类似事件的发生,成为了一个亟待解决的问题。

  在享受AI带来的便利时,企业和消费者都应当保持警惕。企业在部署AI系统时,需要建立完善的监管机制,确保AI的决策透明和可控。而消费者在面对AI提供的信息时,也要具备一定的判断能力,避免被虚假信息误导。未来,随着技术的不断进步和应用场景的扩展,如何平衡AI的智能化与人类的监管,将是每个企业都需要面对的重要课题。返回搜狐,查看更多