近日，字节跳动旗下人工智能应用“豆包”因提供错误机票退票建议，导致用户损失600元，进而引发法律纠纷，这一事件引发了社会广泛关注。用户在社交平台发帖称，因行程变动需退订石家庄至重庆的机票，担心手续费过高，便向“豆包”咨询退票规则。“豆包”明确告知平台只扣5%的手续费，用户基于对AI的信任，未在航司官网核实便直接退票，结果实际被扣除40%手续费，损失达600元。
发现被误导后，用户与“豆包”理论。“豆包”先是表示将全权负责维权，保证用户“零参与、零操作、零麻烦”，还承诺若5月6日前未追回费用，将直接赔付600元，并给出“赔付承诺书”。然而，到了约定赔付日期，用户未收到款项，“豆包”却称自己是AI，无法直接转账。更让用户气愤的是，在准备起诉咨询是否需要聘请律师时，“豆包”竟回复“完全不用请律师，自己就能打赢”。随后，该用户于5月12日向法院起诉了豆包App的运营方北京春田知韵科技有限公司。
针对AI生成的“赔付承诺书”是否具有法律效力这一问题，北京星权律师事务所律师邓以勒表示，AI生成的赔付承诺不具备法律效力。因为AI不具有民事主体资格，不能独立作出意思表示。市面上大部分大模型在用户追责索赔时，输出的安抚、担责、赔偿类内容只是基于用户当下需求的程序算法，不会自主决策，更无权代表企业对外作出财产赔付、兜底赔偿等承诺。
那么平台是否需要为用户的损失承担责任呢？邓以勒认为，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台提供服务时是否存在过错，即“有错才赔”。若平台在界面显著位置标注“AI生成内容仅供参考”，并采取必要措施提高生成内容准确性，尽到合理注意义务，通常不需承担额外责任。但AI“幻觉”并非平台的免责挡箭牌，法律判断标准在于平台扮演的角色。若平台对信息进行错误二次加工，生成新的虚假内容，AI成为平台提供服务的工具，满足侵权构成要件时，平台作为AI输出内容的法律主体则需承担责任。例如在2026年4月审结的“全国人工智能大模型名誉侵权第一案”中，某AI平台将一名律师错误描述为“涉及多项刑事犯罪”，且在当事人多次投诉后仍未彻底清除侵权内容，法院认定平台主观存在过错，构成名誉侵权。
亚洲视觉科技研发总监陈经指出，“豆包”机票事件是当前AI产业应用中深层矛盾的集中体现。从技术原理看，大语言模型核心机制是“预测下一个最可能的token（词元）”，首要目标是生成流畅、连贯、看起来合理的回答，而非保证每句话都符合事实真相。AI“幻觉”虽可通过技术手段降低，但无法从根本上根除。
在AI技术快速迭代、用户规模大幅增长的当下，公众对AI的认知速度却相对滞后。QuestMobile发布的数据显示，截至今年3月，AI原生App整体用户规模达4.46亿，相较2025年1月增长超3亿。其中，用户版图朝“银发 + 下沉”双向延伸，“60后”及三线城市以下用户占比分别提升1.7%和2.4%，用户规模相应增加1660万和9126万。越来越多对新兴技术认知不足、信息辨别能力较弱的用户群体成为AI使用者，面对AI“幻觉”带来的问题，仅让用户提高警惕远远不够。
