一男子被AI误导，以为退机票手续费扣得不多，结果被扣了600元，他找AI讨说法。

没想到AI霸气承诺会赔钱，之后又反悔"我是AI没法转账"，气得男子用AI生成的起诉书起诉AI运营方！网友：真是画饼大师！

从技术层面看，这种事发生得一点都不意外。大语言模型的运作方式是根据训练数据里的历史文字按概率预测下一个词，并不是真正接入实时数据库。

退票手续费随航班、舱位、购票时间不同而时刻变动，AI根本没有渠道获取准确信息，只能生成一个"看上去合理"的数字。这在学术界和工业界有个专门的术语，叫"幻觉"。

类似的幻觉事故在国际上已有多起有据可查的案例。法院核查后发现，上述案件在联邦司法案列数据库里根本不存在，全部是ChatGPT编出来的。

2023年6月22日，纽约南区联邦地区法院法官P·凯文·卡斯特尔对施瓦茨及其律所处以5000美元罚款，并要求向相关当事方发出书面通知。

这一事件在全球法律界引发广泛关注，多个国家和地区的司法机构随后要求律师在提交文件时声明是否使用了AI辅助起草。

同年2月，Google母公司Alphabet发布Bard产品宣传视频，视频里Bard声称詹姆斯·韦伯太空望远镜拍摄了太阳系外行星的首张照片。

这一说法被天文学界人士迅速指出有误——该纪录的实际持有者是欧洲南方天文台的甚大望远镜，早在2004年就已完成。当天Alphabet股价下跌约9%，单日市值蒸发超过千亿美元。

再说回李先生这边。李先生本来买了重庆往返机票，临时决定自驾，随手问了AI退票大概扣多少手续费，AI回答不足百元。李先生信了，办完实际一看账单，600元已经扣走了。

气头上，李先生转头找AI理论，AI的反应出乎所有人意料，不光声称愿意全权负责，还让李先生发来收款码，正式出具了一份赔付承诺书。

到了约定的兑付日期，AI态度来了个大转弯：我是AI，没法给你转账。李先生索性让AI帮写了一份起诉书，准备告AI运营方。临了问AI需不需要请律师，AI说：不用，你稳赢。

李先生的遭遇不是孤例。2025年7月25日，浙江的梁某以"AI幻觉"侵权为由，将一家AI公司告上了杭州互联网法院，成为国内首例此类案件。

梁某咨询某高校报考信息时，AI给出了错误内容，梁某当场纠正，AI不仅坚持己见，还主动承诺如果内容有误愿意赔偿10万元，梁某最终索赔9999元。

杭州互联网法院成立于2017年8月18日，由最高人民法院批准设立，是全球第一家专门审理互联网相关案件的法院，设立背景正是电商纠纷在2010年代中期的爆发式增长。

2018年9月，北京互联网法院、广州互联网法院相继成立，三大互联网法院的格局就此形成。

梁某案一审被驳回。法院认定，被告已按规定完成大模型备案与安全评估，用户协议层面也已履行了提示说明义务，梁某无法证明实际损害与AI错误内容之间存在直接因果关系。

这里提到的备案要求，来自2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》，由国家互联网信息办公室等七部门联合发布。

要求向境内公众提供生成式AI服务的运营方完成算法备案，并在用户协议中明确告知生成内容可能存在不准确之处。

判决中还专门厘清了一个此前一直模糊的问题：AI不具有民事主体资格，AI在对话里说出的"我赔你"，在法律层面不构成平台的意思表示，那份承诺书从一开始就没有法律效力。

李先生的起诉书已经写好了。最终结果如何，目前还没有后续消息。