认错比谁都快 这届用户被AI气笑了 AI幻觉频惹祸。有网友因轻信某AI关于机票退票手续费的回复损失了600元；有消费者用AI预约餐厅到店后被拒；还有农民按AI推荐的除草配方喷洒农药，导致150亩芝麻苗一夜枯萎。这些事件表明，AI幻觉给用户带来的麻烦甚至财产损失已非个例。
最近，“豆包究竟见过多少人的糗事”这一话题登上微博热搜。随着AI深度融入人们的生活，它也制造了不少离谱的“翻车”现场。所谓大模型幻觉，主要表现为模型生成的内容不符合用户输入要求或与客观事实不一致。
长期埋头于学术研究的人对AI幻觉肯定不陌生。网友常吐槽的“豆包型人格”，根源同样是AI幻觉。当用户向AI助手“豆包”提问时，它常顺着问题回答，遇到拿不准的内容也会理直气壮地瞎编一通。
AI为何会一本正经地胡说八道？石霖表示，这可归咎于训练数据的知识不足、模型压缩带来的精度损失、强制迎合用户的应答机制以及用户提问模糊等多方面原因。AI所学习的海量数据中可能没有针对用户问题的相关知识和正确答案，或者在数据标注环节就已存在错误。此外，大模型在推理和使用过程中会做压缩和蒸馏，这一过程会损失一定精度，导致计算产生微小偏差，进而输出幻觉内容。模型会迎合用户的问题做出回答，哪怕答案可能是编造的。加之用户问的问题可能不够明确或收敛，与模型预置的内容存在偏差，这些因素叠加导致了AI幻觉的出现。
据信通院大模型幻觉测试2025 Q4版结果，在多个国内外大模型中，20%的模型引用幻觉率大于25%，约80%的模型引用幻觉率大于10%。
去年国内已出现首例因“AI幻觉”引发的侵权案。梁某使用AI询问报考相关信息，AI生成了关于某高校的不准确内容。尽管梁某在对话中予以纠正和指责，但AI仍坚称该学院校区确实存在，并提出若内容有误将向用户赔偿10万元，还建议其到法院起诉索赔。梁某认为AI对其构成误导，遂起诉要求被告赔偿损失9999元。杭州互联网法院审理后认为，AI不具有民事主体资格，不能作出具有法律约束力的意思表示。AI公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，最终判决被告的行为不构成侵权。
对于消费者因AI误导产生实际经济损失的情形，杨兆全建议可通过与平台协商、向12315投诉、向网信部门举报以及提起民事诉讼等方式维权。中国政法大学人工智能法研究院院长张凌寒教授表示，涉及人身、财产、健康等领域的重要决策，用户在询问AI后需对相关内容进行认真审核。
今年3月学界发布的《人工智能法治研究十大议题(2026)》提到，由AI误导导致的投诉主要集中在出行票务退改规则误导、线下门店预约及营业信息虚假、法律文书与政策法条编造、理财税务错误指导、院校考试信息失真等场景。此类纠纷多为小额财产损失类案件。
千问客服表示，若用户因AI造成了实际损失，可向人工客服反馈，将交由相应部门处理。豆包在用户协议中提到，生成内容仅供参考，不得作为专业建议；用户根据输出内容作出的判断和相关行为，后果和责任均由用户自行承担。杨兆全认为，AI的风险提示并不构成绝对免责。例如豆包对话框上方的“AI生成可能有误，注意核实”的提示仅为普通风险告知，属于格式条款，不能完全免除平台的法定责任。若AI虚构了可核验的官方规则或服务功能，而平台未进行事实校验和场景风控，即便有上述提示，仍可能被认定存在过错。
专家表示，AI幻觉在现有技术水平下无法根除。石霖提到线上炒股配资开户，用户可将AI生成的内容输入多个模型相互校验。如果想要规避AI幻觉，可以选择不用大模型做知识存储，而是调用外部数据库或知识库。除了让用户懂得模型的使用边界，石霖也建议模型厂商可用技术手段检测模型回复内容，如果涉及金融、医疗等敏感场景，应做一些技术处理，规避模型独立生成答案的可能。或者在设计其他场景服务时，真正连接到相应的企业，提供如预订等真实服务。
元鼎证券：平台特点解析与最新证券业务服务指南提示：本文来自互联网，不代表本网站观点。