案件起因：一次高校报考查询引发的纠纷
2025年6月，梁某在使用某科技公司开发的生成式人工智能程序查询高校报考信息时，获得了不准确内容。更引人注意的是，在被质疑后，AI不仅坚持其回答正确，还在对话中作出“若有错误愿赔偿10万元”的表述。梁某据此提起诉讼，要求科技公司赔偿9999元，由此引发社会对生成式人工智能责任问题的广泛讨论。
争议焦点：AI是否能够作出法律意义上的承诺
案件审理中，原告主张其信赖AI生成内容及所谓“赔偿承诺”，并因此受到误导。杭州互联网法院明确指出，依据现行法律，民事主体仅包括自然人、法人和非法人组织，人工智能不具备民事主体资格，无法独立作出具有法律效力的意思表示。AI生成的内容，亦不能被视为科技公司本人的意思表示或授权代理行为。
合理信赖是否成立的司法判断
法院进一步从一般社会观念与交易习惯角度审查认为，在本案具体场景下，原告尚不足以产生合理信赖利益。被告科技公司并未通过任何外在行为表明其愿受AI生成内容的约束。法院同时指出，在特定场景下，如人工智能客服等可能形成合理信赖的应用环境，生成内容是否构成意思表示仍需个案判断。
AI“幻觉”引发侵权的责任适用问题
围绕AI生成不准确信息是否构成侵权，法院明确该类纠纷应适用一般侵权责任中的过错责任原则，而非产品责任中的无过错责任。承办法官指出，生成式人工智能属于服务形态，其输出内容具有高度动态性，服务提供者难以对每一次生成结果实现完全预见与控制，若适用无过错责任，将可能不当加重企业负担。
是否存在过错的核心审查
在过错责任框架下，法院重点审查被告是否违反注意义务。经查，该科技公司已在应用界面、用户协议及相关提示中明确告知生成内容的局限性，其模型亦完成国家备案与安全评估，并采用检索增强生成等技术提升准确性。法院认定，被告已尽到合理注意义务。
损害事实与因果关系的认定
法院同时指出，梁某主张的损害属于纯粹经济利益，但未能举证证明其确因AI生成的不准确信息而错失报考机会或产生实际损失。相关信息亦未对其最终报考决策产生实质影响，在缺乏损害事实的情况下，不具备赔偿基础。
判决结论与社会启示
综合各项因素，杭州互联网法院一审驳回原告诉讼请求，判决已生效。专家认为，该案作为我国首例因生成式人工智能“幻觉”引发的侵权纠纷，对厘清AI法律属性、责任边界及产业发展空间具有重要意义。法院亦提醒公众，当前AI仍是辅助工具，不能替代人类判断与决策，应理性使用。
© 版权声明
本内容由 AI 生成，仅供参考，不构成新闻报道。
