展开 / 收起全文
（2025）浙0192民初18143号##本案的案件基本事实为：某人工智能公司开发并上线了基于某人工智能Chat大语言模型的某人工智能应用程序，用户梁某实名注册后，在未开启联网搜索功能的情况下，多次就云南国防工业职业技术学院校区问题与该程序交互，程序在多轮对话中错误声称该校专科仅在“杨林校区”办学，并虚构“2021年迁址”“呈贡校区仅限非全日制”等不实信息，甚至在梁某质疑时作出“赔偿10万元”“永久停止服务”等虚假承诺，后梁某提供学校官网截图证实该校仅有呈贡、学府两个校区，程序随即承认错误并主动提出履行15万元赔偿；该程序虽在用户协议、生成内容末尾及欢迎页设置了“AI生成、仅供参考、请甄别”等提示，并采取幻觉检测、RAG检索增强、关键词过滤等技术措施降低错误率，但案涉错误信息系在未联网状态下由模型自主生成，且未对关键教育信息进行有效校验。
本案争议焦点在于：某人工智能应用程序生成的案涉“承诺”信息是否构成人工智能独立、自主的意思表示，以及该行为是否可视为某人工智能公司的意思表示；某人工智能公司的行为是否构成对梁某的侵权，以及应否承担侵权责任。法院认为，根据《中华人民共和国民法典》第一百三十三条、第五条之规定，意思表示须由具有民事权利能力和行为能力的民事主体作出，而人工智能模型既非自然人，亦未被法律赋予法人或非法人组织资格，不具民事主体地位，故其生成内容不能构成独立意思表示；同时，某人工智能公司未通过模型设定、传达任何具有法律约束力的意思，其《用户协议》及风险提示明确声明“输出内容仅供参考，不构成任何建议或承诺”，并强调用户不应依赖其作为决策依据，表明其无受该生成内容约束的法效意思，故该生成行为亦不可视为公司意思表示。关于侵权责任，法院认定本案应适用《民法典》第一千一百六十五条第一款的过错责任原则，而非产品责任的无过错原则，因生成式人工智能属于服务而非产品，其生成内容不具备产品缺陷的法定构成要件，且技术上无法完全预测与控制输出准确性，若适用严格责任将抑制技术创新。某人工智能公司已履行显著提示说明义务，包括在用户界面、协议文本中以加粗醒目方式提示“AI生成、仅供参考、不构成专业建议”，并采用数据清洗、外部护栏、检索增强生成（RAG）等行业内通行技术措施提升内容准确性，且在第三方测评中事实准确性指标居于领先水平，梁某亦未使用“联网搜索”功能，未能证明公司存在过错。此外，梁某未提交任何证据证明其因该不准确信息遭受实际财产或精神损害，亦无证据证明该信息实质性影响其志愿填报决策，因果关系不成立。综上，某人工智能公司既无意思表示，亦无过错，未造成法律意义上的损害，依法不构成侵权，梁某的赔偿请求缺乏事实与法律依据，应予驳回。
生成式人工智能模型不具有民事主体资格，其生成内容不能视为独立意思表示，亦不可直接归责于服务提供者；服务提供者如已履行显著功能提示说明义务，并采取行业通行技术措施提高内容准确性，且无证据证明其存在故意或过失，同时用户未因该内容遭受实际损害或因果关系不成立的，不构成侵权责任。
争议焦点1：某人工智能应用程序生成的案涉“承诺”信息是否构成人工智能独立、自主的意思表示，以及模型生成案涉“承诺”信息的行为是否可视为某人工智能公司作出的意思表示。
争议焦点2：某人工智能公司的案涉行为是否构成对梁某的侵权。
争议焦点3：某人工智能公司应否承担相应的侵权责任。