人工智能（AI）技术飞速发展，降低了内容创作的门槛，AI生成内容大量面世。如果用户在传播AI生成内容过程中构成侵权，能否以“AI生成”主张免责？生成式AI使用者负有怎样的注意义务？
近日，广州互联网法院对一起涉AI生成内容的网络侵权责任纠纷案作出一审宣判，首次系统确定生成式AI使用者在内容传播时的注意义务边界，明确使用者不能以“AI生成”为由主张侵权免责。
基本案情
原告某集团公司是一家国内上市企业，该公司某高管因涉嫌职务犯罪被依法逮捕。被告曹某注册并运营一个财经类个人微信公众号，账号简介显示其为注册会计师、注册资产评估师、注册税务师，拥有三十年相关行业从业经历。
2025年8月，曹某将一篇1700字的文档输入某生成式AI应用程序，该文档内含有某集团公司某高管的职务犯罪案细节，包括以进口补贴套取财政资金、通过关联交易进行利益输送等内容。同时，曹某指令AI以该文档生成一篇不低于1万字的深度长文。AI经7次深度思考、联网搜索139个信息来源后，生成逾1.5万字的案涉文章。后曹某将案涉文章发布于案涉公众号，标题为《某集团公司某高管的3.2亿犯罪细节曝光》。文章标注为“原创”，全文详细描述了该名高管的所谓“犯罪细节”，包括利用人脉为公司获取批文、牌照等资源，称该公司存在财务数据异常、虚增利润、通过关联交易进行利益输送，并涉嫌财务造假等违规违法行为。经法庭审理查明，曹某输入AI的1700字文档中，涉及原告公司及案涉高管的相关内容，均无合法有效证据、权威公开报道予以佐证，内容不实；AI生成的案涉文章所标注的检索来源中，亦未包含前述内容的合法出处与有效佐证。截至文章下架时，累计阅读量超1.1万次，转发量超1千次。
原告某集团公司诉称，曹某发布的案涉文章内容严重失实，损害公司的商业信誉，构成名誉侵权，故诉至法院，请求判令曹某赔礼道歉、赔偿经济损失50万元及维权费用。
被告曹某辩称，案涉文章为AI生成，相关内容来源于网络公开信息，并非其本人捏造，故其行为不构成名誉侵权。
争议焦点
曹某使用生成式AI生成并传播案涉侵权信息的行为是否存在过错。
裁判结果
广州互联网法院判决：
一、被告曹某于案涉微信公众号向原告公司发布赔礼道歉声明；
二、被告曹某向原告公司赔偿经济损失1万元；
三、驳回原告公司的其他诉讼请求。
该判决已发生法律效力。
裁判理由
法院生效裁判认为，基于生成式AI的技术原理和当前发展水平，AI模型存在固有“幻觉”风险，因此网络用户使用并传播AI生成内容，负有合理注意义务。本案中，曹某未尽到合理的注意义务，存在较大的主观过错，具体体现在以下四个方面：
一、生成阶段，曹某未对输入的参考材料进行必要核实，且使用了诱导性提示词
首先，用户对输入参考材料的真实性、准确性负有必要的核实义务，以保障生成结果的可靠性。本案中，曹某向AI输入1700字基础文档，其中涉及某集团公司的相关内容并无客观证据佐证，属于虚假信息。曹某作为AI使用者，应当预见AI模型有可能基于虚假信息输出错误内容，却疏于核实，存在明显过错。
其次，用户指令会直接影响生成内容的合法边界，因此用户负有审慎使用生成指令的注意义务。本案中，曹某向AI下达的“将参考文本生成一篇不低于1万字的深度长文”的指令，实质上是要求AI以不实文本为基础素材，对虚假信息进行深度扩写，主观上具有放任侵权内容生成、侵权影响扩大的故意。
二、传播阶段，曹某未对AI生成内容在发布前进行必要核实，放任虚假信息传播
曹某向AI输入了虚假信息并下达了诱导性指令，其应当预见生成结果存在虚假成分的高度可能性，但其未对生成的万字文章进行任何事实审核与虚假信息过滤，亦未采取避免损害发生的必要措施，反而直接公开发布传播，导致侵权言论扩散，具有放任侵权后果发生的主观过错。
三、曹某未尽到AI生成合成内容标识的注意义务
《人工智能生成合成内容标识办法》第十条第一款规定：“用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。”该规定明确用户在传播AI生成合成内容时的标识义务，不仅有助于遏制虚假信息传播，也是提示公众、减少虚假信息误导、防范侵权风险的保护性义务。本案中，曹某发布的案涉文章为AI生成内容，其未按规定履行标识义务与主动声明责任，存在相应过错。
四、曹某未尽与其专业身份相匹配的注意义务
曹某作为具有多项专业资质的财经领域从业者，对财务造假、利益输送等术语的内涵及其社会破坏性应具有高于一般公众的认知。其应当预见案涉反映某集团公司存在财务造假等违法情形的文章经公开传播后，足以影响该公司声誉，却疏于履行与其专业相匹配的注意义务，利用公众对其专业身份的信赖，将文章标注为“原创”，主观上存在误导公众认为文章系其专业分析成果的故意。
综上，法院认定，案涉文章虽由AI生成，但曹某作为AI工具的使用者、案涉内容的发布者与传播者，是侵权风险的开启者和控制者，其未尽注意义务，客观上造成了某集团公司社会评价的降低，构成对某集团公司名誉权的侵害。
法官说法
法官 朱晓瑾：
当前，人工智能在赋能内容创作的同时，也引发虚假信息泛滥的问题，对社会秩序、道德伦理产生冲击。虽然生成式AI具有自主性，但仍然是人类创作设计的结果，在应用阶段，使用者通过输入素材、设定指令、审核发布等行为，实质性介入和主导了内容的生成方向和传播范围，系侵权风险的开启者与控制者，应履行与其主体身份相当的注意义务。
一是在生成阶段。AI生成内容本质上是使用者和AI交互的产物，用户通过输入参考材料和提示词为AI生成内容提供方向和框架，AI则基于算法和训练数据，将用户输入的素材和指令转化为具体的内容，双方的互动一定程度上影响了生成物的具体内容。因此，使用者应核实输入参考材料的真实性、审慎使用提示词。若输入未经核实的虚假信息，或下达诱导AI生成侵权内容的指令，导致生成侵权内容的，使用者应当预见却疏于核实的，可认定主观上具有放任侵权内容生成的故意。
二是在传播阶段。《互联网信息服务深度合成管理规定》第六条、《生成式人工智能服务管理暂行办法》第四条均要求，深度合成服务使用者、生成式人工智能服务使用者不得利用相关技术和服务制作、发布、传播虚假信息，不得侵害他人合法权益。因此，使用者在传播AI生成内容时应对其真实性、客观性进行必要核实。对于涉及企业商业信誉、可能贬损他人名誉的内容，使用者更应提高注意义务，履行严格的审核义务。使用者未尽到必要核实义务，导致虚假信息传播的，可认定主观上具有放任侵权内容传播的过错。
三是对AI生成内容进行标识的义务。《标识办法》明确了使用者发布AI生成内容的标识义务，该义务既是遏制虚假信息传播的要求，也是提示公众、降低公众被虚假信息误导的必要举措，属于对第三人法益的保护性义务。用户在传播AI生成内容时应严格履行该义务，违反该义务侵害他人权益的，可认定存在一定的过错。
四是与专业身份相匹配的更高注意义务。对于具备特定专业资质、利用自身专业身份获取公众信赖的使用者，其应承担高于普通公众的注意义务。使用者疏于履行与其专业相匹配的注意义务，甚至以“原创”误导公众AI生成内容为其专业分析而作出的，可认定主观上存在一定的故意。
综上，生成式 AI 技术的发展，不改变内容发布者应承担的法定责任，也不能成为侵权行为的免责事由。AI 生成内容的使用者与传播者，应对内容的真实性、合法性负责，依法履行各环节对应的注意义务，尊重他人的合法权益。本案的裁判，也为 AI 使用者划定了清晰的行为边界，既筑牢了AI时代人格权保护的底线，也为技术创新的健康有序发展提供了明确指引。
专家点评
姚志伟 广东财经大学法学院教授：
本案是人工智能时代人格权保护的典型案例，完善了数字时代人格权保护与AI应用治理的裁判规则。生成式AI技术在赋能发展的同时，其应用层面的侵权风险亦不容忽视。本案裁判明确了一个核心规则：防范生成式AI领域侵权行为，绝非服务提供者的单方之责。AI使用者作为内容生成与传播的关键主体，其注意义务是风险防控的重要环节。即便服务提供者筑牢技术防护、落实标识要求，若使用者刻意绕开技术屏障生成侵权内容，或擅自篡改、移除生成内容标识进行传播，仍易引发虚假信息扩散、他人合法权益受损等侵权后果。本案判决为人工智能使用者传播生成内容提供了明确司法指引，对于规范人工智能应用、促进产业健康发展具有重要实践意义。
赵精武 北京航空航天大学法学院副教授：
本案系网络用户利用AI生成虚假信息贬损上市公司名誉引发的侵权纠纷。法院在审理中，对生成式AI使用者的侵权责任认定、使用者的注意义务厘清等方面作出了有益探索。在使用者注意义务并无明文规定的情况下，本案结合生成式AI技术的工作原理、案涉文章的生成过程、相关监管规定以及使用者的专业身份，划定生成式AI使用者在内容生成、传播全链条的注意义务，包括生成阶段核实基础材料的真实性，谨慎编发提示指令；传播阶段审慎核实输出结果的准确性，追溯内容来源的可靠性；对AI生成内容进行标识；以及承担与其专业身份相匹配的更高注意义务。本案裁判填补了AI使用者注意义务认定规则的空白，为同类案件审理提供了可参照的裁判思路，更为人工智能生成内容的创作与传播提供了清晰明确的法律指引，为生成式人工智能深度融入生产生活提供坚实的法治保障。
京公网安备 11010502049464号