案例索引
一审：浙江省杭州市滨江区人民法院（2024）浙0108民初10311号
裁判要旨
1.生成式人工智能作为内容生产工具，其带来的“AI幻觉”现象在现阶段难以避免。使用者在传播、利用人工智能生成物时，应尽到与其注意能力相符的审核义务。
2.使用人工智能生成内容并向公众传播时，应当依法履行显著提示义务或标识义务，以提示其由AI生成且存在不确定性，防范虚假信息或误导性信息传播对他人合法权益或社会秩序造成损害。
推荐理由
针对生成式人工智能“AI幻觉”带来的虚假信息风险，本案在反不正当竞争法框架下，通过精细化法律论证，以主体身份、行为目的、行为方式、所用工具的特性与风险以及造成的损害性质与大小作为考量维度，将抽象的合理注意义务具体化为可操作、可审查的行为标准，指出生成式人工智能使用者的注意程度必须与其对工具的控制能力、其行为背后的商业动机以及信息传播可能造成的社会影响风险相匹配。本案判决明晰了生成式人工智能服务使用者对关键事实信息的审核义务和对人工智能生成内容的显著标识义务，为未来司法实践甄别和认定不同主体在不同应用场景下使用人工智能生成内容时的责任边界，提供了清晰、灵活且富有弹性的裁判指引。
案情介绍
某里巴巴集团控股有限公司（以下简称某里巴巴集团公司）、杭州某里巴巴广告有限公司（以下简称某里巴巴广告公司）系关联企业，长期以“某里巴巴”作为企业字号，在电子商务领域具有较高知名度。李某某系百度百家号“某瓜说机”账号运营者，该账号已认证为电商推广号，拥有一定数量粉丝，并通过商业推广、电商带货等方式获取收益。
2023年12月30日，李某某利用某生成式人工智能APP生成题为《某数字控股有限公司是真的吗》的文章，并在其“某瓜说机”百家号发布。该文章称“某数字控股（深圳）有限公司”为某里巴巴集团公司旗下子公司，并描述了其业务布局与战略关联。实际上，该公司系案外人独立注册，与某里巴巴集团公司无任何关联。李某某在发布前未对文章内容进行核实，亦未在文章前端显著标注系人工智能生成，仅在后台标注“由某生成式人工智能大模型4.0生成”。文章发布后获得一定阅读量，后被删除。
某里巴巴集团公司、某里巴巴广告公司认为，李某某的行为构成混淆、虚假宣传等不正当竞争行为，诉请判令其消除影响、赔偿损失50万元。
浙江省杭州市滨江区人民法院综合考虑某里巴巴集团公司、某里巴巴广告公司知名度、李某某过错程度、行为性质、传播范围及某里巴巴集团公司、某里巴巴广告公司维权合理开支等因素，酌情判令李某某赔偿某里巴巴集团公司、某里巴巴广告公司3万元，另判令李某某在涉案账号内连续三日发表声明以消除影响。宣判后，双方当事人均未上诉，判决已生效。
裁判内容
浙江省杭州市滨江区人民法院经审理认为，某里巴巴集团公司与某里巴巴公司系关联公司，其对于“某里巴巴”企业字号享有相应的权益，对于某里巴巴集团公司旗下电子商务服务及产品共享其市场声誉，且“某里巴巴”企业字号已经在相关公众中建立了较高的知名度与影响力，作为有一定影响的企业名称可受到反不正当竞争法的保护。竞争关系是否存在不限于同业竞争，原告系全球知名的互联网企业，旗下拥有众多家喻户晓的电子商务平台，开展电商业务，而被告李某某虽系运营自媒体的个人，但其通过自媒体账号承接商业推广、直播咨询、电商带货等业务，系电商业态的市场主体，故原、被告双方存在竞争关系。尤其在互联网环境中，李某某通过发布案涉被诉侵权文章吸引流量、增粉养号，但该文章的信息存在事实错误，极有可能引发市场或相关公众的误解，此种信息失实将可能导致两原告背负舆论压力和声誉损失。李某某作为从事商业推广的自媒体博主，应对所发布的信息负有审核义务，且人工智能本质上系辅助工具，在当前技术条件下，“AI幻觉”现象难以完全避免，生成式人工智能的使用者在利用人工智能进行内容创作后，因其对生成物具有最大的控制权，其应当对生成内容的传播和利用负合理的注意义务，如审查过滤虚假信息，尽力确保其传播的信息的真实性与完整性，或添加显著标识，提示相关公众该文系由人工智能生成，以避免虚假信息传播对他人合法权益或社会秩序造成损害。被诉侵权行为系违背商业道德，扰乱市场竞争秩序、损害两原告合法权益的不正当竞争行为，该行为属于违反反不正当竞争法第二章及专利法、商标法、著作权法等规定之外情形的行为，故可以适用反不正当竞争法第二条予以认定，被告李某某应当承担消除影响、赔偿损失的责任。据此，依法判决李某某刊登声明消除影响，并赔偿原告经济损失及合理费用共计3万元。
一审宣判后，双方当事人均未上诉，一审判决已生效。
