AI技术飞速发展，降低了内容创作的门槛，不少人都开始通过AI这个帮手完成创作。那么，如果用户在传播AI生成内容过程中构成侵权，能否以“AI生成”主张免责？生成式AI使用者负有怎样的注意义务？近日，广州互联网法院对一起涉AI生成内容的网络侵权责任纠纷案作出一审宣判，首次系统确定生成式AI使用者在内容传播时的注意义务边界，明确使用者不能以“AI生成”为由主张侵权免责。
借助AI生成万字长文造谣被诉
原告某集团公司是一家国内上市企业，该公司某高管因涉嫌职务犯罪被依法逮捕。被告曹某注册并运营一个财经类个人微信公众号，账号简介显示其为注册会计师、注册资产评估师、注册税务师，拥有三十年相关行业从业经历。
2025年8月，曹某将一篇1700字的文档输入某生成式AI应用程序，该文档内含有某集团公司某高管的职务犯罪案细节，包括以进口补贴套取财政资金、通过关联交易进行利益输送等内容。同时，曹某指令AI以该文档生成一篇不低于1万字的深度长文。AI经过7次深度思考、联网搜索139个信息来源后，生成逾1.5万字的文章。
之后，曹某将文章发布于公众号，标题为《某集团公司某高管的3.2亿犯罪细节曝光》。文章标注为“原创”，全文详细描述了该名高管的所谓“犯罪细节”，包括利用人脉为公司获取批文、牌照等资源，称该公司存在财务数据异常、虚增利润、通过关联交易进行利益输送，并涉嫌财务造假等违规违法行为。
经法庭审理查明，曹某输入AI的1700字文档中，涉及原告公司及案涉高管的相关内容，均无合法有效证据、权威公开报道予以佐证，内容不实；AI生成的文章所标注的检索来源中，亦未包含前述内容的合法出处与有效佐证。截至文章下架时，累计阅读量超1.1万次，转发量超1千次。
原告某集团公司诉称，曹某发布的文章内容严重失实，损害公司的商业信誉，构成名誉侵权，故诉至法院，请求判令曹某赔礼道歉、赔偿经济损失50万元及维权费用。
对此，被告曹某辩称，文章为AI生成，相关内容来源于网络公开信息，并非其本人捏造，故其行为不构成名誉侵权。
法院：使用者未尽注意义务构成侵犯名誉权
究竟曹某使用AI生成并传播侵权信息的行为是否存在过错？这成为本案争议焦点。
广州互联网法院审理后判决，被告曹某发布赔礼道歉声明，向原告公司赔偿经济损失1万元。目前，该判决已发生法律效力。
法院生效裁判认为，基于生成式AI的技术原理和当前发展水平，AI模型存在固有“幻觉”风险，因此网络用户使用并传播AI生成内容，负有合理注意义务。本案中，曹某未尽到合理的注意义务，存在较大的主观过错，具体体现在以下四个方面：
一、生成阶段，曹某未对输入的参考材料进行必要核实，且使用了诱导性提示词
用户对输入参考材料的真实性、准确性负有必要的核实义务，以保障生成结果的可靠性。本案中，曹某向AI输入1700字基础文档，其中涉及某集团公司的相关内容并无客观证据佐证，属于虚假信息。曹某作为AI使用者，应当预见AI模型有可能基于虚假信息输出错误内容，却疏于核实，存在明显过错。而且，用户指令会直接影响生成内容的合法边界，因此用户负有审慎使用生成指令的注意义务。本案中，曹某向AI下达“将参考文本生成一篇不低于1万字的深度长文”的指令，实质上是要求AI以不实文本为基础素材，对虚假信息进行深度扩写，主观上具有放任侵权内容生成、侵权影响扩大的故意。
二、传播阶段，曹某未对AI生成内容在发布前进行必要核实，放任虚假信息传播
曹某向AI输入了虚假信息并下达了诱导性指令，其应当预见生成结果存在虚假成分的高度可能性，但其未对生成的万字文章进行任何事实审核与虚假信息过滤，亦未采取避免损害发生的必要措施，反而直接公开发布传播，导致侵权言论扩散，具有放任侵权后果发生的主观过错。
三、曹某未尽到AI生成合成内容标识的注意义务
《人工智能生成合成内容标识办法》第十条第一款规定：“用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。”该规定明确用户在传播AI生成合成内容时的标识义务，不仅有助于遏制虚假信息传播，也是提示公众、减少虚假信息误导、防范侵权风险的保护性义务。本案中，曹某发布的案涉文章为AI生成内容，其未按规定履行标识义务与主动声明责任，存在相应过错。
四、曹某未尽与其专业身份相匹配的注意义务
曹某作为具有多项专业资质的财经领域从业者，对财务造假、利益输送等术语的内涵及其社会破坏性应具有高于一般公众的认知。其应当预见案涉反映某集团公司存在财务造假等违法情形的文章经公开传播后，足以影响该公司声誉，却疏于履行与其专业相匹配的注意义务，利用公众对其专业身份的信赖，将文章标注为“原创”，主观上存在误导公众认为文章系其专业分析成果的故意。
为此，法院认定，文章虽由AI生成，但曹某作为AI工具的使用者、案涉内容的发布者与传播者，是侵权风险的开启者和控制者，其未尽注意义务，客观上造成了某集团公司社会评价的降低，构成对某集团公司名誉权的侵害。
法官提醒：AI 生成内容的使用者与传播者，应对内容的真实性合法性负责
当前，人工智能在赋能内容创作的同时，也引发虚假信息泛滥的问题，对社会秩序、道德伦理产生冲击。经办法官朱晓瑾表示，虽然生成式AI具有自主性，但仍然是人类创作设计的结果，在应用阶段，使用者通过输入素材、设定指令、审核发布等行为，实质性介入和主导了内容的生成方向和传播范围，系侵权风险的开启者与控制者，应履行与其主体身份相当的注意义务。需要注意的是，生成式 AI 技术的发展，不改变内容发布者应承担的法定责任，也不能成为侵权行为的免责事由。AI 生成内容的使用者与传播者，应对内容的真实性、合法性负责，依法履行各环节对应的注意义务，尊重他人的合法权益。本案的裁判，也为 AI 使用者划定了清晰的行为边界，既筑牢了AI时代人格权保护的底线，也为技术创新的健康有序发展提供了明确指引。
专家点评：本案裁判填补AI使用者注意义务认定规则的空白
北京航空航天大学法学院副教授赵精武表示，本案裁判填补了AI使用者注意义务认定规则的空白，为同类案件审理提供了可参照的裁判思路，更为人工智能生成内容的创作与传播提供了清晰明确的法律指引，为生成式人工智能深度融入生产生活提供坚实的法治保障。
文、图/广州日报新花城记者：章程 通讯员：广互宣
