近日，一起由AI搜索回答引发的名誉侵权案件，引发社会广泛关注。南京律师李小亮发现，在百度手机App、百度网站搜索其个人姓名+职务时，百度“AI智能回答”竟然给出“李小亮律师被判三年有期徒刑”的错误文字内容，并配上他着律师袍的照片。南京市江北新区人民法院一审认定百度公司行为构成名誉侵权，判令其书面道歉。二审庭审中，百度公司提出，没有办法预见人工智能会产生何种结果。李小亮其实采用了大量的诱导性提问，而这给人工智能产生了一种错误的幻觉。最终，法院二审驳回上诉，维持原判。这个案件蕴含了一个很有价值的问题：当人工智能以高度拟人化、权威化的方式输出错误信息，并造成他人权利损害时，AI幻觉能否成为平台免责的理由？
答案当然不是简单地由AI来负责。人工智能没有独立的民事主体资格，不能作为意思表示的传达人、代理人或代表人，也不能成为平台逃避责任的背锅侠。AI智能的主动加工行为，已不再是传统搜索引擎的信息搬运。平台作为内容的生成者和发布者，理应对其负责。因此，只要AI进入公共传播空间，并可能影响公民名誉、隐私、财产乃至公共安全，就不能把损害后果简单推给技术本身的局限性或者偶然性，平台也不能仅以“AI幻觉难以避免”为由排除自身注意义务。
这并不是否认技术发展的复杂性，而是让有能力控制风险的主体承担相应的注意义务。谁更能预见、阻断、纠正和救济，谁就应承担更高程度的责任。AI大模型确有可能生成看似流畅却并不真实的内容，“幻觉”也是当前生成式AI难以完全消除的技术风险。但技术风险的存在，并不等于法律责任的消失。恰恰因为平台知道AI可能出错，才更应在高风险场景中建立“防范—纠错”机制。尤其在涉及姓名、照片、犯罪、处罚、财务造假、医疗建议等敏感内容时，系统应设置更高阈值，能核验的必须核验，不能核验的应当提示不确定性。对明显贬损人格权益的内容，则应限制生成、延迟展示或进入人工复核流程。技术错误可以理解，权利损害不能转嫁。
第一，AI只是工具，不是民事责任主体，责任必须由工具背后的人承担，并且需要建立一套贯穿开发、部署、使用、传播、救济全过程的责任链条。责任的分配，应遵循控制能力与注意义务相匹配的原则。谁对AI系统的设计、训练、部署、输出和传播具有更强控制能力，谁就应承担更高的风险防范、内容核验、显著提示、及时纠错和损害救济义务；谁故意诱导、加工或传播虚假内容，也应对由此造成的损害承担相应责任。
若平台设计、训练、部署和运营了面向公众的AI服务，并从流量、用户黏性和商业服务中获益，就应承担与其控制能力相匹配的审查、提示、纠错和救济义务。若用户故意输入虚假材料、诱导AI扩写并公开传播不实内容，用户同样不能以“文章是AI生成”为由免责。使用者在生成和传播AI内容时负有合理注意义务，明知或应知内容缺乏事实依据而仍予发布，造成他人声誉损害的，应当承担相应法律责任。
第二，从根本上解决AI造谣的问题，不能只靠事后的法律追责，而需构建一个由政府、企业和公众共同参与的多元共治体系。
在政府层面，治理重点应把规则转化为可执行、可检查、可追责的操作机制。我国已经出台了《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《人工智能科技伦理审查与服务办法（试行）》《人工智能应用伦理安全指引1.0》等一系列法规和标准。下一步，应进一步细化高风险场景下的注意义务标准，明确平台在事实核验、显著提示、人工复核、投诉响应、证据保存等方面的实施落地要求，同时推动典型案例公开和行业标准落地，让企业知道红线在哪里，也让公众知道如何维权。
在企业层面，应把减少幻觉从产品优化问题提升为合规底线问题。对于涉及人格权益和公共利益的信息，应完善AI训练数据治理、敏感实体识别、事实核验、生成标识、日志留存、投诉处理和损害补救机制。尤其在AI搜索、智能问答、财经资讯、医疗健康、教育升学等场景中，不能把即时回答的效率置于真实性和安全性之上。
在公众层面，AI素养正在成为数字时代的基本能力，要有意识地去提升自身的AI素养，主动学习AI运作的基本逻辑、技术局限和使用边界。面对AI生成内容，既不必盲信，也不必恐惧。普通用户应认识到，AI回答可能不是事实本身，搜索结果也不必然等于权威结论。涉及他人名誉、商业信誉、医疗健康、投资决策等重要事项时，应主动核验来源，避免二次传播未经证实的信息。一旦发现个人权益受到AI生成内容侵害，应及时依法寻求平台投诉、行政监管或司法救济。
人工智能正在深刻改变信息生产和知识获取方式。它带来效率，也带来新的风险；它扩展人的能力，也放大人的疏忽、偏见和逐利冲动。越是在技术快速演进之时，越要守住人的主体地位和权利边界。AI可能造谣，但责任不能跟着失语。让创新在合规轨道上前行，让平台把技术能力转化为责任能力，承担与其技术优势和社会影响力相匹配的公共责任，让每一个普通人在智能时代更有安全感，这才是生成式人工智能健康发展的应有之义。
胡晓萌 陈颜（作者分别系广州大学国家治理现代化研究中心研究员和该中心硕士研究生）
