问题——生成式内容快速传播下，责任边界如何划定 随着生成式技术在内容生产领域广泛应用——信息生成门槛显著降低——部分网络账号将其用于“深度爆料”“长文复盘”，但由此引发的失实信息传播、名誉与商业信誉受损等纠纷也随之增多。此次广州互联网法院审理的案件，聚焦“以生成式内容为由能否免责”以及“使用者在生成与发布环节应承担何种注意义务”等核心问题，为规范网络内容生产与传播提供了重要裁判指引。 原因——输入失真、指令诱导、发布失审叠加放大侵害风险 法院查明，原告为国内某上市企业，其一名高管因涉嫌职务犯罪被依法逮捕。被告曹某运营财经类微信公众号，具有较强专业身份背书。其将一份约1700字的文档输入生成式应用，文档包含对原告公司及涉及的高管的多项“案情细节”和“经营违规”指控，如套取补贴、利益输送、财务异常、涉嫌造假等，并更下达“生成不低于1万字深度长文”的指令。生成内容最终形成逾1.5万字文章，并以“原创”方式发布，标题具有强烈指向性，文中对所谓“犯罪细节”作出大量细化描述。文章下架前阅读量超过1.1万次、转发逾千次。 经审理，上述输入材料中涉及原告公司及高管的关键内容缺乏合法有效证据和权威公开报道支撑，属于不实信息；生成内容标注的检索来源亦未能提供相应合法出处与有效佐证。法院据此认定，被告在三个环节存在明显缺失：一是生成前未核验输入材料真实性；二是使用扩写性、诱导性指令，客观上促使虚假信息“被包装为深度内容”；三是发布前未进行必要事实核查与过滤，放任虚假信息扩散。 影响——“幻觉风险”背景下，使用者合理注意义务更需被强调 生效裁判指出，基于生成式模型技术原理及当前发展水平，内容存在固有的“幻觉风险”，即模型可能输出看似完整、实则缺乏事实依据的叙述。因此，网络用户使用并传播生成内容，不能以“系机器生成”为由当然免责，而应承担与其行为能力、专业程度、传播范围相匹配的合理注意义务。 本案中，被告作为财经领域自媒体运营者，具有专业身份标签，且以“深度长文”“原创曝光”为呈现方式，易增强公众对内容真实性的信赖。一旦内容失实，对企业商业信誉、市场预期与相关主体权益可能造成更大负面外溢，甚至引发资本市场层面的误读与跟风传播。法院最终判令被告在涉案公众号发布致歉声明，并赔偿经济损失1万元，驳回原告其他诉求。该判决现已发生法律效力。 对策——从“生成”到“发布”全流程压实责任，建立可操作的合规机制 针对生成式内容带来的新型传播风险，司法实践传递出清晰信号：责任不因技术外衣而转移，关键在于是否尽到必要核实与审慎义务。对内容生产者而言，应从流程上建立“可核验、可追溯、可纠偏”的机制：一是对输入材料进行来源审查，涉及犯罪细节、财务造假、重大负面指控等，应以权威渠道与可核查证据为依据，避免以道听途说、未经证实文本作为“底稿”；二是谨慎设置生成指令，避免以扩写、推断、补全等方式将不确定信息“写实化”“细节化”；三是发布前开展事实复核与风险评估，对无法核实内容进行删减或明确标注不确定性，必要时停止发布；四是对可能造成重大社会影响的内容，建立更严格的审核与纠错机制，降低二次传播造成的损害。 对平台与行业而言，可改进显著标识、来源展示、纠错投诉、快速下架等治理工具，推动形成“技术便利与法律责任并行”的网络内容生态。 前景——规则将趋于细化，理性使用与依法表达是长期方向 可以预见，随着生成式内容在资讯、财经、评论等领域的渗透加深，涉“生成—传播—侵权”的纠纷仍将出现。司法裁判将不断细化对“合理注意义务”的衡量尺度，综合考虑主体专业性、内容敏感性、核验成本、传播规模与实际损害等因素，推动形成更具可预期性的规则框架。对自媒体从业者来说，提升事实核查能力与合规意识，将成为竞争力的一部分；对公众来说，亦需增强信息甄别能力，避免被“细节丰富的叙事”误导。
生成式AI的出现为信息创作带来了便利，但也带来了新的法律问题。本案的判决提示我们，技术的进步不应成为规避责任的理由。在享受AI便利的同时，使用者必须承担相应的法律义务。对拥有专业背景和公众影响力的内容创作者来说，该责任尤为重大。随着AI应用的普及，建立健全对应的的法律规范、明确使用者的权利义务边界，已成为当下的紧迫课题。这份判决书为此提供了有益的司法指引，也为整个社会如何与AI技术和谐相处提供了重要启示。