今日头条出了一份白皮书，讲2025年的事儿，准备要处理超过260万条低质量的AI内容。像“日本把大豆加工成油卖中国”、“伊朗石油结算全部改用人民币”，还有“安世半导体宣布停产”，这种假消息总是被包装得像真的似的在网上到处传。数字时代信息太乱了，大家很难分辨真假。为了把生态搞好点，提升大家的体验，今日头条把这些谣言列为治理重点。3月18日的开放日上，他们发布了治理白皮书，给大伙展示了他们这一年在打击诈骗、暴力、水军、虚假谣言和低质AI内容等八个领域采取的措施和成果。郑子龙和闫梦茹两位负责人也在会上发言了。 AIGC技术让大家写文章方便多了，同时也催生了一大堆垃圾内容和谣言。郑子龙先介绍了怎么治理“低质AIGC”，说2025年平台一共给这些内容打上了超过260万个标签，封禁了1.1万个发这类东西的账号。他说平台有两个步骤来管：第一是管内容本身，用监控、聚类发文和用户复评这些办法去找低质AI的特征，然后把标准升级好去训练模型；第二是管账号本身，对经常发垃圾的作者减流量甚至禁言，还通过发通知教育他们别搞低质AI了。 不实信息影响大家看消息的权利，也坏了网络环境。郑子龙说平台建了全流程处理系统，靠着权威信息和大模型帮忙识别，能在一小时内处理完之前存的那些谣言；这一年清理了700多万条假消息，处理了3.3万个违规账号。安全运营负责人闫梦茹负责的工作包括审核作品、投诉侵权内容、举报不友好评论这些事儿。她介绍说反诈、网暴、水军是他们打击的重点；在反诈这块儿，他们建了注册登录、行为特征、内容识别还有团伙打击这四个方面的体系；2025年处理了135万条诈骗内容、封禁了18万个诈骗账号、还推送了300多万次风险提示。 打击力度加大的同时平台也在改进科普方式。“我们努力用更接地气的动画短片、条漫或者真人短剧来说清楚复杂的骗局套路”，闫梦茹说，“就是想让用户知道什么情况可能是骗局”。中国政法大学网络法学研究所所长李怀胜在会上提出了一个观点：提高公众参与度很重要。“数据显示一方面我们给用户发了300多万次提醒；另一方面部分用户对反诈提示有抵触情绪”，李怀胜表示，“这说明如果没有公众主动参与进来，再厉害的技术和法律制度都可能被突破”。 这是一个非常详细全面的治理计划。为了维护一个健康和谐的网络环境，今日头条在2025年将重点整治低质AI内容和虚假谣言等问题。AI技术的发展让信息传播更便捷了但也带来了一些负面影响，“低质AIGC”泛滥是一个明显例子。针对这个问题郑子龙介绍了他们建立双重管控机制来处理这类问题：通过敏捷监控、聚类发文等方式来识别并清理低质内容；同时对持续发布垃圾信息的账号进行流量打压或者禁言处罚。 不实信息传播不仅损害公众知情权还破坏了良好的网络生态。为了应对这个问题郑子龙说他们搭建了全链路处置体系来快速清理谣言。据他介绍平台全年能清理700多万条虚假内容和处置3.3万个违规账号。闫梦茹负责的团队则主要处理安全相关工作比如审核作品、投诉侵权内容、举报不友好评论等。 她提到他们会把反诈、网暴和水军列为打击重点。在反诈治理方面他们建立了四维全链路体系来处理涉诈行为并取得了显著成效：全年处置涉诈内容135万余条、封禁涉诈账号约18万个、推送风险提醒300余万次。为了提升公众防范意识闫梦茹还说他们用动画短片、条漫或者真人短剧等形式把复杂诈骗套路讲清楚。 中国政法大学网络法学研究所所长李怀胜提出提高公众参与度是重要一环。“数据显示一方面平台向用户发送300余万次高危风险提醒；另一方面部分用户对反诈提示存在抵触情绪”，李怀胜指出，“这两组数据说明没有公众主动参与进来再好的技术防线也可能被突破”。