小红书这次决定给那些没标明AI生成的内容打个“预防针”。2月12日,他们正式宣布要把未主动标识的AI合成内容进行限流,这背后其实是因为最近收到不少举报,有人用AI技术去伪造明星的形象或者做假视频。这种没经过本人允许就发出来的东西,不仅侵犯了公众人物的权益,还因为很多人不知道是AI做的,导致社区里的信任度变差。小红书希望大家在发这类图文或视频时,一定要把AI生成的标签加上,这样大家看了才不会被误导。把制作手段标注出来并不会让作品掉价,反而能让交流更透明。按照国家规定,小红书以后会加大对这类内容的识别力度,如果创作者在发布的时候没主动标记,平台会根据检测结果帮忙添上标签。对于那些制作虚假信息、魔改经典作品或者传播不良价值观的内容,还有教别人怎么把AI标签去掉的教程,平台都会严厉打击。 紧接着在2月12日,“网信中国”微信公众号也发了通知说最近有很多账号发AI内容却不做标记,导致大家上当受骗,破坏了网络环境。网信部门就督促各个网站平台赶紧整治。这次行动总共封了13421个账号,清理了54.3万条违规信息。 通报里提到了几个典型例子:像微博上的“澄馫”、快手上的“玲子爱狗狗”和哔哩哔哩上的“空空说电影”,他们在发狗救婴儿、拆炸弹救人或者鳄鱼伤人的视频时都没加AI标签,故意编些感人或猎奇的故事骗流量。这些账号已经被依法处置了。 还有微信上的“浮萍9419”、微博上的“乘风已归来”和快手上的“东东情感”,他们用AI换脸或者克隆声音的手段假冒运动员、演员、主持人或企业家说话,或者直接卖那种AI生成的送祝福视频赚钱。这些也都被封掉了。 抖音上的“巷子里的鱼”、“禾粟”还有快手上的“朵姐正能量”、“小猪猪”则是用AI伪造火灾现场的图片和视频去炒作事故、扰乱公共秩序。 哔哩哔哩上的“真难我知道”、抖音上的“小奥特曼大智慧”还有百度上的“清崽影视”更是拿AI去改动画角色,把小马宝莉的头给砍了或者让奥特曼怀孕这种血腥暴力的视频传播出去。 还有小红书里的“浪淘达人”、“南坤的店”之类的账号在教别人怎么去水印去掉AI标签,还有淘宝、闲鱼、拼多多上的“浙江智意AI”、“鼎建祥旗舰店”在卖这些教程和软件。 接下来网信部门还会对那些没标标签的假信息保持高压严管的状态,发现一个就处理一个。同时也呼吁大家按规定给作品做标记。 特别值得注意的是,中央网信办为了让大家过个好年,决定从2月12日开始搞一个为期一个月的“清朗·2026年营造喜庆祥和春节网络环境”专项行动。这次行动主要是要整治四类问题:一是利用AI等新技术批量生成那种逻辑混乱、没内容、一模一样的低质内容;二是用AI去恶搞经典动画片和影视作品植入低俗暴力东西;三是对文学名著和历史典故进行歪曲改动;四是炮制那种渲染家庭矛盾、姐弟打架之类的剧情来吸粉;五是用AI生成那种鸡汤文章或者霸总剧来影响网民的判断。