全球AI生成低质儿童内容泛滥引担忧 专家呼吁加强数字内容监管

问题——“儿童内容”被低质生成内容侵入,传播量级不容忽视。 近日,海外视频编辑与数据分析机构Kapwing发布报告称,在全球百大热门频道覆盖的儿童向内容中,存在相当比例的批量生成视频。部分作品通过重复模板、强刺激画面和碎片化叙事吸引停留与转发,累计观看量达数百亿次。涉及的内容常以“益智”“动画”“亲子”等标签出现,在推荐机制推动下快速触达低龄用户。一些视频情节荒诞、逻辑混乱,甚至夹杂不适宜元素,容易对儿童造成误导。 原因——流量收益驱动叠加算法推荐,催生“低成本高产出”产业链。 多位观察人士认为,此类内容扩散有其现实土壤:一是制作门槛显著降低,模板化剪辑、自动生成配音与画面等手段让内容生产更接近流水线;二是平台分发以点击、完播、停留等指标为核心,强刺激、快节奏、反常识叙事更容易获得推荐;三是变现路径清晰,包括广告分成、带货导流与账号矩阵运营等,形成以“量”取胜的商业模式。外媒也提到,有年轻创作者通过批量生产此类视频获得可观收入,深入强化逐利动机。 影响——对未成年人认知、注意力与价值判断带来多重隐患。 教育与心理领域研究指出,儿童处于认知与自控能力发展的关键阶段,更容易对高频刺激、快速切换的信息流产生依赖。澳大利亚格里菲斯大学团队基于大样本研究发现,过度沉浸短视频与注意力受损、记忆表现下降以及焦虑抑郁风险上升存在相关性。更需警惕的是,历史人物、艺术形象等被随意拼贴演绎后,真假边界被弱化,可能干扰青少年对事实与逻辑的基本判断。此前媒体调查也发现,部分所谓“奇幻科普”“猎奇动画”等内容存在规避审核、误入青少年模式的情况,说明现有防护仍有漏洞。 对策——压实平台主体责任,健全分级标识与审核机制,形成治理合力。 业内普遍认为,应坚持“未成年人优先保护”,推动治理从事后下架更多转向源头预防: 一是完善儿童内容准入与分级制度。对面向低龄用户的频道与视频实行更严格的身份认证、内容分级与醒目标识,明确“可看什么、怎么看、看多久”。 二是升级技术识别与审核策略。围绕批量生成、同质化模板、异常发布频率、诱导停留等特征建立风险模型与抽检机制;对疑似不适宜内容提高复核力度,降低“擦边”传播概率。 三是优化推荐逻辑与商业规则。对儿童向内容弱化“强刺激”导向,强化教育性、真实性与安全性评价;同时加大对利用未成年人注意力牟利的账号矩阵与灰色营销链条的处置力度。 四是强化家庭与学校的共同防护。家长应关注内容来源与观看习惯,合理设置时长、应用权限与年龄分级;学校可将媒介素养纳入教育引导,帮助学生建立区分虚构与事实、广告与内容的基本能力。 五是推动监管与行业协同。通过标准规范、执法联动与信息共享,推动平台定期披露未成年人保护数据与治理成效,提升透明度与社会监督力度。 前景——从“流量导向”转向“责任导向”,将成为平台竞争与社会治理新考题。 随着生成内容工具普及,网络内容供给还将持续增长。可以预见,仅靠人工审核难以应对规模化生产,治理需要走向“规则约束+技术识别+产品设计+社会共治”的系统方案。对平台而言,未成年人保护不应停留在模式切换和提示语上,而应落实到推荐机制、商业激励与风控体系的底层调整。对社会而言,围绕儿童内容的质量与安全建立更清晰的标准边界,将成为数字时代公共治理的重要议题。

未成年人保护的关键不在于与新技术对抗,而在于让技术在规则之内服务成长。当流量逻辑把目标转向更低龄、更缺乏防备的群体时,平台责任、监管力度与家庭陪伴都不能缺位。守护孩子的眼睛与心智,需要更清晰的制度边界、更严格的执行闭环,也需要全社会就“什么才适合孩子观看”形成共同底线。