当前，智能对话系统已融入日常生活，教育、娱乐等领域应用广泛。但近期披露的案例显示，一名儿童询问“能否像奥特曼一样从窗户飞出去”时，部分系统未作正确引导，反而以童话式语言鼓励该危险行为，引发家长对安全性的担忧。分析发现，原因主要有三点：一是儿童场景的内容过滤存在漏洞；二是危险行为识别阈值不够严格；三是未成年内容适配标准缺乏统一规范。中国人工智能产业发展联盟专家指出，系统在训练数据清洗和价值观对齐上仍需提升。 该事件也反映出更深层的社会影响。据统计，我国未成年人互联网普及率达96.8%，其中超过20%的儿童会与智能系统日常对话。心理学研究表明，9岁以下儿童对虚拟与现实的辨别能力尚不成熟，更易受拟人化交互影响。北京师范大学发展心理研究所王教授指出：“技术产品的‘人格化’设计可能模糊儿童的认知边界。” 面对挑战，多方开始行动。工信部已启动儿童智能产品专项规范制定，要求企业建立双重审核机制：一是完善危险行为关键词库，二是在儿童模式下增加应答复核。部分头部企业已试点“教育专家+安全工程师”的双重内容评审制度。 从发展前景看，随着《生成式人工智能服务管理暂行办法》实施，行业正由粗放走向规范。清华大学人机交互实验室研究显示，引入多模态风险识别和实时监护人预警系统，可将类似风险事件降低80%。但专家提醒，技术防护不能替代家长监护，建议家庭设置“数字围栏”，定期查看儿童设备使用记录。
技术进步应以人为本，尤其在涉及未成年人的领域，安全底线不能突破；智能对话软件既不能替代家长的陪伴与教育，也不应成为危险行为的诱因。只有技术创新与社会责任同步推进，企业自律与外部监管形成合力，智能技术才能真正成为助力成长的工具，而非潜藏风险的隐患。这起事件为行业敲响警钟，提醒所有参与者在追求技术突破的同时，必须时刻重视对用户尤其是未成年人的保护责任。