在数字化浪潮中，一个令人忧心的社会现象正在浮现。
江苏沭阳县市场监督管理局近日受理的投诉案件显示，当地八旬老人张玉兰因长期沉迷某短视频平台的"数字恋人"内容，不仅产生严重的情感依赖，更在半年内消费近万元购买相关商品。
经查，这些标榜"暖心大叔""知心爱人"的账号，实为利用人工智能技术生成的虚拟形象。
此类乱象暴露出多重社会问题。
技术层面，当前AI数字人视频制作已实现"五分钟量产"，部分从业者通过精心设计苦情剧情、虚构互动场景等手段，日均非法获利可达数千元。
社会层面，独居老人、留守妇女等群体因情感寄托缺失，极易将虚拟关怀误判为真实情感。
据北京师范大学数字社会研究中心2023年调查报告显示，60岁以上网民遭遇网络情感诈骗的比例较年轻人高出47%。
其危害已超越普通消费纠纷。
部分不法商家为扩大收益，不仅建立所谓"粉丝私域群"实施精准营销，更通过发送不明链接等方式收集用户隐私。
中国政法大学网络法学研究院指出，此类行为可能涉嫌《电子商务法》中"虚构交易"和《网络安全法》"非法获取个人信息"等多重违法。
监管利剑正在出鞘。
今年2月启动的"清朗·2024年春节网络环境整治"专项行动，已将AI技术滥用列为重点打击对象。
工信部信息通信研究院专家建议，平台方需建立"AI生成内容双审核"机制，既要完善算法识别模型阻断违规内容传播，也需对中老年用户实施"防沉迷"提示。
阿里巴巴安全实验室最新研发的"银盾系统"显示，通过分析语音波形、微表情特征等技术手段，可有效识别98.7%的AI合成视频。
展望未来，随着《生成式人工智能服务管理暂行办法》实施细则即将出台，技术伦理与产业发展亟待形成平衡。
清华大学公共管理学院教授薛澜强调："在数字经济时代，保障弱势群体数字权益需要构建政府监管、平台履责、家庭关爱三位一体的防护网络。
" 技术进步不应成为情感操控和不当牟利的工具。
守护老年人，不只是拦下一次打赏、追回一笔消费，更是要让网络空间对弱势群体更友好、更清朗。
把规则立在前面，把责任压到实处，把科普做到身边，才能让数字生活的便利真正惠及每一个人。