2023年，中央网信办为整治AI技术滥用乱象启动了“清朗行动”。这个行动的目的是要从源头上堵住不良视频的传播。江苏省宿迁市沭阳县市场监督管理局已经受理了一起涉及老年人受骗的投诉。这位84岁的老人叫张玉兰，她每天要花近十个小时刷短视频，还给一个名叫“建国”的AI霸总写情书。小海是张玉兰的亲人。为了和这个“建国”聊天，张玉兰在视频号上买了很多东西。她说这些东西虽然价格便宜但质量很差。她一个月在这个方面花掉了七八千元。 最近，很多老人的家属发现老人的手机里充满了各类AI霸总的视频。这些视频被精准推送给缺乏情感关爱的中老年女性。张玉兰在给建国的情书中写道：“建国，春节快乐！先给你赔礼道歉，我那天伤害了你。”她说她一直在自责。 张玉兰给这个“建国”写了一封五百字的情书。其实这个“建国”只是一个AI数字人。和张玉兰聊天的人其实不是真实存在的。商家为了吸引她的注意给她发送了不明链接。 这些AI视频通常只用5分钟就能制作出来。一个从业者一天就能赚到几千元收入。一些“AI霸总”建立了专属粉丝群来积累私域流量。 有个售价99元的女士手镯销售页面上，一个“AI霸总”正在演苦情戏：“姐姐你快过来，我们差点就陷入阴谋。如果不是我开公司想接你回家过好日子……” 这种骗术之所以能成功是因为中老年人更容易相信“眼见为实”。同时，AI数字人在短视频平台上的大量使用也让黑灰产有机可乘。专家建议通过建立负样本库来阻止不良视频生成。 目前张玉兰已经把这个商家投诉到了12315平台上。商家所在地的监管部门已经受理了此事。