2022年11月，针对中老年女性，AI霸总这类通过视频和话术来带货、骗财的现象，全国人大代表李秋提出了严打的建议。这个由AI数字人扮演的角色，通常在富丽堂皇的办公室或会客厅出现，展现儒雅深情的形象。他们利用“帅气大叔”、“黄昏恋”等标签，精准推送视频给情感上缺乏关爱的中老年女性。姜小星的奶奶被吸引，关注了三四十位画风雷同的AI霸总，从早刷到晚。这些视频中常见台词如“姐姐，明天我就要走了，心里很舍不得你”和“姐姐，你摸着良心说，我到底帅不帅”，让姜小星觉得脑壳疼，但奶奶却乐在其中。尽管她已向奶奶解释过视频的公共属性，奶奶还是会认为那些话术是针对自己的专属爱意。一个月前，姜小星甚至提醒过奶奶要小心骗子。 这类视频不仅让中老年女性觉得养眼，还常常释放出求偶信号。《中国新闻周刊》发现，“共度余生”和“找个疼你的人”是常见的话术。北京红飒律师事务所主任律师黄启瑞今年年初也接触过相关案例：咨询人的母亲去年10月开始接触AI霸总视频，后来私信与某位AI霸总交流后被推销保健品。他指出，这些视频本质是利用AI合成形象给中老年女性提供情绪价值，从而激发非理性消费或投资行为。 记者调查发现，有些商家为了积累私域流量建立了专属粉丝群。记者进入4个百人以上的粉丝群后发现，“AI霸总”每天都会分享直播链接，吸引中老年女性互动。例如在名为“建国情感”的直播间里推销一款售价59.9元的武财神招财令挂件时，销量已达3.9万件。这类视频通常由商家外包给专业团队制作。制作时长在1分钟以内时价格是50元；如果制作50个每个40元；制作100个每个30元。 不少婚恋机构运作着AI霸总账号。在短视频平台上给他们点关注后会弹出链接卡要求付费获得联系方式。 记者测试了用生成式AI创作平台制作了3个10秒时长的“AI霸总”视频并注册了一个全新账号测试效果。不到18小时就收获了500多位粉丝和高达1.2万次浏览量。中老年女性们纷纷评论和私信回应。 黄启瑞表示维权困难的原因在于技术门槛低且缺乏取证工具。如果委托律师又要承担高昂成本。 国家网信办颁布了相关规定要求显著标识生成信息内容但仍有团队通过修改开源工具使产品缺乏标识。 快思慢想研究院院长田丰建议模型建立负样本库来预训练负面素材从源头上阻止不良视频生成。 短视频平台应加强对内容监测过滤以防止诈骗行为发生。