3月2日,微信珊瑚安全发了个公告,说平台最近发现好多人在搞AI仿冒,“李鬼”们拿着伪造的形象和声音骗人引流。微信这次可没客气,把“第一时间从严处置”这话说得很坚决,还顺便升级了技术识别能力。这波动作直接把1.3万条违规内容和1200个账号给清除掉了。这次还曝光了好几个典型的“李鬼”案例,像那种用AI换脸冒充明星直播卖假货,或者发语音让人加微信领福利的套路。 为了让这种坏事再也跑不掉,微信打算持续迭代AI生成内容的识别模型,把那些伪造的人脸、语音还有文本全都纳入实时过滤的范围内。流程上也会优化,发现了违规线索马上取证并封禁,做到分钟级响应。至于咱们用户,面对“××明星喊你领钱”的消息千万别轻信,更别随便转发。万一发现了猫腻,直接点平台的投诉按钮举报就完事了。 以后大家遇到疑似仿冒的号可以留意三点:先看账号主体是不是跟名人完全一致,这种多半有问题;再听语音有没有鼻音或者气息变化,AI合成的声音通常很生硬没有感情波动;还有就是对那种“限时红包”“专属福利”别急着点确认或转账,先放着几分钟看看是不是真的。 这事儿还没完呢,随着大模型越来越普及,以后利用技术漏洞搞诈骗和谣言的风险会大得吓人。微信这次打击“李鬼”就是在给大家提个醒:技术再先进也不能拿来当犯法的挡箭牌;每个人手里的力量虽然小,但聚在一起就是清理网络乱象的大杀器。只有平台、技术还有用户三方一起使劲儿,才能让网络空间既干净又安全。