最高法披露电信诈骗典型案例:声音克隆技术成新型犯罪工具

问题:深度合成“拟声”诈骗向老年群体延伸,欺骗性明显增强 最高人民法院披露的典型案例显示,2023年4月,湖北黄石3位老人接到“亲属”电话后,因对方声音与“孙子”高度相似而放松警惕;在对方以“急事用钱”等话术催促下,3人交付现金共计6万元。经查,不法分子利用人工智能拟声技术克隆特定声音,制造“熟人来电”假象实施诈骗。最终,涉案人员以诈骗罪被判处有期徒刑二年一个月。该案反映出新趋势:深度合成技术正从娱乐用途转向犯罪工具,被嵌入电信网络诈骗链条,目标也更多指向信息辨识能力相对薄弱、情感依赖更强的老年群体。 原因:技术门槛下降叠加信息泄露与话术操控,催生“以假乱真” 一段时间以来,社会上频现专家、运动员、演艺人员“被合成”的事件,说明深度合成已具备从图像到声音的高仿真能力。其被用于诈骗,往往是多种因素共同作用:其一,涉及的工具获取容易、操作简化,使不法分子能在较短时间内生成高相似度音频;其二,个人信息泄露为“精准冒充”提供条件,诈骗分子通过社交平台、短视频、通讯录关系等拼接受害人家庭结构与亲属称谓,提高“叫得准、说得像”的成功率;其三,电信网络诈骗已形成分工清晰的链条,从引流、话术、技术支持到取现、转移赃款环环相扣,深度合成只是新增的手段之一;其四,老年人对新技术了解有限,遇到突发情境更易被情绪带动,在“别告诉家里人”“马上要交钱”“出事了很急”等压迫性话术下更容易作出错误判断。 影响:不仅带来财产损失,也冲击社会信任并抬高治理成本 从个人层面看,受害者往往同时承受经济损失与心理压力,部分老人因自责、焦虑影响正常生活。从社会层面看,深度合成“冒充熟人”突破了传统识骗经验,削弱人际交往中的基本信任,甚至可能引发“听到也不敢信”的信任危机。同时,诈骗方式由线上转向线下交付现金、上门取现等,继续增加发现难度与取证成本,对基层治理、金融风控和平台管理提出更高要求。 对策:依法严惩与全链条治理并重,线上线下同步设防 一是以司法公开释法形成震慑。最高法公布典型案例,有助于明确利用深度合成实施诈骗同样要依法严惩,释放“技术不是挡箭牌”的明确信号。各地应持续加大对电信网络诈骗及上下游犯罪的打击力度,紧盯提供技术支持、倒卖公民个人信息、协助转移赃款等关键环节,依法追责,深挖彻查。 二是推动平台与技术提供方落实安全责任。对深度合成相关应用和内容分发平台,应完善风险提示、权限管理与异常行为识别机制,加强对可疑账号、异常上传、批量生成等行为的处置;探索推进合成内容标识、溯源水印、声音合成权限分级等更可落地的行业规范,提升识别与追踪能力。 三是强化支付与取现环节协同防控。电信网络诈骗链条长,治理需覆盖资金流转全过程。银行、支付机构应扩大异常转账预警、延时到账等措施的适用范围;针对老年客户大额取现、频繁转账等高风险行为,优化人工核验与反诈劝阻流程。对“线上指令、线下交付”的现金交付场景,公安、社区与金融机构可建立联动机制,提高现场劝阻与快速处置效率。 四是把宣传教育落到家庭与社区。防范此类诈骗,关键是建立“二次确认”习惯:凡涉及借钱、转账、取现,务必通过原有联系方式回拨核实,或与家人、社区工作人员当面确认;家庭成员可帮助老人设置来电显示、反诈提醒,减少陌生号码干扰;社区可结合典型案例开展针对性宣讲,推动“关键话术识别”“紧急情境先核验再处理”等常识真正被记住、用得上。 前景:用技术治理对冲技术滥用,形成可持续的反诈体系 随着深度合成能力持续迭代,治理方式也要同步升级:一上,以法治为底线,通过监管规则与执法协作压缩黑灰产业空间;另一方面,用技术手段反制技术滥用,在身份核验、内容标识、风险识别、资金预警等环节形成多点防线。同时推进社会层面的数字素养建设,让公众尤其是老年群体逐步掌握必要的识别方法与求助渠道,才能在技术快速变化中更有安全感与确定性。

技术进步带来便利,也对治理提出新挑战。面对智能技术被用于诈骗的现实,需要政府、企业、社会组织和公众共同参与,建立分层防护、协同联动的反诈体系。在推动创新的同时守住安全底线,才能让科技更好服务社会,让老年群体在数字生活中更安心、更有获得感。这既关乎技术伦理,也关乎更安全、更有序的社会运行。