前不久,中央网信办等部门还专门针对这些情况搞了清理行动,消灭了不少违规的账号和产品。 不过要想真正堵住这方面的漏洞,还得靠大家齐心协力。做平台的得守好自己的地盘,必须严格按规定给AI生成的内容做上明显的标志,还要用技术手段去盯梢和封禁那些搞诈骗的号。 做子女的平时也得多花点时间回家看看,亲情的陪伴才是最管用的防骗软件。平时多关心一下老人的精神生活,帮他们找点健康的兴趣爱好,把情感上的空虚填一填。 顺便再用老人们能听得懂的方式,好好给他们科普一下AI诈骗的常见招数。 老人自己心里也得有根弦儿,记住“三不”原则:不轻信网络上那些看起来太完美的人设和莫名其妙的热情;不转账汇款,不管对方编什么急事都不要给陌生账户转钱;不泄露个人信息和家庭情况。 技术本来是为了让生活变得更好的,可现在却被坏人用来设陷阱。 当AI造出的那些完美幻象盯上了人性中的孤独和善良,我们需要做的不仅仅是靠法律严惩和技术对抗,更得让全社会多关心一下老年人的精神世界。 别让咱们的爸妈在数字世界里成了最容易被人套路的猎物。 除了这些,骗子们还在很多交易平台上贩卖那些换脸或者克隆声音的教程和服务,价格甚至能低到1元。 这就意味着那些搞诈骗的人可以像开工厂一样批量生产各种量身定做的“完美人设”。 比如温柔体贴的“弟弟”、事业有成的“霸总”、学识渊博的“老中医”、还有投资特别精准的“理财大师”。 他们24小时都在网上盯着屏幕前的“姐姐”、“阿姨”们进行情感轰炸和洗脑。 那么为什么老年人总是掉进这个“电子围猎”的坑里呢? 其实技术只是工具,真正让骗局得逞的原因是它精准地击中了老年人情感上的软肋。 很多老年人在现实生活中孤独又缺乏陪伴,特别是那些独居或者丧偶的老人。 这些AI数字人给他们提供的正是这种稀缺的、无条件的“情绪价值”。 一句句“姐姐辛苦了”、“妈妈我想你”,很容易就让孤独的心产生依赖和信任。 再加上老年人对现在发展飞快的AI技术普遍不太懂。 他们过去总觉得“有图有真相”、“眼见为实”,看到逼真的视频或者听到熟悉的声音(甚至可能是用AI克隆的亲人声音),就很难相信这都是假的。 更别提那些专门为了骗钱而设计的“杀猪盘”话术了。 这些数字人背后都有一套深谙老年人心理的运营团队在操作。 他们先跟老人建立起亲密关系,然后制造出各种焦虑或者展示自己的“脆弱”(比如事业受挫、需要支持),最后顺理成章地把老人引导到打赏、购物或者所谓的“投资”上。 这就比单纯骗钱还要狠得多,简直是在“诛心”。 这些骗局造成的危害不仅仅是钱没了,更是盗窃了老人最珍贵的情感寄托,破坏了家庭成员之间的信任。 等到子女想帮他们揭穿骗局的时候,老人们往往会觉得自己的家人在阻挠自己的“幸福”,这就容易导致家庭关系变得紧张。 还有更可怕的是一些骗局会诱导老人去下载诈骗App、泄露个人信息,甚至去搞网络贷款,这就会造成二次伤害。 律师说利用AI数字人虚构身份、情感诱导骗取钱财完全符合诈骗罪的构成要件。 针对老年人这个特殊群体,哪怕金额达不到一般标准的诈骗罪标准,因为情节恶劣也有可能被立案侦查。 既然法律的利剑已经出鞘了,那么防范这件事就得靠多方合力了。 我们来看一下这个具体的例子:一位84岁的奶奶正对着手机屏幕一笔一划地写信给一个她素未谋面的“东东弟弟”。 信里充满了思念之情,她还为最近在他店里买得少了而道歉。 但其实这个让她魂牵梦萦的“弟弟”根本没有血肉和心跳,他只是一个由代码驱动、24小时在短视频平台直播的AI数字人。 这个数字人的唯一目的就是诱导像奶奶这样的老年人给他点赞、打赏,然后把人带进店铺去买那些价格虚高、质量低劣的东西。 这还不是个例呢,最近这种利用AI数字人专门针对老年人搞情感围猎和消费诱导的新型骗局被曝光出来不少。 有奶奶为了屏幕里那个英俊多金的“霸总”人设花了近万元;还有老人被“AI孙子”哭诉感动得慌忙去银行取钱“救急”。 在黑灰产链条的另一端,从业者却轻松地表示只需要五分钟就能生成一个逼真的数字人视频,轻轻松松就能日入2000元。 你能想象这背后是一场怎样精心策划的“数字狩猎”吗?五分钟就能造一个“完美伴侣”,这些情感流水线批量生产的让老人深信不疑的“弟弟”、“儿子”或者“专家”,究竟是怎么制造出来的呢? 经过调查发现这门生意的门槛低得惊人:有一家数字人直播服务公司明码标价说克隆一个主播的形象和声音打造一个“数字人直播间”只需要4980元;花9800元就能开通10个实现批量复制。 这就意味着骗子们可以像开工厂一样批量生产各种量身定制的“完美人设”。