最近，广州番禺有个小区的业主群里突然炸锅了。一张AI生成的假照片让大家误以为一个流浪汉闯进了某个12岁孩子家里。家长们吓得不轻，急忙给物业打电话，保安还忙着排查监控。可结果是，这个流浪汉其实是孩子用AI把自己家里的楼梯、扫帚和一张流浪汉照片合成的。 不仅广州有这种情况，安徽铜陵也发生过类似的事情。一位女子用AI软件做了一张“流浪汉躺倒在餐厅”的照片发给丈夫，丈夫信以为真，直接报警。警察出动排查，最后发现这是个恶作剧。这种闹剧全国各地都有上演，有的整栋楼被逐户敲门检查，有的亲属连夜赶回处理。 这种恶作剧的风潮最先从海外传来，通过TikTok和Snapchat这些社交软件传播开来。青少年们用这些软件里的AI功能一键生成假照片，发给父母看他们惊慌失措的样子。很快，TikTok上的#homelessmanprank标签下就有了1600多条视频，最高播放量甚至突破了8万。 这次事件不仅仅是国内的问题了。美国马萨诸塞州塞勒姆警方就发布公告说，TikTok上的内容已经导致很多人误报911电话。英国警方也接到了很多虚假报警电话。美国马里兰州一名女子因为伪造“家中有入侵者”的图片导致8辆警车出动被抓了起来。俄亥俄州两名未成年人因为生成AI图像引发恐慌被少年法庭起诉了。 浙江省嘉兴市有个男子用AI伪造“女儿被人抱走”的寻人启事并散布出去，结果被行政拘留了。北京市大道政通律师事务所合伙人韩鹏律师说，这种事情虽然看起来没什么大不了的，但却暴露了AI治理的问题。技术发展太快了，我们还没有做好准备去应对这些问题。我们需要加强青少年对AI的认识和教育，让他们知道这种恶作剧可能会带来严重后果。 总的来说，这次事件让我们看到了技术带来的巨大变革和挑战。我们必须面对这个问题并找到解决办法。法律和伦理需要跟得上技术的发展才能保持社会秩序稳定。