最近闹得沸沸扬扬的国内AI幻觉第一案可有意思了。你敢信吗？AI居然能跟你瞎聊？最近有两起案子都在法庭上闹得挺凶，咱一块聊聊吧。第一个案子是杭州互联网法院判的。2025年6月，梁某用一个AI工具查高校报考信息，结果AI给的信息全是错的。梁某指出错误后，AI竟然死活不认账。直到梁某把高校官方信息给它看，它才承认自己弄错了。这下梁某不干了，觉得自己被误导了，要找AI运营商赔钱。他要求赔9999元呢。梁某的理由很充分：AI乱说话误导人，让我多花了冤枉钱。但被告方就说了，内容是模型自动生成的，跟平台没关系。他们还说自己已经尽到义务了，没过错。关键是梁某也没真有啥实际损失。结果法院一审就把他的请求给驳回了，双方都没上诉。所以说，目前AI公司暂时还不用为这种幻觉担全责——只要没说违法的话，公司还能弄点技术措施糊弄一下。 再看看第二个案子。2月6日那天北京海淀区人民法院开庭了，这可是AI侵犯名誉权的头一回啊！原告是个律师，被告是北京百度网讯科技有限公司。2025年5月的时候黄律师查百度发现有几条关于他的严重假消息：什么威胁法官、介绍贿赂、伪造印章、非法吸收公众存款之类的刑事罪名全被人捏造了出来。有人把这些假消息传给他正代理的案子的委托人和家属去看，把他给害惨了。黄律师要求百度公司立刻停止侵权、发澄清声明、赔100万元信誉损失还有5万元精神损失费。百度那边在庭上说人工智能既不是自然人也不是法人，他们提供的只是中立技术服务没发布什么诽谤的话；而且他们还辩解AI幻觉不可避免：这事儿是人工智能自己干的、还说可能是原告搜多了高频词才导致的幻觉；AI没有故意这么干这是行业通病以后会慢慢好的。 这两个案子其实都在问一个问题：AI胡说八道到底算谁的？杭州那边的判决算是回答了这个问题：AI说的话算不算平台的意思呢？法院的回答挺克制：现在的法律下AI还不算民事主体、也不是平台代理人。所以平台抗辩的理由通常就来了：哪怕AI在聊天里说要赔10万元那也只是模型生成的话、根本不算法律上的承诺。不过这也不代表平台就完全没事了责任还得看具体情况：有没有违法有害信息、有没有风险提示、有没有防控措施、有没有管理疏忽、有没有实际损害……这两起案子算是划出了个早期的边界：AI不能独立担责但平台也不能当甩手掌柜。 但真正让人头疼的事儿还在后头以后肯定会有更复杂的场景出现：比如AI金融计算出错、AI医疗误导人、AI投资建议不靠谱、AI法律意见犯迷糊、AI自动编企业的坏话或者指导生产系统犯了错……到时候你再拿“AI没有主体资格”或者“行业通病”来搪塞还能用吗？