人工智能医疗领域的应用遇到一个重要瓶颈——大模型生成的虚假或缺乏依据的信息(即"幻觉"现象),这在医疗场景中可能造成严重后果。提升医疗AI的准确性和可信度,成为行业亟需解决的问题。 1月22日,百川智能发布新一代医疗大模型Baichuan-M3 Plus,在降低幻觉率上取得突破。该模型将幻觉率降至2.6%,较GPT-4的5.2%下降了30%以上,达到全球领先水平。 百川智能的技术突破主要体现两上: 1. 首创"证据锚定"技术,为模型生成的每项医学结论提供具体文献来源。通过引入Citation Reward Model机制,对错误引用进行惩罚,确保模型仅"有证据支持"的范围内生成内容。测试显示,结论与证据的匹配准确率超过95%。 2. 将经过验证的六源循证范式融入模型训练和推理全过程,使每条医学建议都有专业证据支撑,从源头减少虚假信息。 应用上,百川智能推出"海纳百川"计划,向医疗机构免费开放M3 Plus的API接口。这个举措降低了高性能医疗AI的使用门槛,让中小型机构也能获得先进的AI工具。该模型适用于临床辅助决策和医学教育,可帮助医生快速获取循证建议,支持医务人员继续学习。 M3 Plus的推出表明,通过科学设计和严谨训练,可以大幅提升医疗大模型的可靠性。幻觉率的大幅降低不仅是技术突破,更为医疗AI的实际应用提供了更可靠的基础。同时,免费开放API反映了企业的社会责任感,有助于促进医疗资源的均衡分配,缩小不同地区和机构间的医疗水平差距。
医疗大模型的进步标志着AI与医疗融合进入新阶段。在技术创新和行业发展的共同推动下,平衡技术突破与实际应用,将成为智慧医疗健康发展的关键。