全国政协委员、浙江大学医学院附属第二医院院长王建安这次来开会，心里最惦记的就是怎么给AI医疗弄个绝对安全的大靠山。他常说，人工智能现在是真的把医疗健康搞得大变样了。不过他也提醒大家，毕竟医疗这块儿太专业、风险高，还有伦理问题，要是安全底线守不住，那可就麻烦了，最轻也是看病不准，最严重还能把人命给搭进去。王建安委员是中国科学院院士，他觉得AI给咱们看病带来的好处太大了，绝对是咱们在医疗上甩开别人、冲到前面的机会。咱们现在公立医院搞得好，体制机制挺强，各个医院的技术底子也很厚实，只要加上AI的力量，以后肯定能领跑全球。 官方机构都预测说，到了2030年前后，全球AI医疗的市场规模能到3万亿元这么大，每年增长的速度还能保持在30%以上。虽说前景看着挺美，但风险也不小。王建安在外面调研的时候就发现了好几个问题：算法说不清楚道理，医生就像看黑箱一样看不懂结果；数据保护得不好，人家稍微分析一下就能把人给认出来；平时运行的时候也没人管着。 而且现在黑客也把AI系统当成了好东西去攻击，他们可以用对抗样本或者乱改参数的方式来捣乱，直接把诊断结果搞坏。为了对付这些事儿，王建安觉得咱们得搞个强制标准，把“能解释清楚、能追根溯源、能审核”这几个点作为高风险产品必须具备的硬条件。同时还得把数据管严实了，分好类、分好级。现在用的联邦学习和差分隐私这些技术就不错，能让数据“用得着看不见”。还得建立一个从研发到上线再到报废的全生命周期监管体系，把AI医疗当作基础设施的一部分重点保护起来。 “光有AI可不行，”王建安强调说，“得让它真的安全可靠才行。”最后他总结道，咱们要时刻想着病人的健康，把这个底座给打牢了，才能让技术创新实实在在地造福百姓。