吴梦楠这位来自携程集团的副总编辑，拿旅游行业里垂直的大模型“问道”举了个例子。用户最看重的是内容安全，它直接决定了大家敢不敢用大模型。哪怕只是极小概率出错，辛辛苦苦建立的用户信任也会受损。企业给大模型搭了个防护体系，把被动防御变成了主动干预。在长宁区，市场监督管理局网监科的人也在探索用AI监管AI。直播带货的内容靠人工盯人根本管不过来，他们弄了个智慧监管系统，把复杂的直播内容整理成了好懂的“数据货架”。比如某品牌在带货时说能改善眼周暗沉，系统就会把这句话喂给AI大模型。经过比对备案功效和宣传内容，AI能指出是不是“普通化妆品宣传特殊化妆品的功效”，再交给人工复核。每一条复核数据都会反过来教给AI学习。这套系统刚上线时准确率只有40%，现在已经涨到了72%。 在这个活动上，专家们讨论了立法要不要先缓一缓的问题。上海交通大学凯原法学院的李学尧教授就说，立法确实很重要，但也不是必须马上通过立法来推进治理。现在的司法裁判和产业监管常常面临一个矛盾：是要先保护好权利还是得稍微容忍一下新业态发展？不少人觉得得靠体系性立法系统性地解决这个问题，但李学尧建议别太着急搞一部统一的“人工智能基本法”，不如先把现有的相关法规规章修一修，搞点弹性的政策工具出来解决具体问题。因为立法修改通常要等三五年时间，可现在AI技术迭代都是按月计算的，这种不匹配很容易拖慢产业发展。他鼓励地方法院多积累案例经验，在数字治理中多发挥作用。司法程序相对立法来说更直接快捷，能更快发现漏洞和制度需求。各地对案子的判决手势不一样，也能倒推出兼顾权利保障和产业发展的办法。当然了，“试错”肯定会付出代价，比如企业可能会对某个地方的营商环境产生质疑甚至搞制度套利。 同济大学政治与国际关系学院副院长鲁传颖教授也提到了这事儿。他说政府也没法立刻给不断变化的事物提供最准确的指引。企业得自己多研究多沟通，甚至主动和监管者聊聊思路和探索空间。“用技术打败技术”本身就是个破题思路。事实上美国加利福尼亚州州长否决了监管大模型的立法，鼓励企业搞“软法”创新。中国也有企业在摸索类似的安全自我监管制度了。 鲁传颖认为“软法”治理很重要。在国际上这种方式有一个表现就是各种大模型企业自己摸索出一套多元化的安全治理体系。李学尧解释说这种“软法”治理方式值得参考。这次活动在中国上海举行，由上海市人工智能与社会发展研究会主办，并且请到了吴梦楠、李学尧还有鲁传颖这几位专家学者来讲。长宁区市场监督管理局网监科负责人也分享了他们的智慧监管系统是怎么把直播内容变成“数据货架”的。