昆仑芯科技CEO欧阳剑:持续降低Token成本,打造智能化时代基础设施

问题: 随着技术发展,人工智能大模型应用越来越广泛。作为描述文本、图像、语音等信息的基本单位,Token正成为AI时代的重要需求。数据显示,Token调用量快速增长,普通用户每月消耗数万到数十万,内容创作者和开发者使用量更大。统计显示,Token年使用增速超过200%。这种增长也带来资源消耗问题。随着大模型规模扩大,单个Token计算所需的电力和硬件资源不断增加,引发业界对能源分配和生产生活协调的担忧。 原因: 欧阳剑分析指出,大模型技术发展带动了数据处理需求的激增。Token作为统一度量标准提高了信息处理和算法运算效率,但也对算力和电力资源提出了更高要求。虽然芯片、推理框架和算法结构改进,但仍难以完全应对快速扩张带来的成本压力。此外,半导体、零部件制造等对应的产业也因Token需求激增面临产能和技术升级的挑战。 影响: 如果Token成本居高不下,将直接影响大模型及相关应用的普及和创新。大规模算力消耗可能影响传统产业的能源分配,导致社会运行效率问题;高昂的使用成本也可能阻碍普通用户和中小企业参与数字化转型,不利于产业生态发展。同时,作为新型基础设施,Token的商业模式尚未成熟,如何平衡成本与收益成为亟待解决的问题。 对策: 欧阳剑建议从技术和社会两方面着手应对:一是加快芯片架构创新和算法优化,提高运算效率、降低能耗;二是推动能源与计算融合发展,通过智能调度和绿色能源应用减轻电力系统压力;三是在政策支持下促进半导体等上下游产业协同发展,为Token基础设施提供支撑。同时探索多元商业模式,如按需付费、包月套餐等,提升用户便利性和市场活力。 前景: 随着数字经济发展和AI应用深入,Token作为核心算力单位的重要性将深入提升。其成本下降速度将决定大模型时代的普惠能力和创新空间。全球范围内,各国都在加强算力基础设施建设和技术研发。中国有望在芯片设计、电算融合等领域取得突破,为数字基础设施提供保障。随着商业模式创新和政策支持加强,Token应用场景将更加丰富,为经济社会发展注入新动力。

Token从技术概念发展为基础设施,反映了AI从实验室走向大规模应用的必然趋势。此转变既带来机遇也带来挑战。实现Token使用成本每年下降一个量级的目标需要产业各方共同努力。只有通过技术创新、商业模式探索和社会协同,才能确保AI时代的能源可持续性,让技术进步真正造福社会。