中国大模型三重提速

　　你可能对“词元（Token）”没概念，但你每次和AI对话、生成一张图、写一段代码，背后都是海量词元在流动。它是大模型处理信息的最小信息单元，也是衡量AI使用规模最核心的指标。

　　词元调用量千倍增长

　　最新数据显示，我国日均词元调用量已突破500万亿。这个数字有多夸张？2024年初还只有约1000亿，两年时间增长了上千倍。词元调用量爆发式增长的背后，是大模型竞争的全面提速。

　　落地覆盖千行

　　业内人士指出，当前全球大模型正处在竞争最激烈、迭代最快的阶段，中国大模型已位居全球第一梯队。竞争焦点也从单纯的“模型智商”，转向智能体落地和生态建设的全面比拼——AI正在从“会聊天”走向“能干活”。

　　巨头抢滩算力基建

　　AI大模型调用成本在持续下降，一家科技开放平台负责人介绍，现在文本模型输入价格是百万词元2.1元，输出价格是每百万词元8.4元，不到国际上某些模型价格的十分之一。

　　价格断崖式下跌，也推动应用端的普及。企业敢用了，用户多了，调用量指数级增长。

　　AI智能体一次任务要反复检索、读上下文、调用工具、多轮反馈，推理算力需求呈爆发式增长。为争夺算力资源，互联网大厂加速布局AI智算中心，并签署长期合作协议锁定资源。

　　8月22日，呼和浩特绿色算力大会举行，13个重点项目集中签约，总投资1361亿元，涵盖芯片检测、装备制造、算力中心、“词元工厂”等领域。企业和地方正在“跑步入场”。

　　在北京经济技术开发区，一家“词元工厂”今年6月投入运行。“词元工厂”就像“AI时代的发电厂”，通过算力生产词元，服务AI应用。这家工厂搭载国产大模型的国产卡，顺利完成词元生产测试，并在8月进入规模化生产阶段。

　　“现在每天能处理5000亿词元，目标是将来全天处理1.4万亿词元，换成普通AI问答大约是2亿次。”软通智算产品专家刘立说。

　　更值得关注的是，这家“词元工厂”不仅为国产芯片在大规模推理场景下的性能优化提供数据和实战经验，还向全球开源了“词元工厂性能基准”，为建设万卡国产算力集群提供支撑。

　　在广州黄埔综合保税区，一个总投资9.5亿元的智算综合体也在近日获批，建成后将服务文生视频、代码写作等业务，并推动中国词元出海。

　　4万亿投资启幕 但“不能一哄而上”

　　算力需求井喷，直接带动基础设施投资提速。国家发展改革委明确，“十五五”时期，算力网建设将新增直接投资4万亿元。考虑到算力建设以企业投资为主，这将为民间投资创造巨大空间。

　　国家发展改革委强调，布局建设算力网不能“一哄而上”，要注重供需适配、算电协同，做到科学合理、安全可靠、绿色低碳、成本可控。

　　业内人士判断，在东部算力负荷中心，分布式的“词元工厂”快速落地，在国家大型算力枢纽附近，中型项目围绕互联网订单落地，超大型项目则围绕新能源基地建设。

　　从日均500万亿词元的调用量，到10倍的供需缺口，再到4万亿的投资蓝图，一场考验规划智慧与产业耐心的长期赛跑刚刚开始。

　　 转自：央视网