【科技资讯】魏凯：高质量词元（Token）服务发展洞察

📌 信息分类：数据要素
🗄️ 信息来源：用户推荐
🔗 原文链接：点击访问原文
📅 原文发布时间：2026-07
⏱️ 本站采集时间：2026-07-11 07:10:10

—

2026年6月16日，高质量词元（Token）服务研讨会在北京召开。本次研讨会聚焦Token服务产业生态建设，探讨如何以高质量Token服务推动智能经济快速发展。中国信通院人工智能研究所所长魏凯出席并发表主题演讲，以下是演讲实录整理。

Token产业生态加速形成，调用量呈指数级增长

人工智能发展日新月异，2026年第二个季度，每2.8天就有一个前沿大模型发布，不断刷新模型能力的上限。随着智能体的落地，国内外的Token调用量也呈现指数级增长。

国家数据局发布的数据显示，2026年3月份全国Token调用量是140万亿每天，其中包含自有自用的APP调用。公有云上的调用量是ToB市场中以公有云形式对企业提供Token API服务的数字。

根据中国信通院统计，2025年全年全国公有云Token调用量是2000万亿，2026年第一季度就达到了去年全年的水平，后续增速将持续加快。

再加上长思考、多模态，以及整体范式走向Loop，Token调用量会更进一步提升。人工智能技术的快速增长、发展、普及，以及使用范式的变化，都为Token调用量增长注入了强劲动力。

现在，Token正式有了中文名称——“词元”，Token成了大家以服务化形式使用人工智能的基本计量单位，促进了智能经济的快速发展。未来，Token可能会像现在公共基础设施中的水电煤一样，来计量智能服务。

围绕着Token，正在形成一个越来越清晰的产业生态：从底层的数据中心芯片，到中间的云服务商，再到上层的Token分发平台，以及最上层消耗Token、智能体交付和应用开发企业，形成了当前越来越繁荣的产业生态。

高质量Token服务三大核心维度：智能、性能、安全

Token服务受到越来越多的关注，但目前Token服务质量还存在多重挑战：

一是智能水平难衡量：同样数量的Token背后蕴含的智能水平差异显著

二是服务性能难保障：时有时无、时断时续、时延抖动，对于真正接入生产系统还有很大阻力

三是服务管理不完善：Token使用和预算管理仍不完善

四是Token的安全风险凸出：公有云Token服务API调用引入新的安全问题，用户数据隔离不彻底问题频发

高质量Token服务包括三大核心维度：智能、性能、安全。

1. 智能密度：智能水平是决定因素

不是Token量越多越好，前沿模型往往Token消耗量非常少，单位智能密度非常高。未来模型一定会朝着精简、提升智能密度的方向去努力。

智能密度定义为：模型能力除以解决某一任务所需的推理Token数量。不同模型表现非常不一样，但整体朝着越来越高的方向发展。所以选型高质量的Token，首先要看Token服务背后的智能水平。

2. 服务性能稳定：可靠保障

中国信通院建立了Token服务质量监测体系，2026年以来监测发现，国内模型服务的Token调用成功率稳定在99.9%左右。

TPS和首Token时延也在同步变化：

好消息：5月份全国各个大模型服务平台的TPS均值达到66个/秒，比年初大幅上升73%

不好的现象：首Token时延也在同步增加，5月份均值达到1.09秒，相较于2025年均值增加0.31秒，主要因为模型规模普遍变大、上下文长度变长

另外，同一开源模型在不同服务商平台上的推理指标有显著差异，企业级智能体嵌入业务流对稳定性要求高，选择服务商时一定要关注SLA服务水平协议。

3. 安全合规：信赖底线

2026年4月，国家安全部发布了”Token安全警示”，披露了三大风险：滥用中转站可能引发的劫持泄露风险、伪造篡改风险、诈骗陷阱风险。

如何做好Token服务的安全防范？主要有三个方面：

技术层面：做好内生风险防范和护栏防范，防范提示词攻击、越狱攻击等，对有害信息进行拦截隔离

运营层面：对中转站、链路明文传输的”裸奔”现象提高警惕，对违法失信行为提高警惕

业务层面：用户侧也要加强安全意识，尤其是在金融、医疗、政务等高危场景中，敏感数据和敏感业务使用要格外注意

但是，提安全问题并不意味着讳疾忌医、拒绝使用公有云。公有云的Token服务可以兼顾智能、性能、安全，云服务商已有很多解决方案。相关标准也在制定中，包括使用加密计算保护用户通道安全，可采取物理硬隔离或虚拟隔离等措施保护Token安全性。

未来四大发展趋势

未来，高质量Token服务呈现以下四个趋势：

趋势一：从量变到质变，推动Token服务步入精耕时代
智能体的调用结果不是很长的文本，而是调用动作的序列，所以Token输出一定会越来越精简、指向性更强，模型的智能密度一定会越来越高。

趋势二：从粗放到精益，提升Token服务性价比
衡量性价比不能单纯看价格，要从用户体验、单位能耗以及Token带来的应用价值等维度来衡量。Token消耗量和成本关系较为复杂，很多模型虽然定价很高，但解决同样任务下Token消耗量很低，按智能水平来看单位Token成本实际上并不高——量多不等于贵，便宜不等于物超所值。

趋势三：从可用到可管，提升Token服务运营和信任度
最终追求的目标就是：智能像打开水龙头一样，连上API、配好Key就能使用到全球最好的模型，要看得见、算得清、管得住。解决Token使用过程不透明、计费不规则不透明、全生命周期管理能力弱等困境，走向高质量、可信的Token服务。

趋势四：重视服务安全风险向链路传导和生态放大
模型服务安全风险已不局限于数据内容本身，而是沿模型调用链路多点暴露，并在中转服务生态中因流量、数据和责任集中进一步放大，需要阻断各种风险传导链条，特别要重视Token中转站这类中间商的信息安全问题。

多方协同共建高质量Token服务生态

多方协同共建高质量Token服务生态是当前的重要发展机遇：

Token服务商需要不断提升模型性能水平，以更有性价比的方式为用户提供Token服务

运营商整合算网、云资源介入渠道

地方政府积极把手里政府所有的算力转化成Token工厂

中国信通院希望联合各方共同推动”高质量Token服务”相关工作：

建设高质量Token服务标准体系：已形成四个板块20余项行业标准，下一步会不断完善标准体系，推向千行百业，通过检测认证落实标准

持续开展Token服务质量监测：在线监测24小时不间断，结合稳定性和大模型智能水平测试，让市场更加透明公平

联合开展Token关键技术研究：包括Token综合成效指数以及能效指标研究，形成更具针对性的性价比指引

持续开展Token服务安全检测：在内容安全、幻觉隐私安全、Token供应链安全等多个维度开展安全防护工作

未来，希望携手共同推动Token服务的普惠化发展，在技术研究、标准建设、服务监测、场景应用评估咨询和Token服务出海等方面深化合作，把国内好的开源模型和越来越好的算电协同基础设施能力结合起来，给全球尤其是南方国家提供更好的Token服务。需要产业各方携起手来共同推动高质量Token生态不断繁荣。

本文来源：CAICT人工智能

—

🔗 阅读原文

魏凯：高质量词元（Token）服务发展洞察（演讲实录）