中国政策档案 Governance Archive HOLDINGS 219,415 · FONDS 100
Record · 科技日报 ACC. 900060612

Domestic Token Optimization Factory Officially Released at 2026 World Artificial Intelligence Conference

国产Token优化工厂在2026世界人工智能大会正式发布

Issuer
科技日报
Date
2026-07-18
Instrument
other
Cited by
0
This article reports on the launch of 'Tuoyuan (Vectron)', a domestic token optimization factory developed by Shishi Technology, at the 2026 World Artificial Intelligence Conference. The system aims to improve AI inference efficiency by optimizing token output, reducing resource waste, and supporting heterogeneous computing across multiple hardware platforms.
Full text · 原文 1,056 字
科技日报记者 马爱平<br> 7月17日,2026世界人工智能大会(WAIC 2026)在上海开幕。是石科技正式发布“国产Token优化工厂——拓元(Vectron)”。<br> 是石科技创始人兼董事长闫博文表示,“拓元”的定位是把每一份算力变成稳定、高效的Token(词元)——同等算力投入下产出更多有效Token,同等大模型部署下实现更快的推理响应,同等显存硬件下超长上下文运行更稳。“拓元”的核心逻辑是“一套系统完成AI推理全链路优化”。在任务自适应层面,依托请求画像匹配最优计算链路,算力按需分配,减少资源浪费;在算子库层面,通过硬件专属算子融合编译,充分释放极限算力;在模型与推理框架层面,兼容主流国产硬件与大模型,异构深度调优,提升业务并发量;在异构集群调度层面,破除跨地域、多硬件算力孤岛,统一纳管调度,盘活闲置算力。<br> 目前AI基础设施面临的效率难题主要包括,异构算力难以统一调度、大模型推理缺乏深度优化、长上下文导致显存与成本压力骤增、国产硬件生态适配成本高昂等。闫博文表示,针对这些痛点,“拓元”在结果感知驱动的KV Cache压缩、全模态推理的Token压缩、长上下文后训练优化、深度推理优化,以及智能体长程任务记忆机制五个方面带来了实质性突破。<br> 截至目前,“拓元”已兼容10余款国产算力硬件,可适配20余个主流模型,每日Token吞吐量达到千亿级,服务客户涵盖互联网企业和头部大模型厂商,以及高端制造、航空航天、生物制药、新能源等行业,应用场景包括编程应用、文生视频、OPC社区(一人社区)、企业智能体等。<br> (受访者供图)5494642026-07-18 14:02:21:364马爱平国产Token优化工厂在2026世界人工智能大会正式发布1324滚动滚动<br> https://www.stdaily.com/web/gdxw/pic/2026-07/18/549464_6de11213-1002-453d-b111-0db61eb96855_1237x8251827179copy.png<br> https://www.stdaily.com/web/gdxw/pic/2026-07/18/549464_6de11213-1002-453d-b111-0db61eb96855_1237x8251827179copy.png<br> https://www.stdaily.com/web/gdxw/2026-07/18/content_549464.htmlnull科技日报101高企/enpproperty-->