本报讯（记者 罗晓燕）5月26日，中科创星硬科技媒体行——清程极智专场活动在北京举行。活动现场，北京清程极智科技有限公司（以下简称“清程极智”）团队与到场媒体围绕大模型推理降本、国产算力生态适配、Token服务质量与性价比三大行业关键痛点进行深入交流，并集中展示多项核心技术突破与规模化落地成果，以技术创新推动中国AI产业从“能用”迈向好用、低成本、自主可控的新阶段。

当前，全球AI产业已进入规模化落地的关键时期。Token作为AI时代的“水电煤”，正成为大模型服务与智能应用的核心生产要素。数据显示，2024年初至2026年3月，中国Token日均调用量激增约1400倍，规模突破140万亿。随着Agent智能体、多模态应用的快速普及，Token正从交互用量转向生产用量，对推理效率、部署成本、服务稳定性提出更高要求。清程极智首席科学家、清华大学计算机系教授翟季冬在活动中指出：“Agent应用会有多步执行，频繁调用大模型，将Token调用量显著增加。中国的Token增长速度比全球还高，这背后是供给侧和需求侧共同的爆发。”

与此同时，国产算力与国产模型虽迎来高速发展，但推理环节长期依赖海外引擎，难以充分释放国产硬件性能。Token服务市场也面临“乱、贵、慢、选型难”等突出问题。翟季冬以电力和Token做对比：“家里用电不用担心只有国网的电力，但Token有几十家供应商，每家质量参差不齐，同样的模型在不同服务商那里可能聪明程度不一样，价格和缓存命中率也千差万别。”

针对上述痛点，清程极智打造了覆盖“生产—流通—应用”全链路的三大产品体系。公司成立于2023年12月，核心团队来自清华大学计算机系高性能计算所，已顺利完成天使轮、Pre-A、Pre-A+三轮融资，获得中科创星、中金资本、考拉基金、联想创投、中关村科学城公司等多家机构加持。

赤兔推理引擎是清程极智完全自主研发的国产推理引擎，从第一行代码开始自研，面向昇腾、海光、沐曦、摩尔线程等国产芯片深度优化。清程极智联合创始人唐适之博士解释：“推理引擎是运行在AI算力上的计算机程序，用户提一个问题，引擎根据大模型定义计算后给出回答。国产芯片各有特点，我们不能简单把英伟达的技术挪过来，必须针对国产算力进行原生优化。”

据介绍，赤兔推理引擎通过软件方案在不具备FP4/FP8硬件能力的设备上支持低位宽浮点数量化，使用FP8量化可降低50%算力门槛，FP4量化可降低75%算力门槛。同样使用浮点数计算部署DeepSeek-V3满血版模型时，仅需1台8卡华为910B服务器即可替代传统4台8卡机，硬件成本从600万元降至150万元。目前，赤兔推理引擎已在券商、能源央企等场景落地，某能源央企实现3500+员工全国产化算力稳定使用，算力效率提升近40%，相关案例荣获2025人工智能应用大赛铜奖。

面对Token服务市场服务商林立、指标混乱、选型成本高的行业乱象，清程极智打造AI Ping一站式大模型服务评测与API智能路由平台，成为国内首个集“信息汇总、客观评测、智能路由”于一体的Token服务枢纽。清程极智联合创始人、产品副总裁师天麾介绍，AI Ping接入30多家服务商、600多个大模型服务，7×24小时多地域分布式监测，输出延迟、吞吐、可靠性、价格等真实可核验的指标。同时，该平台依托智能路由算法，以统一API接口为用户自动匹配最优服务商，实现成本降低超37%、吞吐提升超90%、延迟降低超20%。

师天麾进一步表示：“Token是一个黑盒，你买之前不知道服务质量。很多企业只看标价，不懂缓存命中率。有的服务商标价低，但没有缓存折扣，最终成本反而高好几倍。我们会把这些坑帮用户踩掉，把开箱即用的稳定体验留给客户。”

此外，清程极智还推出八卦炉智能软件栈，面向大模型训练、微调场景提供高效Token生产与智能调度能力，与赤兔推理引擎、AI Ping平台形成协同，覆盖AI“训练—推理—应用”全流程。

清程极智相关负责人表示，公司将持续深耕AI基础设施领域，坚持核心技术自主可控，不断迭代赤兔推理引擎对国产芯片的适配能力，完善AI Ping评测与路由服务，联动国产算力、国产模型、行业应用等产业链伙伴，打造高效、普惠、安全的国产AI基础设施体系，积极响应国家“人工智能+”行动，以技术创新推动中国AI产业高质量发展。

（本报记者 罗晓燕/摄）