还记得年初爆火的龙虾吗？这类可执行的智能体，正悄悄爬进产业，在实业场景里爆发。在鲲鹏昇腾开发者大会 2026 现场，给我种不谈智能体直接落伍的感觉。

中科大团队让 Agent 担任机器化学，自主啃下上万篇化学文献，甚至自主设计实验、优化案，让科研不再是试错苦旅。

企业服务域，过去分析师团队耗时半个月的行业研报、竞品分析与数据建模工作，如今数十个 Agent 协同分工，几天就能搞定。

而智能体的每次自主决策、每轮迭代优化，都在驱动 Token 消耗量攀升。万亿 Token 时代已经到来，所有行业、所有企业都不得不直面场 AI infra 的能力大考：AI 基础设施，我们真的准备好了吗？

面是业务场景的致复杂度。在荐、交互等致低时延场景下，毫秒的延迟差距能够直接影响到产品体验与市场竞争力，低延迟、吞吐的理需求成为刚需。

而与此同时，多数企业聚焦模型与应用层创新，却忽视了力调度、理优化等底层基建的决定作用，AI infra 的核心价值被低估。

在全行业机遇和挑战并存的关键期，我在大会现场度采访了国产理引擎 xLLM 项目负责人刘童璇。从这支扎根国产化赛道的技术团队身上，看到了 AI infra 的破局答案，也看到了托举智能的根源力量。

它孤地站在那里

显得寂寞而又倔强

似乎即将倾跌进谷里

却又像是要展翅飞翔……

——《悬崖边的树》

xLLM 为什么特殊？海量 Token 的激增需求，叠加居不下的力成本、海外力生态的不确定，让力优化成为 AI 落地的关键问题。而理引擎，下接硬件，通过度优化来提升芯片的模型运行能，压缩大模型的理耗时；上接应用，承接万亿 Token 的海量请求。

适配国产芯片、能的国产理引擎寥寥几。xLLM 的出现，填补了行业空白。而这，源于个悬崖边的选择。

时间拨回 2024 年下半年，xLLM 立项之初，海外力框架占据对主流，行业内几乎没有人愿意 all in 国产理引擎的原生研发。当时，摆在 xLLM 团队面前的，是道终选择题：究竟是依附成熟的海外开源框架，简单适配国产芯片，做浅层增量改造，还是从起步，原生自研套纯国产理引擎，走条充满未知的壁之路。

xLLM 团队做出了坚定的抉择，从搭建全国产理体系阜新泡沫板橡塑板专用胶，不做混适配、不依附海外框架，扎根国产力生态。

刘童璇反复而笃定地强调，如果直接在海外框架上支持国产芯片，会受到很大束缚，因为国产芯片生态与 CUDA 生态不同，优化手段也不样。强行适配会受到已有框架的束缚，永远法挖掘国产力的致能。同时，企业做 AI 须要有力压舱石，唯有原生自研，才能真正为国产力量身造优理底座，也为企业业务提供可靠可持续的保障。

从起步的抉择，换来的是致的技术自由，却也伴随着难以想象的困境。

奥力斯    万能胶厂家    联系人：王经理    手机：18231788377（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区

技术上的挑战当其冲。国产芯片生态碎片化，各类国产芯片架构迥异，没有统、通用的编程模型，法复刻 CUDA 体系的成熟适配逻辑。同大模型，需要针对不同芯片架构单重写、度调优，适配成本。棘手的是，当时国产芯片在 FP16、INT8 等精度的支持不够，易出现各类 BUG，优化果没人敢包票。

同时，国内缺乏原生国产能理引擎的通用案，这支以 95 后工程师为核心的年轻团队，成员大多没有从 0 到 1 建立理引擎的经验，面对复杂的底层架构设计与全链路优化工作，难缺乏信心。

起步阶段，是整个研发周期中艰难时期。面对悬崖境般的困境，团队放弃广撒网的适配思路，没有盲目铺开试水，集中锚定 DeepSeekV3/R1 模型，死磕单模型的国产化理优化。

于悬崖边扎根，在逆境中生长，xLLM 恰如崖柏，展现出顽强的技术生命力。项目正式开源之前，团队终于对自建全国产理引擎这件事有了信心。

棵树，彼此孤离地兀立着……但在泥土的覆盖下，它们的根伸长着。在看不见的处，它们把根须纠缠在起——艾青《树》

认定全国产这条路能跑通的转折点，出现在项目开源之前的能攻坚阶段。

在长达数月的全链路耕与芯片联调后，xLLM 的优化能力迎来了质的飞跃，将原本毫秒的调度间隙压缩至百微秒以下，让国产硬件的能得以致释放。

在此之前，行业普遍感知到，国产芯片的能与 N 卡存在差距，大约只有海外芯片的 60 — 70。但 xLLM 破了这认知。在同等模型、同等部署条件下，xLLM 赋能昇腾芯片跑出的理能，能够达到 H200 的 80 — 90。

在刘童璇看来，这能表现，是国产软硬件度协同的系统胜利。既源于 xLLM 框架层的架构革新与法优化，也得益于与国产芯片厂商的紧密作，优化涵盖了从上到下的整个链路，包括理引擎框架层的优化和底层计法的改进。

比如说，昇腾 CANN、Mind 系列开源软件栈，具备完善的子适配、模型兼容能力，能够匹配 xLLM 的自研架构，大幅降低原生理引擎的适配成本与改造难度。

此外，xLLM 也得到了昇腾社区的响应。双建立了常态化度协同机制，通过每周技术例会同步迭代进度、攻克技术难题，昇腾甚至派团队常驻亦庄，与 xLLM 团队联办公，从案磨、技术攻坚到场景落地全流程共建，实现技术迭代缝衔接。

结果就是，xLLM 的原生架构设计与昇腾节点的技术特度契，形成二的软硬协同优势，基于昇腾在理能上获得优表现，在分布式理、并发吞吐场景下，能实现能大化。

随后，xLLM 逐步完成了其他主流国产芯片的度适配与优化，以及与 DeepSeek、Qwen、GLM 等头部模型厂商的度协同。

通过理引擎，散的国产芯片厂商、技术团队、模型生态被串联在起，根系相连，能力互补，形成产业力。可以说，xLLM 的能突破之路，也是国产 AI 生态聚力共生、聚木成林的个缩影。

与顶硬件掰手腕的实测成果，万能胶厂家给了 xLLM 团队大的信心，国产化自研路线可行。个新的命题随之而来：项原生技术，如何真正走出代码，走进真实产业场景？开源，成了唯也是佳的答案。

2025 年 8 月，xLLM 正式在 Github 开源，开放给全行业共同使用和创新。但上传源代码只是开始，真正的挑战是如何被开发者用起来，吸引多的人参与到项目中，甚至成为社区贡献者？

耕产业多年的刘童璇，十分清楚技术研发与业务落地之间，存在巨大的 gap。比如说，产业生产环境复杂多变、需求碎片化，对框架的稳定要求致严苛；开发者从早已习惯成熟的 CUDA 生态向国产 CANN 生态切换时普遍存在成本顾虑。

这些问题不解决，xLLM 在开源社区的竞争力和生命力就从谈起。

下定决心做大生态，xLLM 走出了为关键的三步：

步，能，能，还是能。

刘童璇认为，理引擎的能是芯片厂商、模型厂商与行业客户都在意的指标，也是理引擎刚的竞争力所在。以国产芯片厂商为例，都以客户需求为向，需要适配各企业的私有框架，多数框架法释放国产芯片致力，致国产硬件空有硬件底座，却难以跑出匹配产业需求的理率。

xLLM 始终将能优化作为核心底，持续压缩理时延、拉吞吐上限，坚定冲刺 1 毫秒以下低理耗时目标，在生成式荐、大模型对话、多模态生成、工业智能巡检等刚需场景中，实现数十倍的能提升。团队主动联动头部模型厂商，发适配 GLM4.6V、GLM4.7 等主流国产模型，让各类国产大模型都能在国产芯片上释放优能。

二步，得到来自真实业务验证的能力背书。

开源技术的大短板，在于缺少大规模线上生产环境的磨。纯实验室、纯社区驱动的框架，旦落地到复杂集群、低容错的产业场景中，可能出现各类问题，这也是产业用户不敢直接使用开源版本的顾虑。

xLLM 与生俱来的优势，就是诞生于产业，依托海量真实业务场景完成全链路磨。相较于传统荐模型，新代大模型结构的生成式荐模型泛化能力强，能够显著提升商品荐度与用户购买转化率。但大模型的大参数，也致理耗时激增，并发承载困难，严重制约产业落地。xLLM 将大模型的理时延致压缩，拉升电商转化率的同时，机器硬件成本降低 90。

与此同时，这套案已经成为众多运营商、大型央国企、互联网企业的选择。

三步，依托昇腾生态，通技术落地的广 gap。

xLLM 立项之初便原生适配昇腾 CANN 体系，消解了生态迁移成本，解决了行业头疼的兼容适配难题，大幅降低全产业落地门槛，迅速融入国产力核心生态体系，双力造标准化行业解决案。昇腾成熟的产业渠道、客户体系、生态伙伴资源，为 xLLM 提供了广阔的落地场景。如今，xLLM 已广泛落地电力、能源、政务、交通等关键域。

当昇腾依托开源的 xLLM 框架，将大模型理能力封装进智能体机，成功部署至边远地区电站并落地电力智能巡检场景时，刘童璇刻感受到了代码守护国计民生的力量。

xLLM 从株悬崖边的崖柏，乘开源之风，聚开发者之力，成长成片产学研用共同参与的森林。xLLM 的成长过程，也是填平技术与产业断层、加速国产 AI 生态起飞的过程，的 AI 产业已为迎接智能体与万亿 Token 时代的爆发做好了准备。

xLLM 理引擎，动国产模型与国产芯片的适配，让行业 AI 应用牢牢扎根在自主创新的力底座之上，为智能体时代的到来筑实了根基。

如今，多模态普及、智能体自主协同、亿长上下文场景落地，正在倒逼整个理体系重构。刘童璇认为，国产理引擎须解决几个新的难题，是延迟。智能体连续决策、实时交互、生成式荐等场景，1 毫秒以下甚至百微秒低延迟成为产业标配，对理时延提出致要求。二是全模态。AI 应用从单文本生成，走向图文、音、三维内容融的全模态时代，理框架须支持全模态的输入输出能力。三是亿上下文。行业向亿长上下文演进，对理系统形成全新考验。

万亿 Token 带来了行业的结构机遇，而抓住机遇的前提，是应对好技术趋势对理架构的挑战。生态共建，成为 AI 破解所有难题的关键。

国产力、模型与 AI 人才，是驱动国内产业智能化不可少的三驾马车。生态能够汇聚不同芯片厂商、模型团队、行业开发者共同参与，持续缩小与海外 AI 软硬件的差距。此外，单团队、单企业法承接时代的产业变革，国产 AI 人才是千行百业应用创新的源头。

因此，xLLM 面度联动清华、北大、北航、中科大、北邮、天大等十余所顶校，联动数十位校师、近五十名实习生共建研发。同时，联昇腾生态，造社区 + 校 + 产业三位体的人才培育体系，在华为 ICT 大赛等官赛事，抛出"百微秒理耗时优化"等产业命题，鼓励青年开发者在实战中锤炼能力，挖掘具备产业潜力的创新人才。后续，xLLM 社区将持续加大开放力度，降低参与门槛，通过任务拆解、规划公开、轻量化入局的模式，让学生开发者、中小企业研发团队，即使没有庞大力与人力资源，也能参与到国产 AI 技术的发展中来。

曾经空白的国产理引擎，已根叶茂；曾经贫瘠的国产力，已厚植沃土；曾经各自为战的国产 AI 生态，也有了根系交织、生机盎然的景象。当我们站在智能体 AI 时代的大门之前，终于有了底气。

每个开发者，都是 AI 产业的种子，扎根在各自的域与岗位，让国产软硬件生根发芽。当数应用之花在行业绽放，时间将会铭记，这是所有开发者用行行代码写就的，不屈的春天。

那就用《种子的梦》来结尾吧：

为了冲破那土层的压力，

我点滴地积攒着力气。

我思念那明媚的阳光，

我思念那辽阔的大地……

相关词条:管道保温     塑料管材生产线     锚索    玻璃棉毡    PVC管道管件粘结胶

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。