CANN framework-adapter SIG 深度解读TorchTitan-NPU 与 xla-npu 的昇腾原生框架适配之道【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community导读framework-adapter 是 CANN 开源社区中专门负责AI 框架与昇腾芯片深度适配的特别兴趣小组SIG其核心使命是让主流 AI 框架获得对昇腾硬件的原生支持在保证语义一致性与高性能的同时降低开发者迁移成本。本文以该 SIG 的 官方介绍文档 为主体结合 community 仓库中的治理章程、SIG 元信息sig-info.yaml与社区技术分享记录系统梳理 framework-adapter 的组织定位、两大核心仓库torchtitan-npu 训练系统与 xla-npu 图编译后端的技术架构、社区运作机制与参与路径帮助读者理解训练框架 编译后端双线并行的昇腾框架适配路线并掌握加入该 SIG 协作的具体方式。一、SIG 定位聚焦框架-芯片深度适配framework-adapter SIG 是 CANN 社区 SIG 列表 中的关键组成之一其官方定位为聚焦 AI 框架与昇腾芯片的深度适配实现主流框架对昇腾硬件的原生支持在确保语义一致性与高性能的同时提高用户易用性并降低迁移成本。这一表述包含三层含义原生支持不是通过桥接层或仿真层跑通而是让框架直接感知、调度昇腾 NPU 资源充分释放硬件能力语义一致保证框架在昇腾上执行的计算语义与在其他硬件平台上保持一致用户脚本无需或极少改动即可运行易用与低迁移成本继承上游框架如 TorchTitan、JAX原生的易用性避免为适配昇腾而引入沉重的开发负担。从 CANN/sigs/framework-adapter/sig-info.yaml 中的元信息可以看到该 SIG 的 mailing list 为framework-adaptercann.osinfra.cn并维护cann/torchtitan-npu与cann/xla-npu两个核心仓库与官方文档的描述完全对应。与社区其他 SIG 的边界framework-adapter 的职责边界在社区全景中非常清晰它不负责算子实现那是 ops-nn、ops-transformer 等 SIG 的工作不负责图引擎本身的演进那是 ge SIG 的领域而是作为框架与硬件之间的适配层向上承接 JAX、TorchTitan 等主流训练/计算框架的生态向下对接 CANN 软件栈的 Runtime、Graph Engine、AFIR 等编译后端与运行时能力。如社区 开源项目全景 所示图引擎、运行时、通信库等均作为独立开源组件存在framework-adapter 的工作正是将这些底层能力翻译为框架可用的形态。二、工作目标三大支柱根据官方文档该 SIG 围绕以下三个目标开展工作目标说明原生支持与高性能兼顾易用推动第三方框架在昇腾硬件上的原生支持在获得高性能的同时兼顾易用性降低开发者的迁移成本形成可复用的设计共识通过例会、设计评审与技术分享沉淀跨框架适配过程中的通用设计模式与最佳实践保障社区响应与工程质量维护 SIG 范围内核心仓库的 Issue、Bug 与用户反馈保障社区的响应效率与工程质量其中第二条设计评审与技术分享并非空话——在 CANN 社区直播回放 中framework-adapter SIG 已于 2026-05-08 贡献了主题为TorchTitan-NPU训练性能与易用性齐飞开启昇腾训练入图新体验的技术分享见 分享材料目录这是该 SIG 设计共识对外输出的直接证据。三、职责范围与核心仓库本 SIG 主要负责两个核心仓库的开发与维护分别对应训练系统与编译后端两条技术路线。3.1 torchtitan-npu面向昇腾 NPU 亲和的训练系统框架定位torchtitan-npu 是面向昇腾 NPU 亲和的训练系统框架支持大模型训练中的内存、并行、调度与编译协同等关键能力。功能详解基于 TorchTitan 的训练流程在昇腾平台上提供稳定、可复现且可分析的训练框架用于支撑真实大模型训练负载围绕训练阶段的关键系统能力协同运行时与编译栈实现以下技术的工程化落地内存管理支撑大模型训练中大张量、优化器状态等的高效内存布局与复用分布式并行与 CANN 通信栈协同实现数据并行、模型并行等策略执行调度训练任务在 NPU 上的高效任务编排算子融合与图优化路径将训练计算图优化为可下沉到硬件的执行计划提供面向训练性能的分析与调优能力使训练过程可观测、可诊断继承了 TorchTitan 原生的易用性优势——这正是高性能与易用性并重定位的具体体现。从社区 实践样例 可以看到该路线的落地形态DeepSeek-V4 昇腾训练支持即基于 TorchTitan-NPU 框架采用纯 FSDP 大 EP 极简并行策略实现内存最优并创新性地使能训练入图技术凭借 Ascend C AutoFuse 能力获得端到端的编译收益。3.2 xla-npu面向昇腾 NPU 的 XLA 后端实现定位xla-npu 是一个面向华为昇腾 NPUNeural Processing Unit硬件的XLAAccelerated Linear Algebra后端实现。通过接入 OpenXLA/XLA 开源项目将 XLA 开源生态与华为 CANNCompute Architecture for Neural Networks软件栈集成对接 JAX 框架。功能详解对接 JAX 框架JAX 框架运行时可以直接加载 xla-npu使得基于 JAX 框架开发的模型可以运行在昇腾 NPU 上提供推理场景图编译加速能力实现 OpenXLA PJRT 运行时接口通过调用 CANN 软件栈中 Runtime 接口管理设备、Stream、Event、内存等资源从而驱动 NPU 设备运行模型对接编译后端对接 CANN 生态中 Graph Engine、AFIR 等编译后端实现图编译动态库加载机制JAX 框架通过加载 xla-npu 动态库so 文件实现 JAX 框架对接 NPU 设备运行 JAX 脚本及网络。这里的架构链路可以概括为JAX 脚本 → JAX 运行时 → 加载 xla-npu (PJRT 后端) → CANN Runtime (设备/Stream/Event/内存管理) → Graph Engine / AFIR (图编译) → NPU 执行。PJRTPortable JAX Runtime是 OpenXLA 项目定义的标准化运行时接口xla-npu 通过实现该接口使昇腾 NPU 能够以即插即用的方式接入整个 JAX/XLA 生态这正是主流框架原生支持目标的典型实现路径。3.3 两条技术路线的协同关系从仓库配置看两个仓库在 SIG 内各有独立的 committer 团队见 sig-info.yamltorchtitan-npu 侧有 9 名 committerxla-npu 侧有 4 名 committer。它们虽然技术栈不同一个偏训练系统、一个偏编译后端但共享同一套适配方法论语义一致性 高性能 易用性共同构成 CANN 在框架适配层面的完整拼图——训练场景由 torchtitan-npu 支撑JAX 生态由 xla-npu 承接。四、SIG 组织架构与成员4.1 角色体系依据 CANN 社区 SIG 治理章程SIG 内部分为 Maintainer、Committer、Contributor 三级角色。framework-adapter SIG 目前配置如下。Maintainer 列表SIG 负责人4 人成员GitCode 账号邮箱钟林zhong_linecho.zhonglinhuawei.com盛楠shengnan666titan.shenghuawei.com张德鹏depeng1994zhangdepeng2huawei.com徐道鸿XDaoHongxudaohonghuawei.comMaintainer 的核心职责包括制定和推动 SIG 的技术愿景与路线图、召集和主持 SIG 例会、代表 SIG 与 TSC/PMC 沟通、维护仓库权限与邮件列表基础设施、负责社区 Issue 的分发与处理。Committer 列表核心贡献者10 人成员GitCode 账号邮箱张昊卓zhanghz1zhanghaozhuo1hisilicon.com许虞俊xuyujunxuyujun5hisilicon.com位金弈lrwei0709weijinyi3huawei.com潘超panchao-gitcodepanchao13huawei.com赵伟zhaowei1936zhaowei6huawei.com杨喆军zzyyjj012yangzj012qq.com梅贤昌gcw_w18ytwbimeixianchanghuawei.com朱珉JaydenChuzhumin54huawei.com栾超伟luanchaoweiluanchaowei3huawei.com邢智雄xingzhixiongxingzhixionghuawei.comCommitter 在对应仓库拥有写权限深度参与技术方案设计、代码开发与代码审查。4.2 torchtitan-npu 细分子领域 Committer模块 Committer为了在大型仓库中实现更精细的代码质量管控torchtitan-npu 在总体 Committer 之外还设置了细分子领域 Committer。需要特别说明的是细分领域 Committer 仅对各自看护的目录拥有 LGTM 权限这与治理章程中新建仓库必须配置至少 2 名 Committer 以支持代码交叉检视的总体要求互补形成全局 局部的二级代码审查体系。torchao_npu 模块 Committer2 人成员GitCode 账号邮箱王辉wanghui0wanghui432huawei.com沈卓凡zhuofanshenshenzhuofanhuawei.com该模块聚焦 torchaoPyTorch Architecture Optimization在昇腾 NPU 上的量化、稀疏等算子的适配与优化。高可用模块 Committer1 人成员GitCode 账号邮箱蔡福璧hwcaifubicaifubi1huawei.com该模块关注训练过程中的容错、恢复、断点续训等高可用能力。五、社区运作机制5.1 会议组织公开会议时间北京时间每两周一次例会单周周三上午 10:30-12:00议题申报通过 议题申报白板 提交。SIG 欢迎社区成员提交技术讨论、设计提案、问题反馈或经验分享等作为会议议题。根据 SIG 治理章程 的运作要求SIG 会议应提前公布议程、及时整理并发布会议纪要议题申报人需在议题结束后整理纪要并达成一致。5.2 会议纪要会议地址CANN 社区统一会议日历会议纪要历次例会纪要归档。5.3 SIG 订阅邮件订阅邮件列表是 SIG 的官方沟通渠道用于发布会议通知、讨论议题和归档决策与新成员协作流程一致。5.4 如何参与按照 SIG 治理章程 中的角色定义Contributor社区贡献者无需申请权限即可参与参与公开会议按上述时间参加双周例会通过议题申报白板提交议题加入邮件列表订阅framework-adaptercann.osinfra.cn邮件列表参与讨论提交 Issue / PR在 torchtitan-npu、xla-npu 仓库中提交 Issue、Bug 报告或 Pull Request贡献代码需按 CANN 项目要求签署代码贡献协议持续贡献经过社区认可后可由 Contributor 成长为模块 Committer 乃至 Committer获得对应仓库的写权限与 LGTM 权限。六、仓库清单framework-adapter SIG 维护的仓库地址如下可通过 git clone 获取源码git clone https://gitcode.com/cann/torchtitan-npu git clone https://gitcode.com/cann/xla-npu仓库技术主题核心能力cann/torchtitan-npu大模型训练系统内存管理、分布式并行、执行调度、算子融合与图优化、训练性能分析与调优cann/xla-npuXLA/JAX 编译后端PJRT 运行时接口、CANN Runtime 设备管理、Graph Engine / AFIR 图编译、推理图编译加速七、总结framework-adapter SIG 是 CANN 开源社区在AI 框架生态对接层面的核心枢纽以torchtitan-npu承接 PyTorch 系的 TorchTitan 训练生态以xla-npu承接 JAX/XLA 编译生态两者共享语义一致、高性能、易用性的适配原则协同 CANN 的 Runtime、图引擎、编译栈等底层组件让主流框架真正原生跑在昇腾硬件上。对于希望深入框架适配工作的开发者建议的切入路径是阅读本文引用的 SIG 介绍 与 sig-info.yaml 了解组织边界订阅邮件列表并参加双周例会在 CANN 社区 SIG 总览 中对照理解各 SIG 分工再结合 社区治理章程 明确贡献流程最终通过 Issue 与 PR 参与到昇腾原生框架适配的实际工程中。【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考