ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

CANN 社区 AAL 领域加速库 SIG 解读:Ascend Transformer Boost、SiPBoost 与 Boost Comm 加速库体系

CANN 社区 AAL 领域加速库 SIG 解读:Ascend Transformer Boost、SiPBoost 与 Boost Comm 加速库体系 CANN 社区 AAL 领域加速库 SIG 解读Ascend Transformer Boost、SiPBoost 与 Boost Comm 加速库体系【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community领域加速库Ascend Accelerated Libraries简称 AAL是 CANN 社区中面向特定业务领域提供算子、算法与工具实现的技术 SIG。本文基于 AAL SIG 说明文档 展开系统梳理 AAL SIG 的定位、工作目标、核心组件仓库Ascend Transformer Boost、AscendSiPBoost、Ascend Boost Comm、扩展算子仓、治理机制与贡献流程帮助读者快速理解并上手参与领域加速库的共建。一、AAL SIG 概述什么是领域加速库AAL 是 CANN 社区三十余个 Special Interest GroupSIG中的一个全称 Ascend Accelerated Libraries领域加速库。其核心定位是针对昇腾AscendAI 平台提供特定领域的算子、算法、工具实现。与 ops-basic、ops-nn 等面向通用深度学习算子的 SIG 不同AAL 更强调领域化——加速库面向的是大语言模型、推荐系统、AI4SAI for Science等具体业务场景每个加速库可以根据领域需要提供不同形式的功能包括但不限于本领域算子的补充补齐通用算子库未覆盖的领域专用算子特定算法或机制如针对 Transformer 结构的融合计算机制特定辅助类工具支撑领域业务开发与部署的工具组件。在 CANN SIG 总览 中AAL SIG 的登记描述为领域加速库针对昇腾 AI 平台提供特定领域的算子、算法、工具实现与 sig-info.yaml 中的description字段保持一致。二、工作目标AAL SIG 的工作目标包含四个层面愿景构建面向大语言模型LLM、推荐Recommendation、AI4S 领域的专用加速库技术发展负责领域加速库相关组件在社区中的技术发展和决策版本规划负责领域加速库相关软件包的规划、升级和维护用户响应及时响应领域加速库用户反馈解决领域加速库相关问题。从目标可以看出AAL 并不是单纯维护某一个算子集合而是承担了从技术方向决策、版本生命周期管理到用户问题闭环的一整套领域软件栈运营职责。三、职责范围与核心组件仓库AAL SIG 当前主要负责三大核心仓库的开发与维护分别覆盖 Transformer 推理、信号处理、公共基础组件三个方向。3.1 Ascend Transformer Boost定位一款高效、可靠的 Transformer 加速库基于华为 Ascend AI 处理器提供 Transformer 定制化场景的高性能融合算子。功能其接口功能主要分成三部分融合算子Operation提供经过优化的融合算子用户可以根据需求直接使用对应算子完成计算功能图算子机制用户根据模型设计对应的图算子使用加速库提供的原生算子和自定义算子组合创建图算子完成相应计算插件Plugin机制用户可以根据自己的需求创建自定义算子。这一设计体现了开箱即用 深度定制的分层策略普通用户直接调用高性能融合算子进阶用户通过图算子机制编排计算流程高级用户通过插件机制注入自定义算子实现从而兼顾性能与灵活性。AAL SIG 说明文档的优秀实践部分还给出了 [MindIE-LLM ATB 模型推理全流程解析]昇腾社区论坛公开内容可作为理解该加速库在 LLM 推理场景下实际用法的参考案例。3.2 AscendSiPBoost定位基于华为 Ascend AI 处理器、专门为信号处理领域设计的高性能算子加速库。功能SiP 提供基于 Ascend 硬件、深度优化的高性能算子针对 Ascend NPU 架构特性做了并行计算与内存复用的深度优化。用户可基于提供的高性能算子进行灵活业务编排支撑通信、雷达、信号处理等场景下的任务处理满足业务快速部署和计算需求。3.3 Ascend Boost Comm定位领域加速库基础公共组件提供领域加速库公共功能如算子封包、下发等。功能提供算子封包、下发、日志、调测等功能用户可以基于它快速开发新的领域加速库而不必重复开发这些公共能力。从组件关系上看Ascend Boost Comm 是 AAL 体系中的底座新领域加速库可以复用它提供的封包、下发、日志与调测能力从而将精力集中在领域算法与算子本身。四、扩展项目清单更多领域算子仓除三大核心仓库外AAL SIG 还维护了一系列面向具体算法领域的算子仓它们与三大核心组件共同构成领域加速库生态项目名称定位说明Ascend Transformer BoostTransformer 融合算子加速库AscendSiPBoost信号处理高性能算子加速库Ascend Boost Comm领域加速库基础公共组件ops-fft快速傅里叶变换算子仓ops-spconv稀疏卷积算子仓ops-dfDataFrame 处理仓ops-gnn图神经网络算子仓这些仓库的代码托管关系、committer 配置在 sig-info.yaml 中有完整登记。此外从该配置的repositories列表可以看到AAL SIG 还管理cann/ops-collections等算子集合仓。各仓库的代码开发与维护均遵循 CANN 社区统一的建仓、孵化准出流程见 SIG 治理章程 中仓库管理章节。五、成员与治理结构5.1 角色与成员名单AAL SIG 的治理遵循 CANN 社区统一的 SIG 治理章程governance/sig-governance.md包含 MaintainerSIG 负责人、Committer核心贡献者、Contributor社区贡献者三级角色。Maintainer List4 人尹祺然nino888徐鲁威loov1朱志明QK_25415张浩demoaugusteCommitter List7 人郭炅goodpeople233张天娇ztj0209黄俊健monologue815邢凯鹏kpxing杨东east_yang开腾kerten骆文luowen203_gg123在 CANN 组织信息文件 中sig_name: aal对应的 maintainers 配置与上文一致nino888、loov1、QK_25415这是社区 SIG 治理信息的权威登记来源。5.2 权限模型sig-info.yaml 解读CANN 社区基于 community 仓库实现项目、SIG、仓库、成员及其权限的统一管理AAL 的权限配置完整体现在 sig-info.yaml 中。该文件的字段规范详见 CANN 社区 SIG 组权限管理方案核心字段包括nameSIG 组名称本例为aaldescriptionSIG 组描述信息mailing_list讨论邮件列表地址aalcann.osinfra.cnmeeting_whiteboard_url例会纪要白板 URLrepositories所辖仓库组列表可细分为repo、committers、branch_configs、entry_configs等层级。以 AAL 的实际配置为例cann/ascend-transformer-boost仓的 committers 包括 nino888、goodpeople233、ztj0209、monologue815、kpxing、loov1、QK_25415其中include目录由 loov1、nino888、QK_25415、goodpeople233 负责src目录由 nino888、goodpeople233、ztj0209、monologue815、kpxing 负责cann/ascend-boost-comm仓由 nino888、goodpeople233、kpxing、loov1、QK_25415 负责src目录由 kpxing、nino888、goodpeople233 负责cann/sip仓由 east_yang、luowen203_gg123、demoauguste 负责cmake目录由 east_yang、demoauguste 负责cann/ops-fft、cann/ops-spconv、cann/ops-df、cann/ops-gnn、cann/ops-collections等仓也均配置了对应的 committer 名单。这种仓库级 目录级的细粒度权限模型entry_configs使得代码合入权责可以精确到具体目录便于不同团队分模块协作。需要说明的是Maintainer 自动拥有 SIG 层的 committer 权限无需重复配置。六、社区运作机制6.1 组织会议公开会议时间北京时间两周一次例会单周每月第二、第四周节假日跳过周四下午 16:00-17:00议题申报通过 AAL 专用会议白板etherpad-cann.meeting.osinfra.cn/p/aal申报议题会议地址CANN 社区公共会议平台meeting.osinfra.cn/cann/。6.2 联系方式邮件列表aalcann.osinfra.cnmailman3 列表作为官方沟通渠道用于发布通知、讨论议题和归档决策。七、如何参与 AAL SIG 贡献参与 AAL 领域加速库贡献的完整指南见 贡献指南。在提交代码之前需要先了解 CANN 社区行为准则与贡献流程完成 CLA 协议签署。主要贡献场景与流程如下7.1 四类贡献场景算子 Bug 修复新建Bug-Report|缺陷反馈类 Issue 描述 Bug评论/assign认领处理算子优化对算子泛化性增强/性能优化有思路时新建Requirement|需求建议类 Issue 说明优化点与设计方案评论/assign认领跟踪贡献新算子基于 NPU 设计并实现全新算子走Issue → 需求评审 → 提交 PR → PR 上库完整流程文档纠错新建Documentation|文档反馈类 Issue 指出文档问题并提交修正。7.2 新算子贡献的完整流程第 1 步新增 Issue。新建Requirement|需求建议类 Issue说明新增算子的设计方案Issue 需包含背景信息、价值/作用、设计方案。提交后评论/assign或/assign yourself认领任务。第 2 步需求评审。SIG 成员对 Issue 评审并给出修改意见修改完成后回复完成意见修改申请复审。需求被接纳后SIG 成员会为算子分配分类路径如experimental/math。如无法达成共识可申报 SIG 双周例会进一步讨论。第 3 步提交 PR。开发完成后检查代码交付件完整性含 UT 测试用例、PR 是否关联对应 Issue、是否签署 CLA评论compile触发开源仓门禁依据 CI 检测结果修改codecheck 误报可提交 SIG 成员屏蔽。门禁通过后回复该 Issue 关联的 PRXXX请尽快评审完成整改后回复已完成 PR 问题整改请尽快评审。第 4 步PR 上库。Committer 检视通过后Maintainer 最终审核确认无误后标注/lgtm和/approve标签合入 PR。八、相关文档导航AAL SIG 说明文档本文主题文档AAL SIG 贡献指南AAL SIG 权限配置文件CANN 社区 SIG 总览CANN 社区 SIG 组权限管理方案sig-info.yaml 规范CANN 社区 SIG 治理章程CANN 社区组织管理文档快速上手建议如果你想直接使用领域加速能力优先关注 Ascend Transformer BoostLLM/Transformer 推理与 AscendSiPBoost通信、雷达、信号处理如果你想开发新的领域加速库可以从 Ascend Boost Comm 的公共组件算子封包、下发、日志、调测入手避免重复造轮子如果你想参与共建按照上文 7.2 节的 Issue → 评审 → PR → 上库流程从算子 Bug 修复或文档纠错这类小任务开始最稳妥。【免费下载链接】community本项目是CANN开源社区的核心管理仓库包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息项目地址: https://gitcode.com/cann/community创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表