CANN Runtime架构设计文档

CANN Runtime架构设计文档
Runtime 架构文档【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime本文档集介绍 CANN Runtime 架构设计面向希望为 Runtime 贡献代码的开发者。架构总览文档说明architecture.md系统架构总览介绍 Runtime 整体设计和核心组件模块架构文档文档说明modules/runtime/runtime.mdRuntime 全局管理单例模式和资源管理modules/device/device.mdDevice 设备管理设备初始化、状态管理、错误处理modules/stream/stream.mdStream 流管理任务队列和同步机制modules/task/task.mdTask 任务管理任务类型和执行流程modules/context/context.mdContext 上下文管理与 Device/Stream 的关系modules/memory/memory.mdMemory 内存管理内存池和分配策略modules/kernel/kernel.mdKernel 核函数管理二进制加载与执行modules/event/event.mdEvent 事件管理同步机制特性文档文档说明features/aclgraph.mdACL Graph 特性流捕获和模型构建features/snapshot.mdSnapshot 特性进程状态保存和恢复features/fusion.mdFusion 特性算子融合执行如何使用这些文档阅读顺序建议新手入门先读 architecture.md 了解整体架构模块开发根据兴趣阅读对应模块文档特性开发参考 features/ 目录下的特性文档不同角色的阅读路径Runtime 核心开发者architecture → runtime → device → stream → task驱动适配开发者architecture → device → stream性能优化开发者memory → stream → task特性开发者architecture → 对应 feature 文档项目结构runtime/ ├── api/ # API 接口层 │ ├── api.hpp # Runtime API 定义 │ ├── api_c_*.cc # C 语言接口实现 │ └── api_impl/ # API 版本实现 ├── core/ │ ├── inc/ # 内部头文件 │ └── src/ # 核心实现 │ ├── runtime.cc # Runtime 全局管理 │ ├── device/ # Device 模块 │ ├── stream/ # Stream 模块 │ ├── task/ # Task 模块 │ ├── context/ # Context 模块 │ ├── kernel/ # Kernel 模块 │ ├── event/ # Event 模块 │ ├── engine/ # Engine 调度 │ ├── memory/ # Memory 模块 │ ├── profiler/ # Profiler 性能分析 │ ├── launch/ # Kernel Launch │ ├── notify/ # Notify 通知 │ ├── dfx/ # DFX 功能 │ └── api_impl/ # API 实现 ├── driver/ # 驱动适配层 │ ├── v100/ # v100 版本驱动 │ ├── v200/ # v200 版本驱动 │ └── v201/ # v201 版本驱动 ├── feature/ # 特性功能实现 │ ├── aclgraph/ # ACL Graph 流捕获 │ ├── snapshot/ # Snapshot 进程快照 │ ├── model/ # Model 模型管理 │ ├── soma/ # SOMA 特性 │ ├── ccu/ # CCU 特性 │ ├── cntnotify/ # Count Notify │ ├── xpu/ # XPU 特性 │ ├── fusion/ # Fusion 融合 │ ├── dqs/ # DQS 特性 │ └── ffts/ # FFTS 特性 ├── config/ # 硬件差异配置 │ ├── as31xm1/ # AS31XM1 芯片配置 │ ├── bs9sx1a/ # BS9SX1A 芯片配置 │ ├── 910_B_93/ # 910B 芯片配置 │ └── ... # 其他芯片配置 ├── inc/ # 公共头文件 │ ├── device/ # Device 相关头文件 │ └── sqe/ # SQE 相关头文件 └── cmake/ # 构建配置本文档遵循开源仓架构文档模版格式。【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考