RuyiAIRISC-V 原生 AI 系统软件栈的国产突围演讲嘉宾张洪滨中国科学院软件研究所博士后RISC-V 国际基金会技术指导委员会委员演讲主题RuyiAIRISC-V 原生 AI 系统软件栈大会2026 C 及系统软件技术大会 · 北京参会报名https://boolan.com/enroll/c1051/event/1162?channelseo一、引言RISC-V 的 AI 时刻RISC-V 凭借开放、免费、可定制的指令集架构正在从嵌入式领域向 AI 计算领域快速渗透。然而硬件指令集的开放只是第一步——真正的竞争力在于软件栈。没有成熟、高效、原生的 AI 系统软件栈RISC-V 芯片就无法真正承载 AI 负载。张洪滨作为 RISC-V 国际基金会技术指导委员会TSC委员同时发起并主导了Ruyi Buddy Compiler人工智能编译器开源社区。他的议题《RuyiAIRISC-V 原生 AI 系统软件栈》正是要回答 RISC-V 在 AI 时代如何补齐软件生态的关键问题。二、RISC-V AI 软件栈的分层结构一个完整的 AI 系统软件栈从底层硬件到上层应用层层相扣。RISC-V 原生 AI 软件栈 ┌─────────────────────────────────────┐ │ 应用层推理框架ONNX/TVM/自研 │ ├─────────────────────────────────────┤ │ 编译层多级编译IR→RVV/Matrix 扩展│ ├─────────────────────────────────────┤ │ 运行时算子库、调度、内存管理 │ ├─────────────────────────────────────┤ │ 驱动层设备驱动、运行时环境 │ ├─────────────────────────────────────┤ │ 硬件层RISC-V CPU Vector Matrix │ └─────────────────────────────────────┘RISC-V 的向量扩展RVV与矩阵扩展为 AI 算子提供了硬件加速的指令基础而软件栈的关键在于把高层的算子表达高效地编译映射到这些指令上。三、多级编译技术AI 软件栈的灵魂张洪滨的主要研究方向是多级编译技术这构成了 RISC-V AI 软件栈的技术核心。3.1 什么是多级编译AI 编译通常跨越多个抽象层次从计算图到目标指令需要多级中间表示IR逐步降级多级编译流程 计算图算子图 │ 图级优化算子融合、布局变换 ▼ 高层 IRMLIR / TVM Relay │ 算子级优化循环变换、向量化 ▼ 低层 IRLLVM IR │ 指令级优化指令选择、调度 ▼ 目标指令RISC-V RVV / Matrix每一级都有对应的优化机会多级编译的价值在于在合适的抽象层次做合适的优化。3.2 面向 RISC-V 的编译挑战向量指令映射把通用循环映射到 RVV 向量指令需要处理长度、掩码、分段加载等细节矩阵指令利用RISC-V Matrix 扩展尚在演进编译器需灵活适配不同实现算子融合在 RISC-V 上融合算子的收益往往高于通用架构缓存与寄存器更紧四、Ruyi Buddy Compiler开源社区的突围Ruyi Buddy Compiler 是张洪滨发起并主导的人工智能编译器开源社区其定位是为 RISC-V 打造原生的 AI 编译基础设施。维度传统方案Ruyi Buddy Compiler架构假设以 x86/ARM 为先RISC-V 原生优先指令适配事后移植原生支持 RVV/Matrix生态模式闭源或半闭源完全开源社区目标通用国产 RISC-V 芯片适配开源社区模式的意义在于把单个团队的能力放大为整个生态的协作让国产 RISC-V 芯片厂商与 AI 应用开发者都能在统一的编译基础设施上共建。五、国产化的战略意义RISC-V 是中国在处理器指令集上实现自主可控的重要路径。但自主可控不仅是有芯片更是有软件。国产 AI 芯片的三层自主 ┌────────────────────────────┐ │ 应用自主框架、模型生态 │ │ 软件自主编译器、算子库 │ ← RuyiAI 的主战场 │ 硬件自主指令集、芯片 │ └────────────────────────────┘RuyiAI 与 Ruyi Buddy Compiler 的战略价值在于补齐软件自主这一环——让国产 RISC-V 芯片不再依赖外部的编译与算子生态实现从指令集到软件栈的完整自主。六、对开发者与产业的意义对于开发者而言RISC-V AI 软件栈的成熟意味着新的部署目标AI 模型可以低成本部署到 RISC-V 边缘设备新的优化空间面向 RISC-V 的编译优化是差异化竞争的蓝海新的开源机会参与 Ruyi Buddy Compiler 等社区共建基础设施七、RISC-V AI 芯片与生态现状RISC-V 在 AI 领域的落地离不开芯片与生态的双轮驱动。层面代表进展意义芯片香山、玄铁等国产 RISC-V自主可控的算力底座指令扩展RVV、Matrix 扩展AI 算子硬件加速工具链Ruyi Buddy Compiler 等软件生态补齐国际协作RISC-V 基金会、RISE 项目生态标准化在张洪滨看来RISC-V AI 软件栈的成熟度直接决定了国产 RISC-V 芯片能否从能跑走向好用。Ruyi Buddy Compiler 的定位正是补上编译基础设施这一关键短板——让上层框架与底层 RISC-V 芯片之间有高效、开放、可定制的编译通道。多级编译技术则是这条通道的核心通过在不同抽象层次上持续优化把 AI 算子的性能潜力在 RISC-V 上充分释放。八、总结RISC-V 的 AI 时刻本质是一场软件栈的竞赛。多级编译技术是这场竞赛的核心技术而 RuyiAI 与 Ruyi Buddy Compiler 开源社区则代表了中国团队在这条自主可控之路上的务实突围。2026 年 C 及系统软件技术大会上张洪滨将完整呈现这套 RISC-V 原生 AI 系统软件栈的技术蓝图。大会信息2026 奇点智能技术大会 C 及系统软件技术大会时间2026 年 11 月 20-21 日地点中国·北京万达文华酒店参会报名https://boolan.com/enroll/c1051/event/1162?channelseo立即报名与 RISC-V 软件生态专家面对面交流 26年奇点智能大会分享RuyiAI：RISC-V 原生 AI 系统软件栈的国产突围
RuyiAIRISC-V 原生 AI 系统软件栈的国产突围演讲嘉宾张洪滨中国科学院软件研究所博士后RISC-V 国际基金会技术指导委员会委员演讲主题RuyiAIRISC-V 原生 AI 系统软件栈大会2026 C 及系统软件技术大会 · 北京参会报名https://boolan.com/enroll/c1051/event/1162?channelseo一、引言RISC-V 的 AI 时刻RISC-V 凭借开放、免费、可定制的指令集架构正在从嵌入式领域向 AI 计算领域快速渗透。然而硬件指令集的开放只是第一步——真正的竞争力在于软件栈。没有成熟、高效、原生的 AI 系统软件栈RISC-V 芯片就无法真正承载 AI 负载。张洪滨作为 RISC-V 国际基金会技术指导委员会TSC委员同时发起并主导了Ruyi Buddy Compiler人工智能编译器开源社区。他的议题《RuyiAIRISC-V 原生 AI 系统软件栈》正是要回答 RISC-V 在 AI 时代如何补齐软件生态的关键问题。二、RISC-V AI 软件栈的分层结构一个完整的 AI 系统软件栈从底层硬件到上层应用层层相扣。RISC-V 原生 AI 软件栈 ┌─────────────────────────────────────┐ │ 应用层推理框架ONNX/TVM/自研 │ ├─────────────────────────────────────┤ │ 编译层多级编译IR→RVV/Matrix 扩展│ ├─────────────────────────────────────┤ │ 运行时算子库、调度、内存管理 │ ├─────────────────────────────────────┤ │ 驱动层设备驱动、运行时环境 │ ├─────────────────────────────────────┤ │ 硬件层RISC-V CPU Vector Matrix │ └─────────────────────────────────────┘RISC-V 的向量扩展RVV与矩阵扩展为 AI 算子提供了硬件加速的指令基础而软件栈的关键在于把高层的算子表达高效地编译映射到这些指令上。三、多级编译技术AI 软件栈的灵魂张洪滨的主要研究方向是多级编译技术这构成了 RISC-V AI 软件栈的技术核心。3.1 什么是多级编译AI 编译通常跨越多个抽象层次从计算图到目标指令需要多级中间表示IR逐步降级多级编译流程 计算图算子图 │ 图级优化算子融合、布局变换 ▼ 高层 IRMLIR / TVM Relay │ 算子级优化循环变换、向量化 ▼ 低层 IRLLVM IR │ 指令级优化指令选择、调度 ▼ 目标指令RISC-V RVV / Matrix每一级都有对应的优化机会多级编译的价值在于在合适的抽象层次做合适的优化。3.2 面向 RISC-V 的编译挑战向量指令映射把通用循环映射到 RVV 向量指令需要处理长度、掩码、分段加载等细节矩阵指令利用RISC-V Matrix 扩展尚在演进编译器需灵活适配不同实现算子融合在 RISC-V 上融合算子的收益往往高于通用架构缓存与寄存器更紧四、Ruyi Buddy Compiler开源社区的突围Ruyi Buddy Compiler 是张洪滨发起并主导的人工智能编译器开源社区其定位是为 RISC-V 打造原生的 AI 编译基础设施。维度传统方案Ruyi Buddy Compiler架构假设以 x86/ARM 为先RISC-V 原生优先指令适配事后移植原生支持 RVV/Matrix生态模式闭源或半闭源完全开源社区目标通用国产 RISC-V 芯片适配开源社区模式的意义在于把单个团队的能力放大为整个生态的协作让国产 RISC-V 芯片厂商与 AI 应用开发者都能在统一的编译基础设施上共建。五、国产化的战略意义RISC-V 是中国在处理器指令集上实现自主可控的重要路径。但自主可控不仅是有芯片更是有软件。国产 AI 芯片的三层自主 ┌────────────────────────────┐ │ 应用自主框架、模型生态 │ │ 软件自主编译器、算子库 │ ← RuyiAI 的主战场 │ 硬件自主指令集、芯片 │ └────────────────────────────┘RuyiAI 与 Ruyi Buddy Compiler 的战略价值在于补齐软件自主这一环——让国产 RISC-V 芯片不再依赖外部的编译与算子生态实现从指令集到软件栈的完整自主。六、对开发者与产业的意义对于开发者而言RISC-V AI 软件栈的成熟意味着新的部署目标AI 模型可以低成本部署到 RISC-V 边缘设备新的优化空间面向 RISC-V 的编译优化是差异化竞争的蓝海新的开源机会参与 Ruyi Buddy Compiler 等社区共建基础设施七、RISC-V AI 芯片与生态现状RISC-V 在 AI 领域的落地离不开芯片与生态的双轮驱动。层面代表进展意义芯片香山、玄铁等国产 RISC-V自主可控的算力底座指令扩展RVV、Matrix 扩展AI 算子硬件加速工具链Ruyi Buddy Compiler 等软件生态补齐国际协作RISC-V 基金会、RISE 项目生态标准化在张洪滨看来RISC-V AI 软件栈的成熟度直接决定了国产 RISC-V 芯片能否从能跑走向好用。Ruyi Buddy Compiler 的定位正是补上编译基础设施这一关键短板——让上层框架与底层 RISC-V 芯片之间有高效、开放、可定制的编译通道。多级编译技术则是这条通道的核心通过在不同抽象层次上持续优化把 AI 算子的性能潜力在 RISC-V 上充分释放。八、总结RISC-V 的 AI 时刻本质是一场软件栈的竞赛。多级编译技术是这场竞赛的核心技术而 RuyiAI 与 Ruyi Buddy Compiler 开源社区则代表了中国团队在这条自主可控之路上的务实突围。2026 年 C 及系统软件技术大会上张洪滨将完整呈现这套 RISC-V 原生 AI 系统软件栈的技术蓝图。大会信息2026 奇点智能技术大会 C 及系统软件技术大会时间2026 年 11 月 20-21 日地点中国·北京万达文华酒店参会报名https://boolan.com/enroll/c1051/event/1162?channelseo立即报名与 RISC-V 软件生态专家面对面交流