PyPTO-Gym type_as 算子内核参考基于 pypto.cast 的逐元素类型转换 NPU 实现【免费下载链接】pypto-gymPyPTO-Gym 是基于 PyPTO 编程框架构建的算子与模型样例仓库项目地址: https://gitcode.com/cann/pypto-gym导读type_as是 PyTorch 中高频出现的张量类型转换算子tensor.type_as(other)返回与other相同 dtype 的新张量在大模型的前向计算中常用于 FP32 中间结果回落为 BF16/FP16 的精度收敛操作。PyPTO 没有直接命名为type_as的原子接口本文基于 PyPTO-Gym 仓库中 type_as.md 的 kernel 参考骨架完整讲解如何用pypto.cast实现type_as语义、如何按 batch 轴 loop 切分并整块 cast同时结合 Torch ↔ Pypto 算子对标手册 与仓库中的真实建模代码给出可直接复用的 NPU 内核写法与实战注意事项。读完本文你将掌握type_as的 PyPTO API 映射、Vector 内核五步骨架、占位符约定以及精度相关的最优实践。一、Torchtype_as语义与 PyPTO API 映射1.1type_as的计算语义在 PyTorch 中out tensor.type_as(other) # out.dtype other.dtype且 dtype 继承自 other其语义等价于tensor.to(other.dtype)目标 dtype 不是由调用者显式指定而是取自参比张量other的 dtype。这是它与to(dtype)的核心差异也是映射到 PyPTO 时需要先取other.dtype再 cast的原因。1.2 官方映射结论仓库中的 Torch ↔ Pypto 算子对标手册 将type_as归类为命名映射-差异映射type_as→cast需先取other.dtype再casttype_as.md同时同属于类型转换家族的to(dtype) →cast被归类为纯换名映射to.md。也就是说Torch 算子PyPTO API映射类型关键差异tensor.to(dtype)pypto.cast纯换名目标 dtype 由调用者直接给出tensor.type_as(other)pypto.cast差异映射目标 dtype 需先从other.dtype取出再传给cast两者的内核骨架几乎一致——因为底层执行的都是逐元素类型转换。在 PyPTO 侧只需记住一条规则type_as 取other.dtype pypto.cast。二、type_as kernel 参考骨架逐行解析type_as.md 给出的参考骨架如下pypto.frontend.jit(runtime_options{run_mode: pypto.RunMode.NPU}) def type_as_kernel(a: pypto.Tensor(sl, src_dtype), out: pypto.Tensor(sl, dst_dtype)): for i in pypto.loop(batch, namebatch, unroll_list[1]): a_s pypto.view(a, [1] inner, [i] [0] * len(inner)) pypto.set_vec_tile_shapes(1, *inner) r pypto.cast(a_s, dst_dtype) pypto.assemble(r, [i] [0] * len(inner), out)骨架开头的 Note 一句话点明了切分策略Note: batch 轴 loop 切分cast 逐元素转换轴整块dst_dtype 取自目标张量 dtype。下面按执行顺序逐段拆解。2.1 入口装饰器与张量声明pypto.frontend.jit(runtime_options{run_mode: pypto.RunMode.NPU})pypto.frontend.jit是 PyPTO 的前端 JIT 编译入口将函数体编译为 NPU kernel。runtime_options{run_mode: pypto.RunMode.NPU}明确指定在 NPU 上运行PyPTO 同时支持 SIM 仿真等模式便于在无 NPU 环境做逻辑验证参见 sim-mode.md。def type_as_kernel(a: pypto.Tensor(sl, src_dtype), out: pypto.Tensor(sl, dst_dtype)):参数签名体现了type_as的双 dtype本质a输入张量shape 为sl元素 dtype 为src_dtypeout输出张量shape 与输入相同sl但元素 dtype 为dst_dtype——dst_dtype即other.dtype由调用方在构造out张量时决定。注意 PyPTO 遵循输出由调用方传入的约定kernel 内部不自行分配输出这与 Torch 返回新张量的行为不同需要在使用时显式创建out。2.2 batch 轴 loop 切分for i in pypto.loop(batch, namebatch, unroll_list[1]):pypto.loop(batch, ...)以batch即sl[0]外层轴长度为迭代次数建立循环namebatch为循环命名便于生成代码与调试定位unroll_list[1]声明对迭代次数为 1 的循环进行展开优化是批量轴循环的常见写法。为什么切 batch 轴而不是全量处理原因在于 NPU Vector 单元的片上存储UB容量有限无法一次容纳完整张量。将 batch 轴作为最外层 loop每次迭代只搬运一个 batch 切片进入片上处理从而把片上内存压力限制在单块大小内。这正是示例骨架batch 轴 loop 切分、内层整块模式的动机。2.3 切片视图pypto.viewa_s pypto.view(a, [1] inner, [i] [0] * len(inner))第二个参数[1] inner是切片 shape把a切成 shape 为[1] inner的单 batch 块第三个参数[i] [0] * len(inner)是切片起始偏移batch 轴偏移i内层各轴偏移 0。例如当sl [B, S, D]、inner [S, D]时第i次迭代取的是a[i, :, :]对应的视图。view只建立逻辑视图、不搬运数据真正的数据移动发生在后续算子计算时符合 PyPTO 的懒计算模型。2.4 Vector Tiling 声明pypto.set_vec_tile_shapespypto.set_vec_tile_shapes(1, *inner)type_as是纯逐元素转换属于 Vector 类型算子因此使用 Vector 侧的 Tiling 接口set_vec_tile_shapesCube 算子才需要set_cube_tile_shapes。参数1, *inner与切片 shape[1] inner完全一致表示每次迭代处理的 tile 维度为[1, S, D]这样的单块形状。根据 pypto-api-explore 的硬约束速查TileShape 要求每维 0 且最多 4 维本骨架的 tile 维度完全满足。2.5 逐元素转换pypto.castr pypto.cast(a_s, dst_dtype)这是整个 kernel 的核心计算指令对切片a_s逐元素做 dtype 转换输出 dtype 为dst_dtype。cast 是**逐元素elementwise**操作无跨元素依赖因此内层所有轴都可以整块处理不需要再做更细的切分——这也呼应了 Note 中cast 逐元素转换轴整块的说明。2.6 结果写回pypto.assemblepypto.assemble(r, [i] [0] * len(inner), out)第一个参数r是片上计算得到的临时结果第二个参数[i] [0] * len(inner)是写入out的偏移位置batch 轴偏移i内层偏移 0第三个参数out是全局内存中的输出张量。assemble将每次迭代的单块结果按偏移拼装回完整输出张量与前面的view切片一一对应形成切分—计算—拼装的完整数据流闭环。三、代码骨架占位符约定type_as.md 中的sl、inner、batch、src_dtype、dst_dtype均为占位符完整约定见 examples/README.md占位符含义type_as 场景取值示例sl输入 shape 列表[B, S, D]batch被 loop 的外层轴长度通常sl[0]Binner单次迭代处理的内层 shapesl[1:]如[S, D]src_dtype/dst_dtype元素 dtype如pypto.DT_FP32→pypto.DT_BF16配合 examples/README.md 中的最小可运行 setupimport pypto B, D 8, 128 sl, ol [B, D], [B, D] # type_as 不改变 shapesl ol pypto_dtype pypto.DT_FP32 batch, inner B, [D]即得到一个可编译的最小type_as内核。README 同时强调examples 目录下的每个op.md均为 kernel 参考骨架仅展示接口组合与轴切分模式不是标准模板——loop 轴、unroll_list、tile shape 等需按实际 shape/dtype 与平台约束确定并调优且骨架未逐一经 NPU 编译验证。四、在仓库中的真实应用RMSNorm 的精度回落type_as并非纸面示例。在仓库真实的大模型建模代码中type_as是 FP32 精度链收敛到模型精度的标准收尾手段。以 modeling_qwen3_5.py 的Qwen3_5RMSNorm为例class Qwen3_5RMSNorm(nn.Module): def __init__(self, dim: int, eps: float 1e-6): super().__init__() self.eps eps self.weight nn.Parameter(torch.zeros(dim)) def _norm(self, x): return x * torch.rsqrt(x.pow(2).mean(-1, keepdimTrue) self.eps) def forward(self, x): output self._norm(x.float()) # 1. 提升到 FP32 计算 # Llama does x.to(float16) * w whilst Qwen3_5 is (x * w).to(float16) output output * (1.0 self.weight.float()) return output.type_as(x) # 2. 回落到输入 dtype其中self._norm(x.float())将输入提升为 FP32 后做 RMSNorm 归一化计算规避低精度下的累加误差加权计算完成后output.type_as(x)将 FP32 结果回落为输入x的 dtypeBF16/FP16恢复模型的主流精度表示。在 modeling_qwen3_5.py、modeling_gemma4.py、modeling_llada2_moe.py 等文件中也存在同样的.type_as(x)收尾模式——这说明type_as即 PyPTO 侧的cast是规范化层、注意力残差等 FP32 计算链上必不可少的精度回落算子。当这些模型被移植到 PyPTO 算子实现时type_as内核骨架正是承载这一回落动作的模板。仓库测试中还记录了更细粒度的 cast 用法在 test_minimax_m3_grouped_gemm.py 的注释中明确写到 The kernel casts the swigluoai output to BF16 before mm2 (pypto.cast(..., DT_BF16))即在两次 matmul 之间用pypto.cast将中间结果转为 BF16 再进入第二次矩阵乘——这是cast在真实算子流水中的又一个落地场景。五、Tiling 与切分策略要点5.1 为什么是 Vector 而非 Cubepypto-api-explore 内嵌的算子类型判断规则含matmul/→ Cube 类型 →set_cube_tile_shapes仅逐元素/归约 → Vector 类型 →set_vec_tile_shapesmatmul 逐元素 → 混合类型 → 两者都需要。type_as只做逐元素转换不含任何矩阵乘因此类型判定为Vector 算子使用set_vec_tile_shapes且无需配置 Cube 侧的 32 字节对齐与 L1 buffer 容量约束。5.2 内层整块的原因cast 属于逐元素操作任意两个输出元素之间不存在数据依赖可以并行无依赖地处理整个内层轴。因此除了 batch 轴的 loop 切分外内层无需再按其他轴拆分轴整块既保证了代码简洁也最大限度地减少了切分开销。与之形成对比的是sort、glu、diff等需要在 last-dim 折半处理或存在跨元素依赖的算子它们的内层形状会变化或需要额外处理见 examples/README.md 中inner_out、half等占位符的说明。5.3 与精度相关的 cast 约束仓库 strategy-comparison.md 记录了一条与 cast 强相关的精度约束BF16 输入在sum前需先cast到 FP32pypto.sum存在 FP32 硬约束。这提示在 PyPTO 算子开发中cast往往不仅是 dtype 转换工具更是满足下游计算 API 精度/类型约束的前置步骤——写type_as内核时若输出被下游sum/matmul等消费需要留意下游 API 的 dtype 硬约束是否匹配。六、常见问题与实战建议问题处理建议目标 dtype 从哪来type_as的语义决定了dst_dtype必须取自other.dtype在 PyPTO 侧体现为构造out张量时使用other.dtype再传给 kernel输出是否自动分配PyPTO kernel 不自动分配输出需调用方预先创建与输入 shape 相同、dtype 为dst_dtype的out张量传入loop 轴与 tile 如何选骨架默认 batch 轴 loop、内层整块实际项目中应按 UB 容量与 shape 调整unroll_list与set_vec_tile_shapes参数骨架未逐一验证动态 shape 场景计算类 API 在编译期需要 concrete shape若存在动态轴需采用 loop 切 tile 策略并做风险评估参见 execution-constraints.md 相关章节与to内核的差异仅dst_dtype的来源不同to直接传 dtypetype_as从other取 dtypekernel 骨架本身可复用是否支持 inplacePyPTO 无 inplace 语义参见 mul_.md 的说明原位转换一律通过写回out实现七、小结type_as在 PyPTO 中不存在同名原子接口但通过取other.dtypepypto.cast两步即可完整等价实现。仓库中的 type_as.md 骨架给出了标准写法batch 轴 loop 切分 pypto.view切片 set_vec_tile_shapes声明 Vector tile pypto.cast整块转换 pypto.assemble拼装回写。该模式在真实模型如 Qwen3.5 的 RMSNorm FP32 精度回落与算子流水如 grouped GEMM 的 mm2 前 BF16 cast中均有落地印证是 PyPTO 算子开发中高频复用的 Vector 内核模板之一。需要进一步参考时可对照 to.md同族骨架、torch-pypto-op-mapping.md映射总表以及 examples/README.md占位符与最小可运行 setup组合使用。【免费下载链接】pypto-gymPyPTO-Gym 是基于 PyPTO 编程框架构建的算子与模型样例仓库项目地址: https://gitcode.com/cann/pypto-gym创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 PyPTO-Gym type_as 算子内核参考：基于 pypto.cast 的逐元素类型转换 NPU 实现
PyPTO-Gym type_as 算子内核参考基于 pypto.cast 的逐元素类型转换 NPU 实现【免费下载链接】pypto-gymPyPTO-Gym 是基于 PyPTO 编程框架构建的算子与模型样例仓库项目地址: https://gitcode.com/cann/pypto-gym导读type_as是 PyTorch 中高频出现的张量类型转换算子tensor.type_as(other)返回与other相同 dtype 的新张量在大模型的前向计算中常用于 FP32 中间结果回落为 BF16/FP16 的精度收敛操作。PyPTO 没有直接命名为type_as的原子接口本文基于 PyPTO-Gym 仓库中 type_as.md 的 kernel 参考骨架完整讲解如何用pypto.cast实现type_as语义、如何按 batch 轴 loop 切分并整块 cast同时结合 Torch ↔ Pypto 算子对标手册 与仓库中的真实建模代码给出可直接复用的 NPU 内核写法与实战注意事项。读完本文你将掌握type_as的 PyPTO API 映射、Vector 内核五步骨架、占位符约定以及精度相关的最优实践。一、Torchtype_as语义与 PyPTO API 映射1.1type_as的计算语义在 PyTorch 中out tensor.type_as(other) # out.dtype other.dtype且 dtype 继承自 other其语义等价于tensor.to(other.dtype)目标 dtype 不是由调用者显式指定而是取自参比张量other的 dtype。这是它与to(dtype)的核心差异也是映射到 PyPTO 时需要先取other.dtype再 cast的原因。1.2 官方映射结论仓库中的 Torch ↔ Pypto 算子对标手册 将type_as归类为命名映射-差异映射type_as→cast需先取other.dtype再casttype_as.md同时同属于类型转换家族的to(dtype) →cast被归类为纯换名映射to.md。也就是说Torch 算子PyPTO API映射类型关键差异tensor.to(dtype)pypto.cast纯换名目标 dtype 由调用者直接给出tensor.type_as(other)pypto.cast差异映射目标 dtype 需先从other.dtype取出再传给cast两者的内核骨架几乎一致——因为底层执行的都是逐元素类型转换。在 PyPTO 侧只需记住一条规则type_as 取other.dtype pypto.cast。二、type_as kernel 参考骨架逐行解析type_as.md 给出的参考骨架如下pypto.frontend.jit(runtime_options{run_mode: pypto.RunMode.NPU}) def type_as_kernel(a: pypto.Tensor(sl, src_dtype), out: pypto.Tensor(sl, dst_dtype)): for i in pypto.loop(batch, namebatch, unroll_list[1]): a_s pypto.view(a, [1] inner, [i] [0] * len(inner)) pypto.set_vec_tile_shapes(1, *inner) r pypto.cast(a_s, dst_dtype) pypto.assemble(r, [i] [0] * len(inner), out)骨架开头的 Note 一句话点明了切分策略Note: batch 轴 loop 切分cast 逐元素转换轴整块dst_dtype 取自目标张量 dtype。下面按执行顺序逐段拆解。2.1 入口装饰器与张量声明pypto.frontend.jit(runtime_options{run_mode: pypto.RunMode.NPU})pypto.frontend.jit是 PyPTO 的前端 JIT 编译入口将函数体编译为 NPU kernel。runtime_options{run_mode: pypto.RunMode.NPU}明确指定在 NPU 上运行PyPTO 同时支持 SIM 仿真等模式便于在无 NPU 环境做逻辑验证参见 sim-mode.md。def type_as_kernel(a: pypto.Tensor(sl, src_dtype), out: pypto.Tensor(sl, dst_dtype)):参数签名体现了type_as的双 dtype本质a输入张量shape 为sl元素 dtype 为src_dtypeout输出张量shape 与输入相同sl但元素 dtype 为dst_dtype——dst_dtype即other.dtype由调用方在构造out张量时决定。注意 PyPTO 遵循输出由调用方传入的约定kernel 内部不自行分配输出这与 Torch 返回新张量的行为不同需要在使用时显式创建out。2.2 batch 轴 loop 切分for i in pypto.loop(batch, namebatch, unroll_list[1]):pypto.loop(batch, ...)以batch即sl[0]外层轴长度为迭代次数建立循环namebatch为循环命名便于生成代码与调试定位unroll_list[1]声明对迭代次数为 1 的循环进行展开优化是批量轴循环的常见写法。为什么切 batch 轴而不是全量处理原因在于 NPU Vector 单元的片上存储UB容量有限无法一次容纳完整张量。将 batch 轴作为最外层 loop每次迭代只搬运一个 batch 切片进入片上处理从而把片上内存压力限制在单块大小内。这正是示例骨架batch 轴 loop 切分、内层整块模式的动机。2.3 切片视图pypto.viewa_s pypto.view(a, [1] inner, [i] [0] * len(inner))第二个参数[1] inner是切片 shape把a切成 shape 为[1] inner的单 batch 块第三个参数[i] [0] * len(inner)是切片起始偏移batch 轴偏移i内层各轴偏移 0。例如当sl [B, S, D]、inner [S, D]时第i次迭代取的是a[i, :, :]对应的视图。view只建立逻辑视图、不搬运数据真正的数据移动发生在后续算子计算时符合 PyPTO 的懒计算模型。2.4 Vector Tiling 声明pypto.set_vec_tile_shapespypto.set_vec_tile_shapes(1, *inner)type_as是纯逐元素转换属于 Vector 类型算子因此使用 Vector 侧的 Tiling 接口set_vec_tile_shapesCube 算子才需要set_cube_tile_shapes。参数1, *inner与切片 shape[1] inner完全一致表示每次迭代处理的 tile 维度为[1, S, D]这样的单块形状。根据 pypto-api-explore 的硬约束速查TileShape 要求每维 0 且最多 4 维本骨架的 tile 维度完全满足。2.5 逐元素转换pypto.castr pypto.cast(a_s, dst_dtype)这是整个 kernel 的核心计算指令对切片a_s逐元素做 dtype 转换输出 dtype 为dst_dtype。cast 是**逐元素elementwise**操作无跨元素依赖因此内层所有轴都可以整块处理不需要再做更细的切分——这也呼应了 Note 中cast 逐元素转换轴整块的说明。2.6 结果写回pypto.assemblepypto.assemble(r, [i] [0] * len(inner), out)第一个参数r是片上计算得到的临时结果第二个参数[i] [0] * len(inner)是写入out的偏移位置batch 轴偏移i内层偏移 0第三个参数out是全局内存中的输出张量。assemble将每次迭代的单块结果按偏移拼装回完整输出张量与前面的view切片一一对应形成切分—计算—拼装的完整数据流闭环。三、代码骨架占位符约定type_as.md 中的sl、inner、batch、src_dtype、dst_dtype均为占位符完整约定见 examples/README.md占位符含义type_as 场景取值示例sl输入 shape 列表[B, S, D]batch被 loop 的外层轴长度通常sl[0]Binner单次迭代处理的内层 shapesl[1:]如[S, D]src_dtype/dst_dtype元素 dtype如pypto.DT_FP32→pypto.DT_BF16配合 examples/README.md 中的最小可运行 setupimport pypto B, D 8, 128 sl, ol [B, D], [B, D] # type_as 不改变 shapesl ol pypto_dtype pypto.DT_FP32 batch, inner B, [D]即得到一个可编译的最小type_as内核。README 同时强调examples 目录下的每个op.md均为 kernel 参考骨架仅展示接口组合与轴切分模式不是标准模板——loop 轴、unroll_list、tile shape 等需按实际 shape/dtype 与平台约束确定并调优且骨架未逐一经 NPU 编译验证。四、在仓库中的真实应用RMSNorm 的精度回落type_as并非纸面示例。在仓库真实的大模型建模代码中type_as是 FP32 精度链收敛到模型精度的标准收尾手段。以 modeling_qwen3_5.py 的Qwen3_5RMSNorm为例class Qwen3_5RMSNorm(nn.Module): def __init__(self, dim: int, eps: float 1e-6): super().__init__() self.eps eps self.weight nn.Parameter(torch.zeros(dim)) def _norm(self, x): return x * torch.rsqrt(x.pow(2).mean(-1, keepdimTrue) self.eps) def forward(self, x): output self._norm(x.float()) # 1. 提升到 FP32 计算 # Llama does x.to(float16) * w whilst Qwen3_5 is (x * w).to(float16) output output * (1.0 self.weight.float()) return output.type_as(x) # 2. 回落到输入 dtype其中self._norm(x.float())将输入提升为 FP32 后做 RMSNorm 归一化计算规避低精度下的累加误差加权计算完成后output.type_as(x)将 FP32 结果回落为输入x的 dtypeBF16/FP16恢复模型的主流精度表示。在 modeling_qwen3_5.py、modeling_gemma4.py、modeling_llada2_moe.py 等文件中也存在同样的.type_as(x)收尾模式——这说明type_as即 PyPTO 侧的cast是规范化层、注意力残差等 FP32 计算链上必不可少的精度回落算子。当这些模型被移植到 PyPTO 算子实现时type_as内核骨架正是承载这一回落动作的模板。仓库测试中还记录了更细粒度的 cast 用法在 test_minimax_m3_grouped_gemm.py 的注释中明确写到 The kernel casts the swigluoai output to BF16 before mm2 (pypto.cast(..., DT_BF16))即在两次 matmul 之间用pypto.cast将中间结果转为 BF16 再进入第二次矩阵乘——这是cast在真实算子流水中的又一个落地场景。五、Tiling 与切分策略要点5.1 为什么是 Vector 而非 Cubepypto-api-explore 内嵌的算子类型判断规则含matmul/→ Cube 类型 →set_cube_tile_shapes仅逐元素/归约 → Vector 类型 →set_vec_tile_shapesmatmul 逐元素 → 混合类型 → 两者都需要。type_as只做逐元素转换不含任何矩阵乘因此类型判定为Vector 算子使用set_vec_tile_shapes且无需配置 Cube 侧的 32 字节对齐与 L1 buffer 容量约束。5.2 内层整块的原因cast 属于逐元素操作任意两个输出元素之间不存在数据依赖可以并行无依赖地处理整个内层轴。因此除了 batch 轴的 loop 切分外内层无需再按其他轴拆分轴整块既保证了代码简洁也最大限度地减少了切分开销。与之形成对比的是sort、glu、diff等需要在 last-dim 折半处理或存在跨元素依赖的算子它们的内层形状会变化或需要额外处理见 examples/README.md 中inner_out、half等占位符的说明。5.3 与精度相关的 cast 约束仓库 strategy-comparison.md 记录了一条与 cast 强相关的精度约束BF16 输入在sum前需先cast到 FP32pypto.sum存在 FP32 硬约束。这提示在 PyPTO 算子开发中cast往往不仅是 dtype 转换工具更是满足下游计算 API 精度/类型约束的前置步骤——写type_as内核时若输出被下游sum/matmul等消费需要留意下游 API 的 dtype 硬约束是否匹配。六、常见问题与实战建议问题处理建议目标 dtype 从哪来type_as的语义决定了dst_dtype必须取自other.dtype在 PyPTO 侧体现为构造out张量时使用other.dtype再传给 kernel输出是否自动分配PyPTO kernel 不自动分配输出需调用方预先创建与输入 shape 相同、dtype 为dst_dtype的out张量传入loop 轴与 tile 如何选骨架默认 batch 轴 loop、内层整块实际项目中应按 UB 容量与 shape 调整unroll_list与set_vec_tile_shapes参数骨架未逐一验证动态 shape 场景计算类 API 在编译期需要 concrete shape若存在动态轴需采用 loop 切 tile 策略并做风险评估参见 execution-constraints.md 相关章节与to内核的差异仅dst_dtype的来源不同to直接传 dtypetype_as从other取 dtypekernel 骨架本身可复用是否支持 inplacePyPTO 无 inplace 语义参见 mul_.md 的说明原位转换一律通过写回out实现七、小结type_as在 PyPTO 中不存在同名原子接口但通过取other.dtypepypto.cast两步即可完整等价实现。仓库中的 type_as.md 骨架给出了标准写法batch 轴 loop 切分 pypto.view切片 set_vec_tile_shapes声明 Vector tile pypto.cast整块转换 pypto.assemble拼装回写。该模式在真实模型如 Qwen3.5 的 RMSNorm FP32 精度回落与算子流水如 grouped GEMM 的 mm2 前 BF16 cast中均有落地印证是 PyPTO 算子开发中高频复用的 Vector 内核模板之一。需要进一步参考时可对照 to.md同族骨架、torch-pypto-op-mapping.md映射总表以及 examples/README.md占位符与最小可运行 setup组合使用。【免费下载链接】pypto-gymPyPTO-Gym 是基于 PyPTO 编程框架构建的算子与模型样例仓库项目地址: https://gitcode.com/cann/pypto-gym创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考