ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

YOLOv13改进策略【注意力机制篇】| CVPR 2021 ParNetAttention 三路并行注意力,浅网络的高效表征

YOLOv13改进策略【注意力机制篇】| CVPR 2021 ParNetAttention 三路并行注意力,浅网络的高效表征 本文基于YOLOv13 官方仓库(iMoonLab/yolov13,ultralytics 8.3.63 fork)实测整理,Windows/CPU 全程可跑。ParNet(Parallel Networks,Goyal et al., CVPR 2021《Non-deep Networks: Building Strong Vision Models with Few Layers》,官方实现为 Google 研究的 TF 版)回答了一个激进的问题:网络能不能只堆 12 层?答案是"能,前提是每层做宽"——它的 ParNet block 用三路并行(SSE 通道门 + 1×1 卷积 + 3×3 卷积)代替深度堆叠。本篇取其中的注意力组件 ParNetAttention(xmu-xiaoma666 标准实现,社区广泛使用):三路相加后 SiLU,一条 SSE 全局门、一条点路、一条空间路。本文把它插入 v13n 主干层 2 之后(64 通道 @160×160 的浅层),实测+45,504 参数、GFLOPs 6.5→8.67,与标准实现逐位一致,3 轮冒烟训练正常收敛。前言注意力机制篇的"插入式"玩法(层 2 之后插入、层号全量顺移)。ParNet 的"非深度"哲学:深度堆叠的收益有上限(梯度路径变长),并行加宽同样能到高精度。ParNetAttention 是 ParNet block 的融合端:SSE(Squeeze-and-Excite Element-wise)给通道门、
返回列表