简介本资源是面向计算机视觉研究者与深度学习开发者的基础训练数据集专为实例分割任务设计适用于Mask R-CNN、SOLO、BlendMask等主流模型的训练与评估。压缩包共81个文件含80张PNG格式图像涵盖多场景、多角度真实物体实例及1个标准COCO格式JSON标注文件完整提供边界框、像素级实例掩码、类别标签80类及实例ID可直接用于数据加载与模型训练。资源大小为178.16MB结构精简、开箱即用避免冗余元数据干扰适合入门到进阶的视觉算法实践。目前已有1637人学习下载读者可快速获得符合COCO规范的轻量级标注样本集配套图像与标注严格对齐便于调试数据预处理流程、验证mask解码逻辑、构建自定义数据加载器并作为小规模基准验证模型收敛性与分割精度。1. 实例分割 COCO 标注数据集不是“拿来就能训”的压缩包而是结构严谨、字段语义明确的 JSON图像协同体当你下载到实例分割coco标注数据集.zip解压后看到annotations/instances_train2017.json和train2017/图片目录时别急着扔进 YOLO 或 Mask R-CNN 训练脚本——COCO 格式不是文件夹路径堆砌而是一套带层级约束的结构化协议categories定义类别 ID 与名称映射images描述每张图的宽高、文件名与唯一 IDannotations则通过image_id、category_id、segmentationRLE 或多边形点序列和bbox四元组将像素级掩码与目标框、类别严格绑定。很多初学者直接用cv2.imread()读图、json.load()解析 JSON 后就写 dataloader结果在segmentation字段遇到 RLE 编码报错、多边形点数奇偶不匹配、或iscrowd1的群体标注被误当单实例处理。这本质是没理解 COCO 的三重契约图像文件名必须与images[].file_name完全一致含大小写与扩展名annotations[].image_id必须存在于images[]中且每个segmentation的点坐标必须落在对应图像宽高范围内。适合正在从目标检测转向实例分割、需本地复现 baseline 或调试自定义标注工具的工程师——你不需要懂 PyTorch 源码但得清楚torchvision.datasets.CocoDetection内部如何校验这些字段以及为什么mask_utils.decode()会返回全零矩阵。2. 解析 COCO JSON 的核心逻辑从instances_train2017.json提取可训练的(img_path, bbox, mask_polygons, category_name)元组2.1 理解 COCO annotation 字段的语义分层与容错边界COCO 的annotations数组中每个对象包含 7 个关键字段id标注唯一 ID、image_id关联图像、category_id类别索引、segmentation掩码编码、area面积、bbox左上角 x,y 宽高、iscrowd是否为群体标注。其中segmentation是实例分割的核心差异点当iscrowd0时segmentation是多边形点列表如[[x1,y1,x2,y2,...]]每个子列表为一个封闭轮廓当iscrowd1时则为 RLE 编码字符串需pycocotools.mask.decode()解码。area字段并非冗余——它用于过滤极小目标如area 100可跳过避免因浮点误差导致 mask 面积为 0。bbox虽由segmentation推导而来但 COCO 规范要求其必须精确包围所有掩码点因此训练时若只用 mask 生成 bbox可能违反原始标注一致性。提示iscrowd1的标注不能直接用于 Mask R-CNN 的 instance-level loss 计算需在 dataloader 中显式过滤或单独处理。YOLOv8-seg 或 YOLOv11 的实例分割分支默认跳过iscrowd1样本这是其与 COCO 官方评估协议对齐的关键设计。2.2 用 Python 手动解析并验证 COCO JSON 的最小可行代码以下代码从instances_train2017.json中提取前 3 张图的完整标注信息并校验关键约束import json import os from pathlib import Path # 加载 COCO JSON coco_json Path(annotations/instances_train2017.json) with open(coco_json) as f: coco_data json.load(f) # 构建 image_id - image_info 映射 img_id_to_info {img[id]: img for img in coco_data[images]} # 构建 category_id - category_name 映射 cat_id_to_name {cat[id]: cat[name] for cat in coco_data[categories]} # 遍历前 3 条 annotations提取可训练元组 valid_samples [] for ann in coco_data[annotations][:3]: img_id ann[image_id] if img_id not in img_id_to_info: print(fWarning: annotation {ann[id]} references missing image_id {img_id}) continue img_info img_id_to_info[img_id] img_path Path(train2017) / img_info[file_name] # 校验图像文件是否存在 if not img_path.exists(): print(fWarning: image file {img_path} not found) continue # 校验 segmentation 格式 seg ann[segmentation] if isinstance(seg, list) and len(seg) 0: # 多边形格式每个子列表为 [x1,y1,x2,y2,...]点数必须为偶数且 ≥6 poly_points seg[0] if len(poly_points) % 2 ! 0 or len(poly_points) 6: print(fWarning: invalid polygon points count in annotation {ann[id]}) continue # 检查点是否在图像范围内 w, h img_info[width], img_info[height] for i in range(0, len(poly_points), 2): x, y poly_points[i], poly_points[i1] if not (0 x w and 0 y h): print(fWarning: point ({x},{y}) out of image bounds {w}x{h}) break else: valid_samples.append({ img_path: str(img_path), bbox: ann[bbox], # [x, y, width, height] segmentation: seg, # [[x1,y1,x2,y2,...]] category_name: cat_id_to_name.get(ann[category_id], unknown) }) else: # RLE 格式需 pycocotools 解码此处跳过 continue print(fExtracted {len(valid_samples)} valid samples)这段代码执行后valid_samples是一个字典列表每个元素含img_path绝对路径字符串、bbox4 元浮点列表、segmentation多边形点列表和category_name字符串。注意bbox值是浮点数而非整数——COCO 规范允许 sub-pixel 精度训练时应保留原精度而非np.round()截断。segmentation中的点坐标是归一化还是绝对答案是绝对所有坐标单位为像素与img_info[width]/[height]单位一致无需额外缩放。2.3 COCO 数据集目录结构的硬性约定与常见错误修复COCO 官方数据集强制要求以下目录结构coco_root/ ├── annotations/ │ ├── instances_train2017.json │ ├── instances_val2017.json │ └── ... ├── train2017/ # 必须存在文件名与 JSON 中 images[].file_name 完全一致 ├── val2017/ └── test2017/常见错误包括train2017/下图片扩展名为.JPG但 JSON 中file_name为000000000009.jpg大小写不匹配→ Linux 系统下路径失效instances_train2017.json中images[].width与实际cv2.imread()读取的图像宽度不符如 JPEG EXIF 旋转未处理→ 导致 mask 坐标偏移annotations[].segmentation包含空列表[]或None→pycocotools会抛KeyError。修复方法用exifread库读取 EXIF Orientation 并用PIL.ImageOps.exif_transpose()自动校正用正则批量统一图片扩展名遍历所有segmentation字段过滤掉空值# 过滤无效 segmentation valid_anns [ ann for ann in coco_data[annotations] if ann.get(segmentation) and isinstance(ann[segmentation], list) and len(ann[segmentation]) 0 ]3. 将 COCO 格式转换为 YOLOv8/YOLOv11 实例分割所需的labels/目录结构3.1 YOLO 实例分割标签文件的物理格式与字段含义YOLOv8-seg 及 YOLOv11 要求每个图像对应一个.txt标签文件存于labels/目录文件名与图像名相同仅扩展名不同。每行代表一个实例格式为class_id x_center_norm y_center_norm width_norm height_norm polygon_point_1_x_norm polygon_point_1_y_norm ...其中class_id整数从 0 开始编号对应names列表索引归一化坐标x_center_norm (bbox_x bbox_width/2) / image_width其余同理多边形点必须为偶数个且按顺时针或逆时针顺序闭合首尾点无需重复点坐标也需归一化x_norm x_pixel / image_width每行末尾不可有空格或换行符。注意YOLO 不接受 RLE 编码所有segmentation必须转为多边形点序列。若原始 COCO 标注含 RLEiscrowd1必须跳过或用mask_utils.decode()cv2.findContours()提取外轮廓近似多边形。3.2 从 COCO JSON 生成 YOLO 标签文件的完整脚本以下脚本将instances_train2017.json转换为yolo_labels/train/目录下的.txt文件import json import os from pathlib import Path import numpy as np from pycocotools import mask as maskUtils def coco_to_yolo_segmentation(coco_json_path, img_dir, label_dir, splittrain): Convert COCO instance segmentation annotations to YOLO format. Only processes iscrowd0 annotations with polygon segmentation. with open(coco_json_path) as f: coco_data json.load(f) # Build mappings img_id_to_info {img[id]: img for img in coco_data[images]} cat_id_to_idx {cat[id]: idx for idx, cat in enumerate(coco_data[categories])} # Create label directory label_dir Path(label_dir) / split label_dir.mkdir(parentsTrue, exist_okTrue) # Process each image for img_info in coco_data[images]: img_id img_info[id] img_path Path(img_dir) / img_info[file_name] label_path label_dir / img_path.with_suffix(.txt).name # Find all annotations for this image img_anns [ann for ann in coco_data[annotations] if ann[image_id] img_id and ann[iscrowd] 0] lines [] for ann in img_anns: cat_id ann[category_id] if cat_id not in cat_id_to_idx: continue class_idx cat_id_to_idx[cat_id] # Get segmentation points (only polygon format) seg ann[segmentation] if not isinstance(seg, list) or len(seg) 0: continue poly seg[0] # First polygon if len(poly) 6 or len(poly) % 2 ! 0: continue # Normalize coordinates w, h img_info[width], img_info[height] norm_poly [] for i in range(0, len(poly), 2): x_norm max(0, min(1, poly[i] / w)) y_norm max(0, min(1, poly[i1] / h)) norm_poly.extend([x_norm, y_norm]) # Format line: class_id normalized bbox center width height normalized polygon bbox ann[bbox] # [x, y, w, h] x_center (bbox[0] bbox[2]/2) / w y_center (bbox[1] bbox[3]/2) / h bbox_w bbox[2] / w bbox_h bbox[3] / h line [str(class_idx), str(x_center), str(y_center), str(bbox_w), str(bbox_h)] line.extend([str(p) for p in norm_poly]) lines.append( .join(line)) # Write label file if lines: with open(label_path, w) as f: f.write(\n.join(lines)) else: # Create empty file to maintain 1:1 image-label mapping label_path.touch() # Usage coco_to_yolo_segmentation( coco_json_pathannotations/instances_train2017.json, img_dirtrain2017, label_diryolo_labels, splittrain )该脚本关键点max(0, min(1, ...))确保归一化坐标不越界避免 YOLO 训练时报ValueError: all the input arrays must have same number of dimensions对iscrowd1的标注直接跳过符合 YOLO 官方实现即使某图无有效标注也创建空.txt文件保证os.listdir(images/train/)与os.listdir(labels/train/)数量一致——这是 YOLO 数据加载器的硬性要求poly点序列未做 Douglas-Peucker 简化保留原始精度若需减小文件体积可在norm_poly生成后插入from shapely.geometry import Polygon; poly_obj Polygon(np.array(norm_poly).reshape(-1,2)); simplified poly_obj.simplify(0.001)。3.3 验证 YOLO 标签文件是否符合规范的检查清单运行转换后执行以下命令验证# 1. 检查 labels/ 与 images/ 文件名是否一一对应 diff (ls images/train/ | sort) (ls labels/train/ | sort | sed s/.txt$/.jpg/) | grep ^ # 2. 检查单个标签文件格式取第一个 head -n1 labels/train/000000000009.txt # 输出应为0 0.512 0.345 0.211 0.189 0.492 0.321 0.534 0.321 ... # 3. 统计每行点数是否为偶数polygon 点数 4 bbox 值 总字段数 awk {print NF % 2} labels/train/*.txt | grep 1 | head -5 # 若输出为空说明所有行字段数为偶数正确若NF % 2输出1表示某行字段数为奇数——通常是 polygon 点数为奇数需回溯检查seg[0]是否被截断。4. 在 YOLOv11 中加载 COCO 转换后的数据集进行实例分割训练4.1 YOLOv11 的 dataset.yaml 配置要点与路径陷阱YOLOv11 要求dataset.yaml文件明确定义train,val,nc,names字段。对于 COCO 转换后的数据典型配置如下train: ../yolo_labels/train val: ../yolo_labels/val nc: 80 names: [person, bicycle, car, motorcycle, airplane, bus, train, truck, boat, traffic light, ...]关键陷阱train和val路径是相对于dataset.yaml文件所在目录的相对路径而非相对于 YOLOv11 项目根目录nc必须等于names列表长度且names顺序必须与 COCOcategories中id从小到大排序一致即categories[0][name]对应names[0]若names缺失某类如 COCO 有 80 类但只训 10 类nc仍为 80但names只列 10 个——这会导致class_id索引错乱必须严格按categories顺序裁剪names并同步更新nc。4.2 启动 YOLOv11 实例分割训练的最小命令与参数说明yolo train \ modelyolov11-seg.pt \ datadataset.yaml \ epochs100 \ batch16 \ imgsz640 \ namecoco_yolov11_seg \ workers8 \ cacheTrue \ device0,1 \ projectruns/segment参数详解modelyolov11-seg.pt预训练权重路径必须为支持实例分割的版本含segment头cacheTrue将图像和标签缓存到 RAM加速 epoch 间迭代但需确保内存 ≥ 64GBworkers8数据加载进程数设为 CPU 核心数的 1.5 倍如 12 核 CPU 设 18device0,1指定 GPU ID多卡训练时用逗号分隔projectruns/segment日志和权重保存根目录name为其子目录。提示首次训练建议加--exist-ok参数避免因coco_yolov11_seg目录已存在而中断若需 resume改用resumeTrue并指定ckptruns/segment/coco_yolov11_seg/weights/last.pt。4.3 训练过程中的关键监控指标与失败信号启动后实时关注runs/segment/coco_yolov11_seg/results.csv的最后几行box_loss,cls_loss,seg_loss应随 epoch 下降若seg_loss持续 0.5 且不降可能是 polygon 点数不足或归一化错误metrics/mAP50-95(B)和metrics/mAP50-95(M)分别为目标检测与实例分割 mAP后者应比前者低 5~10 个百分点因 mask 更难gpu_mem若接近显存上限如 24GB 卡显示23.8G需降低batch或imgsz。常见失败信号RuntimeError: CUDA error: device-side assert triggered通常因segmentation点坐标越界1 或 0ZeroDivisionError: division by zero某 batch 中所有样本的seg_loss为 nan源于空 mask 或全零 maskFileNotFoundError: No such file or directory: labels/train/000000000009.txt路径配置错误或文件名大小写不匹配。5. COCO 实例分割数据集的进阶验证技巧用 OpenCV 可视化 mask 与 bbox 对齐度5.1 编写可视化脚本确认 polygon 点序列与原始图像像素级对齐训练前必须人工抽检至少 10 张图的 mask 渲染效果。以下脚本读取一张 COCO 图像及其所有segmentation用 OpenCV 绘制多边形掩码并叠加 bboximport cv2 import numpy as np import json from pathlib import Path def visualize_coco_mask(img_path, ann, categories): Visualize a single COCO annotation on its image. ann: dict from annotations array img cv2.imread(str(img_path)) if img is None: raise FileNotFoundError(fImage not found: {img_path}) # Draw bounding box bbox ann[bbox] # [x, y, w, h] x, y, w, h map(int, bbox) cv2.rectangle(img, (x, y), (xw, yh), (0, 255, 0), 2) # Draw segmentation polygon seg ann[segmentation] if isinstance(seg, list) and len(seg) 0: poly np.array(seg[0], dtypenp.int32).reshape(-1, 2) # Clip points to image bounds poly[:, 0] np.clip(poly[:, 0], 0, img.shape[1]-1) poly[:, 1] np.clip(poly[:, 1], 0, img.shape[0]-1) cv2.polylines(img, [poly], isClosedTrue, color(255, 0, 0), thickness2) # Fill polygon with semi-transparent red mask np.zeros(img.shape[:2], dtypenp.uint8) cv2.fillPoly(mask, [poly], 1) overlay img.copy() overlay[mask 1] (0, 0, 255) # BGR red cv2.addWeighted(overlay, 0.3, img, 0.7, 0, img) # Add category text cat_name categories[ann[category_id]-1][name] # COCO categories start from 1 cv2.putText(img, cat_name, (x, y-10), cv2.FONT_HERSHEY_SIMPLEX, 0.6, (0,255,0), 2) return img # Load COCO data with open(annotations/instances_train2017.json) as f: coco_data json.load(f) categories coco_data[categories] img_id_to_info {img[id]: img for img in coco_data[images]} # Pick first image with annotations sample_img_info coco_data[images][0] sample_img_path Path(train2017) / sample_img_info[file_name] sample_anns [ann for ann in coco_data[annotations] if ann[image_id] sample_img_info[id] and ann[iscrowd] 0] for ann in sample_anns[:3]: # Visualize first 3 annotations vis_img visualize_coco_mask(sample_img_path, ann, categories) cv2.imshow(COCO Annotation, vis_img) cv2.waitKey(0) cv2.destroyAllWindows()运行此脚本重点观察红色多边形是否完全包裹绿色 bbox若 polygon 明显小于 bbox说明segmentation点被错误截断多边形边缘是否与物体真实轮廓贴合若锯齿严重可能是原始标注点数过少需在标注工具中启用更高精度描点文字标签是否显示正确类别若为unknown检查categories索引是否从 0 开始COCO JSON 中category_id从 1 开始代码中ann[category_id]-1已修正。5.2 用 COCO API 进行自动化完整性校验的三个必检项安装pycocotools后运行以下校验脚本from pycocotools.coco import COCO import numpy as np coco COCO(annotations/instances_train2017.json) # 1. 检查所有 segmentation 面积是否与 bbox area 一致容差 10% for ann_id in coco.getAnnIds(): ann coco.loadAnns(ann_id)[0] if ann[iscrowd] 0: mask coco.annToMask(ann) mask_area np.sum(mask) if abs(mask_area - ann[area]) / ann[area] 0.1: print(fArea mismatch for ann {ann_id}: mask{mask_area}, ann{ann[area]}) # 2. 检查图像宽高是否与实际文件一致 for img_id in coco.getImgIds()[:100]: # Check first 100 images img_info coco.loadImgs(img_id)[0] img_path Path(train2017) / img_info[file_name] if img_path.exists(): img cv2.imread(str(img_path)) if img is not None and (img.shape[1] ! img_info[width] or img.shape[0] ! img_info[height]): print(fSize mismatch for {img_path}: reported {img_info[width]}x{img_info[height]}, actual {img.shape[1]}x{img.shape[0]}) # 3. 检查 category_id 是否连续且无跳跃 cat_ids sorted(set(ann[category_id] for ann in coco.dataset[annotations])) if cat_ids ! list(range(1, len(cat_ids)1)): print(Category IDs are not contiguous starting from 1)该脚本输出为空才表明数据集达到可训练的基线质量。任何一项失败都需回溯到第 2 章的解析逻辑或第 3 章的转换脚本中定位问题。本文还有配套的精品资源点击获取 COCO实例分割数据集解析与YOLO格式转换指南
简介本资源是面向计算机视觉研究者与深度学习开发者的基础训练数据集专为实例分割任务设计适用于Mask R-CNN、SOLO、BlendMask等主流模型的训练与评估。压缩包共81个文件含80张PNG格式图像涵盖多场景、多角度真实物体实例及1个标准COCO格式JSON标注文件完整提供边界框、像素级实例掩码、类别标签80类及实例ID可直接用于数据加载与模型训练。资源大小为178.16MB结构精简、开箱即用避免冗余元数据干扰适合入门到进阶的视觉算法实践。目前已有1637人学习下载读者可快速获得符合COCO规范的轻量级标注样本集配套图像与标注严格对齐便于调试数据预处理流程、验证mask解码逻辑、构建自定义数据加载器并作为小规模基准验证模型收敛性与分割精度。1. 实例分割 COCO 标注数据集不是“拿来就能训”的压缩包而是结构严谨、字段语义明确的 JSON图像协同体当你下载到实例分割coco标注数据集.zip解压后看到annotations/instances_train2017.json和train2017/图片目录时别急着扔进 YOLO 或 Mask R-CNN 训练脚本——COCO 格式不是文件夹路径堆砌而是一套带层级约束的结构化协议categories定义类别 ID 与名称映射images描述每张图的宽高、文件名与唯一 IDannotations则通过image_id、category_id、segmentationRLE 或多边形点序列和bbox四元组将像素级掩码与目标框、类别严格绑定。很多初学者直接用cv2.imread()读图、json.load()解析 JSON 后就写 dataloader结果在segmentation字段遇到 RLE 编码报错、多边形点数奇偶不匹配、或iscrowd1的群体标注被误当单实例处理。这本质是没理解 COCO 的三重契约图像文件名必须与images[].file_name完全一致含大小写与扩展名annotations[].image_id必须存在于images[]中且每个segmentation的点坐标必须落在对应图像宽高范围内。适合正在从目标检测转向实例分割、需本地复现 baseline 或调试自定义标注工具的工程师——你不需要懂 PyTorch 源码但得清楚torchvision.datasets.CocoDetection内部如何校验这些字段以及为什么mask_utils.decode()会返回全零矩阵。2. 解析 COCO JSON 的核心逻辑从instances_train2017.json提取可训练的(img_path, bbox, mask_polygons, category_name)元组2.1 理解 COCO annotation 字段的语义分层与容错边界COCO 的annotations数组中每个对象包含 7 个关键字段id标注唯一 ID、image_id关联图像、category_id类别索引、segmentation掩码编码、area面积、bbox左上角 x,y 宽高、iscrowd是否为群体标注。其中segmentation是实例分割的核心差异点当iscrowd0时segmentation是多边形点列表如[[x1,y1,x2,y2,...]]每个子列表为一个封闭轮廓当iscrowd1时则为 RLE 编码字符串需pycocotools.mask.decode()解码。area字段并非冗余——它用于过滤极小目标如area 100可跳过避免因浮点误差导致 mask 面积为 0。bbox虽由segmentation推导而来但 COCO 规范要求其必须精确包围所有掩码点因此训练时若只用 mask 生成 bbox可能违反原始标注一致性。提示iscrowd1的标注不能直接用于 Mask R-CNN 的 instance-level loss 计算需在 dataloader 中显式过滤或单独处理。YOLOv8-seg 或 YOLOv11 的实例分割分支默认跳过iscrowd1样本这是其与 COCO 官方评估协议对齐的关键设计。2.2 用 Python 手动解析并验证 COCO JSON 的最小可行代码以下代码从instances_train2017.json中提取前 3 张图的完整标注信息并校验关键约束import json import os from pathlib import Path # 加载 COCO JSON coco_json Path(annotations/instances_train2017.json) with open(coco_json) as f: coco_data json.load(f) # 构建 image_id - image_info 映射 img_id_to_info {img[id]: img for img in coco_data[images]} # 构建 category_id - category_name 映射 cat_id_to_name {cat[id]: cat[name] for cat in coco_data[categories]} # 遍历前 3 条 annotations提取可训练元组 valid_samples [] for ann in coco_data[annotations][:3]: img_id ann[image_id] if img_id not in img_id_to_info: print(fWarning: annotation {ann[id]} references missing image_id {img_id}) continue img_info img_id_to_info[img_id] img_path Path(train2017) / img_info[file_name] # 校验图像文件是否存在 if not img_path.exists(): print(fWarning: image file {img_path} not found) continue # 校验 segmentation 格式 seg ann[segmentation] if isinstance(seg, list) and len(seg) 0: # 多边形格式每个子列表为 [x1,y1,x2,y2,...]点数必须为偶数且 ≥6 poly_points seg[0] if len(poly_points) % 2 ! 0 or len(poly_points) 6: print(fWarning: invalid polygon points count in annotation {ann[id]}) continue # 检查点是否在图像范围内 w, h img_info[width], img_info[height] for i in range(0, len(poly_points), 2): x, y poly_points[i], poly_points[i1] if not (0 x w and 0 y h): print(fWarning: point ({x},{y}) out of image bounds {w}x{h}) break else: valid_samples.append({ img_path: str(img_path), bbox: ann[bbox], # [x, y, width, height] segmentation: seg, # [[x1,y1,x2,y2,...]] category_name: cat_id_to_name.get(ann[category_id], unknown) }) else: # RLE 格式需 pycocotools 解码此处跳过 continue print(fExtracted {len(valid_samples)} valid samples)这段代码执行后valid_samples是一个字典列表每个元素含img_path绝对路径字符串、bbox4 元浮点列表、segmentation多边形点列表和category_name字符串。注意bbox值是浮点数而非整数——COCO 规范允许 sub-pixel 精度训练时应保留原精度而非np.round()截断。segmentation中的点坐标是归一化还是绝对答案是绝对所有坐标单位为像素与img_info[width]/[height]单位一致无需额外缩放。2.3 COCO 数据集目录结构的硬性约定与常见错误修复COCO 官方数据集强制要求以下目录结构coco_root/ ├── annotations/ │ ├── instances_train2017.json │ ├── instances_val2017.json │ └── ... ├── train2017/ # 必须存在文件名与 JSON 中 images[].file_name 完全一致 ├── val2017/ └── test2017/常见错误包括train2017/下图片扩展名为.JPG但 JSON 中file_name为000000000009.jpg大小写不匹配→ Linux 系统下路径失效instances_train2017.json中images[].width与实际cv2.imread()读取的图像宽度不符如 JPEG EXIF 旋转未处理→ 导致 mask 坐标偏移annotations[].segmentation包含空列表[]或None→pycocotools会抛KeyError。修复方法用exifread库读取 EXIF Orientation 并用PIL.ImageOps.exif_transpose()自动校正用正则批量统一图片扩展名遍历所有segmentation字段过滤掉空值# 过滤无效 segmentation valid_anns [ ann for ann in coco_data[annotations] if ann.get(segmentation) and isinstance(ann[segmentation], list) and len(ann[segmentation]) 0 ]3. 将 COCO 格式转换为 YOLOv8/YOLOv11 实例分割所需的labels/目录结构3.1 YOLO 实例分割标签文件的物理格式与字段含义YOLOv8-seg 及 YOLOv11 要求每个图像对应一个.txt标签文件存于labels/目录文件名与图像名相同仅扩展名不同。每行代表一个实例格式为class_id x_center_norm y_center_norm width_norm height_norm polygon_point_1_x_norm polygon_point_1_y_norm ...其中class_id整数从 0 开始编号对应names列表索引归一化坐标x_center_norm (bbox_x bbox_width/2) / image_width其余同理多边形点必须为偶数个且按顺时针或逆时针顺序闭合首尾点无需重复点坐标也需归一化x_norm x_pixel / image_width每行末尾不可有空格或换行符。注意YOLO 不接受 RLE 编码所有segmentation必须转为多边形点序列。若原始 COCO 标注含 RLEiscrowd1必须跳过或用mask_utils.decode()cv2.findContours()提取外轮廓近似多边形。3.2 从 COCO JSON 生成 YOLO 标签文件的完整脚本以下脚本将instances_train2017.json转换为yolo_labels/train/目录下的.txt文件import json import os from pathlib import Path import numpy as np from pycocotools import mask as maskUtils def coco_to_yolo_segmentation(coco_json_path, img_dir, label_dir, splittrain): Convert COCO instance segmentation annotations to YOLO format. Only processes iscrowd0 annotations with polygon segmentation. with open(coco_json_path) as f: coco_data json.load(f) # Build mappings img_id_to_info {img[id]: img for img in coco_data[images]} cat_id_to_idx {cat[id]: idx for idx, cat in enumerate(coco_data[categories])} # Create label directory label_dir Path(label_dir) / split label_dir.mkdir(parentsTrue, exist_okTrue) # Process each image for img_info in coco_data[images]: img_id img_info[id] img_path Path(img_dir) / img_info[file_name] label_path label_dir / img_path.with_suffix(.txt).name # Find all annotations for this image img_anns [ann for ann in coco_data[annotations] if ann[image_id] img_id and ann[iscrowd] 0] lines [] for ann in img_anns: cat_id ann[category_id] if cat_id not in cat_id_to_idx: continue class_idx cat_id_to_idx[cat_id] # Get segmentation points (only polygon format) seg ann[segmentation] if not isinstance(seg, list) or len(seg) 0: continue poly seg[0] # First polygon if len(poly) 6 or len(poly) % 2 ! 0: continue # Normalize coordinates w, h img_info[width], img_info[height] norm_poly [] for i in range(0, len(poly), 2): x_norm max(0, min(1, poly[i] / w)) y_norm max(0, min(1, poly[i1] / h)) norm_poly.extend([x_norm, y_norm]) # Format line: class_id normalized bbox center width height normalized polygon bbox ann[bbox] # [x, y, w, h] x_center (bbox[0] bbox[2]/2) / w y_center (bbox[1] bbox[3]/2) / h bbox_w bbox[2] / w bbox_h bbox[3] / h line [str(class_idx), str(x_center), str(y_center), str(bbox_w), str(bbox_h)] line.extend([str(p) for p in norm_poly]) lines.append( .join(line)) # Write label file if lines: with open(label_path, w) as f: f.write(\n.join(lines)) else: # Create empty file to maintain 1:1 image-label mapping label_path.touch() # Usage coco_to_yolo_segmentation( coco_json_pathannotations/instances_train2017.json, img_dirtrain2017, label_diryolo_labels, splittrain )该脚本关键点max(0, min(1, ...))确保归一化坐标不越界避免 YOLO 训练时报ValueError: all the input arrays must have same number of dimensions对iscrowd1的标注直接跳过符合 YOLO 官方实现即使某图无有效标注也创建空.txt文件保证os.listdir(images/train/)与os.listdir(labels/train/)数量一致——这是 YOLO 数据加载器的硬性要求poly点序列未做 Douglas-Peucker 简化保留原始精度若需减小文件体积可在norm_poly生成后插入from shapely.geometry import Polygon; poly_obj Polygon(np.array(norm_poly).reshape(-1,2)); simplified poly_obj.simplify(0.001)。3.3 验证 YOLO 标签文件是否符合规范的检查清单运行转换后执行以下命令验证# 1. 检查 labels/ 与 images/ 文件名是否一一对应 diff (ls images/train/ | sort) (ls labels/train/ | sort | sed s/.txt$/.jpg/) | grep ^ # 2. 检查单个标签文件格式取第一个 head -n1 labels/train/000000000009.txt # 输出应为0 0.512 0.345 0.211 0.189 0.492 0.321 0.534 0.321 ... # 3. 统计每行点数是否为偶数polygon 点数 4 bbox 值 总字段数 awk {print NF % 2} labels/train/*.txt | grep 1 | head -5 # 若输出为空说明所有行字段数为偶数正确若NF % 2输出1表示某行字段数为奇数——通常是 polygon 点数为奇数需回溯检查seg[0]是否被截断。4. 在 YOLOv11 中加载 COCO 转换后的数据集进行实例分割训练4.1 YOLOv11 的 dataset.yaml 配置要点与路径陷阱YOLOv11 要求dataset.yaml文件明确定义train,val,nc,names字段。对于 COCO 转换后的数据典型配置如下train: ../yolo_labels/train val: ../yolo_labels/val nc: 80 names: [person, bicycle, car, motorcycle, airplane, bus, train, truck, boat, traffic light, ...]关键陷阱train和val路径是相对于dataset.yaml文件所在目录的相对路径而非相对于 YOLOv11 项目根目录nc必须等于names列表长度且names顺序必须与 COCOcategories中id从小到大排序一致即categories[0][name]对应names[0]若names缺失某类如 COCO 有 80 类但只训 10 类nc仍为 80但names只列 10 个——这会导致class_id索引错乱必须严格按categories顺序裁剪names并同步更新nc。4.2 启动 YOLOv11 实例分割训练的最小命令与参数说明yolo train \ modelyolov11-seg.pt \ datadataset.yaml \ epochs100 \ batch16 \ imgsz640 \ namecoco_yolov11_seg \ workers8 \ cacheTrue \ device0,1 \ projectruns/segment参数详解modelyolov11-seg.pt预训练权重路径必须为支持实例分割的版本含segment头cacheTrue将图像和标签缓存到 RAM加速 epoch 间迭代但需确保内存 ≥ 64GBworkers8数据加载进程数设为 CPU 核心数的 1.5 倍如 12 核 CPU 设 18device0,1指定 GPU ID多卡训练时用逗号分隔projectruns/segment日志和权重保存根目录name为其子目录。提示首次训练建议加--exist-ok参数避免因coco_yolov11_seg目录已存在而中断若需 resume改用resumeTrue并指定ckptruns/segment/coco_yolov11_seg/weights/last.pt。4.3 训练过程中的关键监控指标与失败信号启动后实时关注runs/segment/coco_yolov11_seg/results.csv的最后几行box_loss,cls_loss,seg_loss应随 epoch 下降若seg_loss持续 0.5 且不降可能是 polygon 点数不足或归一化错误metrics/mAP50-95(B)和metrics/mAP50-95(M)分别为目标检测与实例分割 mAP后者应比前者低 5~10 个百分点因 mask 更难gpu_mem若接近显存上限如 24GB 卡显示23.8G需降低batch或imgsz。常见失败信号RuntimeError: CUDA error: device-side assert triggered通常因segmentation点坐标越界1 或 0ZeroDivisionError: division by zero某 batch 中所有样本的seg_loss为 nan源于空 mask 或全零 maskFileNotFoundError: No such file or directory: labels/train/000000000009.txt路径配置错误或文件名大小写不匹配。5. COCO 实例分割数据集的进阶验证技巧用 OpenCV 可视化 mask 与 bbox 对齐度5.1 编写可视化脚本确认 polygon 点序列与原始图像像素级对齐训练前必须人工抽检至少 10 张图的 mask 渲染效果。以下脚本读取一张 COCO 图像及其所有segmentation用 OpenCV 绘制多边形掩码并叠加 bboximport cv2 import numpy as np import json from pathlib import Path def visualize_coco_mask(img_path, ann, categories): Visualize a single COCO annotation on its image. ann: dict from annotations array img cv2.imread(str(img_path)) if img is None: raise FileNotFoundError(fImage not found: {img_path}) # Draw bounding box bbox ann[bbox] # [x, y, w, h] x, y, w, h map(int, bbox) cv2.rectangle(img, (x, y), (xw, yh), (0, 255, 0), 2) # Draw segmentation polygon seg ann[segmentation] if isinstance(seg, list) and len(seg) 0: poly np.array(seg[0], dtypenp.int32).reshape(-1, 2) # Clip points to image bounds poly[:, 0] np.clip(poly[:, 0], 0, img.shape[1]-1) poly[:, 1] np.clip(poly[:, 1], 0, img.shape[0]-1) cv2.polylines(img, [poly], isClosedTrue, color(255, 0, 0), thickness2) # Fill polygon with semi-transparent red mask np.zeros(img.shape[:2], dtypenp.uint8) cv2.fillPoly(mask, [poly], 1) overlay img.copy() overlay[mask 1] (0, 0, 255) # BGR red cv2.addWeighted(overlay, 0.3, img, 0.7, 0, img) # Add category text cat_name categories[ann[category_id]-1][name] # COCO categories start from 1 cv2.putText(img, cat_name, (x, y-10), cv2.FONT_HERSHEY_SIMPLEX, 0.6, (0,255,0), 2) return img # Load COCO data with open(annotations/instances_train2017.json) as f: coco_data json.load(f) categories coco_data[categories] img_id_to_info {img[id]: img for img in coco_data[images]} # Pick first image with annotations sample_img_info coco_data[images][0] sample_img_path Path(train2017) / sample_img_info[file_name] sample_anns [ann for ann in coco_data[annotations] if ann[image_id] sample_img_info[id] and ann[iscrowd] 0] for ann in sample_anns[:3]: # Visualize first 3 annotations vis_img visualize_coco_mask(sample_img_path, ann, categories) cv2.imshow(COCO Annotation, vis_img) cv2.waitKey(0) cv2.destroyAllWindows()运行此脚本重点观察红色多边形是否完全包裹绿色 bbox若 polygon 明显小于 bbox说明segmentation点被错误截断多边形边缘是否与物体真实轮廓贴合若锯齿严重可能是原始标注点数过少需在标注工具中启用更高精度描点文字标签是否显示正确类别若为unknown检查categories索引是否从 0 开始COCO JSON 中category_id从 1 开始代码中ann[category_id]-1已修正。5.2 用 COCO API 进行自动化完整性校验的三个必检项安装pycocotools后运行以下校验脚本from pycocotools.coco import COCO import numpy as np coco COCO(annotations/instances_train2017.json) # 1. 检查所有 segmentation 面积是否与 bbox area 一致容差 10% for ann_id in coco.getAnnIds(): ann coco.loadAnns(ann_id)[0] if ann[iscrowd] 0: mask coco.annToMask(ann) mask_area np.sum(mask) if abs(mask_area - ann[area]) / ann[area] 0.1: print(fArea mismatch for ann {ann_id}: mask{mask_area}, ann{ann[area]}) # 2. 检查图像宽高是否与实际文件一致 for img_id in coco.getImgIds()[:100]: # Check first 100 images img_info coco.loadImgs(img_id)[0] img_path Path(train2017) / img_info[file_name] if img_path.exists(): img cv2.imread(str(img_path)) if img is not None and (img.shape[1] ! img_info[width] or img.shape[0] ! img_info[height]): print(fSize mismatch for {img_path}: reported {img_info[width]}x{img_info[height]}, actual {img.shape[1]}x{img.shape[0]}) # 3. 检查 category_id 是否连续且无跳跃 cat_ids sorted(set(ann[category_id] for ann in coco.dataset[annotations])) if cat_ids ! list(range(1, len(cat_ids)1)): print(Category IDs are not contiguous starting from 1)该脚本输出为空才表明数据集达到可训练的基线质量。任何一项失败都需回溯到第 2 章的解析逻辑或第 3 章的转换脚本中定位问题。本文还有配套的精品资源点击获取