ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

把 FiftyOne 的数据集跑进 2GB 内存的边缘设备

把 FiftyOne 的数据集跑进 2GB 内存的边缘设备 把 FiftyOne 的数据集跑进 2GB 内存的边缘设备【免费下载链接】fiftyoneRefine high-quality datasets and visual AI models项目地址: https://gitcode.com/GitHub_Trending/fi/fiftyoneFiftyOne 是一个开源的数据集与视觉 AI 模型优化工具帮你把太大、太乱的数据集收拾成边缘设备吃得消的形态。适合刚接手边缘 CV 任务、手里数据集动辄几 GB 的开发者。下面不讲概念直接按一条真实任务推进让一个目标检测数据集在 2GB 内存的板子上能跑。先看数据集到底多重卡在第一步的通常是这个你把整个数据集拷到开发机上dataset.stats都不知道怎么算因为数据根本装不下。FiftyOne 里每个数据集自带统计功能一行命令就能算出样本文档、索引和原始媒体各占多少字节import fiftyone as fo dataset fo.load_dataset(my_dataset) print(dataset.stats(include_mediaTrue))输出里media_bytes这一项最值得关注——它告诉你光图片就多大。如果这一步就爆内存多半是媒体文件的问题而不是代码的问题。先切一小片出来跑通拿到完整数据集别急着全量处理。take是 Dataset 上的一个随机抽样方法等价于随便抓 N 条small dataset.take(1000, seed42)后面所有操作——过滤、导出、跑模型——都先在small上做。跑通了再放大到全量。这一步能帮你把2GB 板子内存不够和代码有 bug两种故障区分开。换成边缘设备认识的格式原始目录结构jpg 散落各文件夹不是边缘推理管线友好的格式。FiftyOne 的export方法支持把数据集直接写成 TFExampleDataset 这类框架兼容的格式参数在 fiftyone/core/collections.py 里能看到全部签名dataset.export( export_dir/path/to/edge_dataset, dataset_typefo.types.TFExampleDataset, )导出的目录可以直接喂给 TensorFlow Lite 工具链省掉手工对齐标签文件的环节。导出的格式类型定义在 fiftyone/types/dataset_types.py想确认还支持哪些格式去那个文件里找class *Dataset即可。到这里数据这一半已经备好了。模型侧从模型库拉一个现成的边缘部署常见的心态是先拿个能跑的模型垫底再逐步优化。FiftyOne 内置模型库Model Zoofoz.load_zoo_model(yolov8s)能直接加载 YOLOv8 这类主流检测模型模型清单维护在 fiftyone/zoo/models/ 下的 manifest 文件里想看当前支持哪些模型直接翻那几个 jsonimport fiftyone.zoo as foz model foz.load_zoo_model(yolov8s) model.run_inference(dataset, ground_truth)注意别指望 FiftyOne 帮你把 PyTorch 权重转成 TFLite 文件——它不承诺提供这类转换函数。量化和格式转换交给 ultralytics、TFLite Converter 这些专用工具FiftyOne 负责的是数据准备和跑完后的效果评估。这条边界清楚能少踩很多坑。跑完之后用评估而不是肉眼判断模型在板子上跑通了下一个问题马上出现它到底行不行把检测效果拍脑袋判断是最慢的循环。FiftyOne 把预测结果 vs 真值的比较做成了内置能力跑完run_inference之后用 docs/source/user_guide/evaluation/ 里介绍的评估流程直接产出 mAP、precision/recall 曲线还能在可视化界面里逐张看错例。评估流程的文档入口在这里照着走一遍大概十分钟eval fo.Eval(dataset, predictions, gt_fieldground_truth) eval.compute() eval.plot_report()错例集中在小目标或低光照样本上那回到第一节用take 过滤把这些样本单独抽出来做数据增强而不是急着改模型结构。数据问题用数据解决这是 FiftyOne 最擅长的事。下一步想继续深挖两份文档值得先看docs/source/user_guide/using_datasets.rst 讲数据集的日常操作docs/source/user_guide/export_datasets.rst 列了所有导出格式。把全量数据集在板子上跑通一次之后再考虑量化和推理优化顺序别反。【免费下载链接】fiftyoneRefine high-quality datasets and visual AI models项目地址: https://gitcode.com/GitHub_Trending/fi/fiftyone创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表