HPD-Parsing性能实测：4752 TPS吞吐量碾压同类模型，OmniDocBench权威数据解读

HPD-Parsing性能实测4752 TPS吞吐量碾压同类模型OmniDocBench权威数据解读【免费下载链接】HPD-Parsing项目地址: https://ai.gitcode.com/paddlepaddle/HPD-Parsing飞桨PaddlePaddle / HPD-Parsing是一款轻量级1B参数且高吞吐量的文档解析模型基于分层并行解码范式构建在OmniDocBench v1.6权威评测中展现出卓越性能。 突破性吞吐量4752 TPS的行业标杆HPD-Parsing在OmniDocBench v1.6上实现了4,752 Tokens Per Second (TPS)的峰值吞吐量这一数据意味着较现有最快文档解析模型提升1.62倍吞吐量比自回归基线模型提升3.06倍效率在NVIDIA A800 80GB显卡上批处理大小512时从1,554.8 TPS跃升至4,752.1 TPS这种性能飞跃源于创新的分层并行解码架构——主布局分支协调全局文档结构同时将局部内容生成动态分配给并发分支配合Progressive Multi-Token Prediction (P-MTP)技术进一步减少解码步骤。文档越长加速优势越显著在最长输出长度场景下可实现18.04倍减少解码步骤3.67倍提升请求吞吐量5.80倍降低单请求延迟 OmniDocBench v1.6权威评测表现在业界公认的文档解析基准测试OmniDocBench v1.6中HPD-Parsing不仅实现了94.91%的综合准确率更在效率指标上树立新标准指标HPD-Parsing传统自回归模型提升倍数峰值吞吐量TPS4,752.11,554.83.06×页面处理速度PPS2.681.022.62×测试环境NVIDIA A800 80GBvLLM推理框架批处理大小512。尽管HPD-Parsing每页处理约4,800输入 tokens是DeepSeek-OCR-2的4倍以上仍实现1.31×更高PPS和1.62×更高TPS。 性能复现指南项目提供完整的吞吐量测试和准确率评估流程通过eval/目录下的脚本实现infer - convert - evaluatepipeline吞吐量测试使用eval/benchmark_tps.py基于定制vLLM构建含分层并行解码P-MTP推测解码结果转换通过eval/hpd_to_markdown.py将模型预测转换为OmniDocBench要求的markdown格式官方评估参考eval/README.md配置OmniDocBench评估套件获取文本/公式/表格/阅读顺序等细分指标 技术创新点解析HPD-Parsing的性能突破源于对文档解析特性的深刻洞察页面结构需要全局协调而内容生成主要在局部区域内进行。这种架构设计带来并行化解码打破传统VLM的单序列生成瓶颈智能任务分配全局布局与局部内容生成解耦高效推理优化P-MTP技术减少冗余解码步骤 实际应用价值对于需要处理海量文档的企业级应用HPD-Parsing的高吞吐量特性可显著降低计算成本金融票据处理缩短批量文档解析时间学术论文分析加速文献库结构化提取数字化档案管理提升大规模扫描件处理效率通过eval/目录下的工具链开发者可轻松复现性能指标或将HPD-Parsing集成到自有文档处理流程中体验4752 TPS带来的效率革命。注完整评测数据集和代码可通过以下方式获取git clone https://gitcode.com/paddlepaddle/HPD-Parsing【免费下载链接】HPD-Parsing项目地址: https://ai.gitcode.com/paddlepaddle/HPD-Parsing创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考