Under the Sun with Paddy

第 92 期 · 2026年10月19日

开源 OCR 数据集盘点:文字、表格、文档识别的可商用清单

OCR 领域的开源数据集比大多数人想象的丰富,但许可状态呈明显的两极分化:合成系与表格/文档系几乎全线可商用(因为标注是自动生成的,没有版权与人工授权负担),而真实街拍系(ICDAR 竞赛、中文街景 LSVT 等)几乎全部”仅供研究”。

真实拍摄数据里实锤可商用的目前只有 HierText 一家。本文整理文字检测/识别、表格识别、文档版面、电商属性四个方向的数据集规模、标注格式与协议,每条协议结论来自 LICENSE 文件或 README 原文。

调研快照:2026-10-17
所有链接与许可均经逐仓库一手核验(GitHub LICENSE / HuggingFace 数据卡 / README 原文),样图除标注外均来自各项目官方发布物

可商用类快速索引

类型数据集协议(可否商用)数据种类下载
合成场景文字SynthTextApache-2.0(✅ 商用)85.8 万合成图 / 8M 词级框GitHub(README 内 Drive)
表格识别PubTables-1MCDLA-Permissive-2.0(✅ 商用,类 MIT)1M 表格(40 万篇 PubMed PDF)HF | GitHub(MIT)
表格识别PubTabNet源出 PMC 商用采集子集(✅ 商用口径)568K 表格图+HTML 结构GitHub → IBM DAX 申请
表格识别TableBank镜像 Apache(✅ 倾向,官方 repo 已迁移)41.7 万表格(Word/LaTeX/Wiki)HF 镜像
文档版面DocBankApache-2.0(✅ 商用)50 万页词级坐标+12 类布局GitHub
真实手写HierTextCC BY-SA 4.0(✅ 商用,署名+同许可分享)10,640 图词/行/段落层级GitHub

研究限用(不可商用):ICDAR 竞赛系、LSVT/RCTW/ReCTS(中文街景)、COCO-Text、SROIE/FUNSD/DocVQA/XFUND——见文末全量表。

SynthText — 合成场景文字的祖师爷

把自然场景图作为底版、自动粘贴渲染文字并生成词级四边形框与转写的合成管线,85.8 万图 / 8M 合成词。因为是程序生成,标注零人工成本、协议天然干净(repo Apache-2.0)。同类还有牛津 VGG 的 MJSynth/Synth90k(90 万合成词识别数据)。中文方向的同类开源合成器可以基于 PaddleOCR 的数据合成工具搭建。

SynthText 官方样例拼图

标注格式:h5 内 img + wordBB(词级四边形)+ charBB(字符级框)+ txt(转写文本)。

建议运用方向:文字检测/识别模型的商用预训练底料;中文版可自建渲染管线(字体+底图自备即可规避全部许可风险)。

PubTables-1M — 表格识别的商用富矿

微软 table-transformer 项目发布,从 40 万篇 PubMed 开放获取 PDF 自动解析出 100 万张表格,三层标注(表格框 + 行/列结构 + 表头 HTML)。HF 数据卡明确 CDLA-Permissive-2.0(Community Data License Agreement 的宽松档,效力近似 MIT),正主代码仓库 MIT。

PubTables-1M 官方效果图

标注格式:JSON(表格 bbox + 行列结构 + HTML 结构化输出)。

建议运用方向:表格检测/结构识别模型训练;尺码表、规格表、财务报表等结构化抽取场景的预训练主力。

PubTabNet — Image-to-HTML 范式的代表作

IBM 发布的 568K 表格图数据集,源图取自 PubMed Central Open Access Subset 的 commercial use collection(README 原话,商用采集子集),标注由程序自动生成。下载需在 IBM DAX 页面注册申请。

PubTabNet 样例:PMC 科学文献表格

标注格式(jsonl,README 原文):

{"filename": str, "split": str, "imgid": int,
"html": {
  "structure": {"tokens": [str]},
  "cell": [
    {"tokens": [str], "bbox": [x0, y0, x1, y1]}
  ]}}

structure.tokens 是表格结构 token 流(<td>/<tr> 类),cell[].bbox 是单元格像素框——”结构 token + 单元格坐标”双表示是表格识别最常用的训练目标。

建议运用方向:端到端表格识别(图直接出 HTML);与 PubTables-1M 混训互补(一个偏检测结构、一个偏序列生成)。

TableBank — 四域表格检测

微软 2018 年发布,从 Word/LaTeX 文档与 Wikipedia/HTML 页面采集的 41.7 万表格,四域划分(检测用)。官方 GitHub 仓库已迁移/404,目前可靠获取渠道是 HF 社区镜像(标注 Apache-2.0,官方原始口径建议以镜像页为准再核)。

建议运用方向:表格区域检测(表格在页面里的 bbox);老牌但规模与多域覆盖仍实用。

DocBank — 50 万页弱监督文档布局

用弱监督(自动对齐 arXiv 源码与 PDF 渲染)构建的文档级数据集:每个词带坐标 + 12 类布局标签(段落/标题/图表/公式等),50 万页,零人工标注。repo Apache-2.0。

标注格式:txt 行式(词 + 坐标 + 页码 + 布局类别)。

建议运用方向:文档版面分析(表格/图片/标题定位)的预训练;与 OmniDocBench 类人工评测集配合形成”自动训练+人工验收”组合。

HierText — 真实数据里唯一实锤可商用的

Google 发布的真实手写文本数据集,10,640 张图,标注到词/行/段落三级层级外加顶点级(vertices)多边形边界——OCR 标注里最细的粒度体系。README 原话 “The HierText dataset are released under CC BY-SA 4.0″:可商用,条件是署名并以相同许可分享衍生数据。

HierText 层级标注体系
HierText 顶点级边界

建议运用方向:手写识别;更重要的是它的标注规范(层级+顶点)值得任何自建真实文字数据集效仿——自标商品图文字时按”词/行两级+四边形”起步即可。

MAVE — 电商属性标注(研究限用,但格式值得抄)

eBay/学界属性抽取研究常用的 Amazon 派生数据集:2.2M 商品 / 3M 属性值标注 / 1,257 类目。LICENSE 文件实为 CC BY-NC 4.0(注意:网上二手资料常误写为 CC BY 4.0,协议必须看 LICENSE 文件原文),且底层商品数据另受 Amazon 条款约束,双重限制。

标注格式(JSONL,字段释义):

{"id": "B0052LYUH6", "category": "Curtains & Drapes", "attributes": [
{"key": "Attachment Method", "evidences": [
    {"value": "Rod Pocket", "pid": 1, "begin": 98, "end": 108}]}]}
// evidences 把属性值锚定到原文片段(pid=第几段文本,begin/end=字符偏移)

建议运用方向:仅研究对照;但”属性值锚定原文偏移”的可溯源标注范式,适合直接照抄到自建商品属性数据集(便于质检抽审)。

OmniDocBench — 文档解析评测基准(研究限用)

上海 AI Lab OpenDataLab 的文档解析基准:1,651 页 PDF / 10 类文档 / 5 类版面 / 5 语种且中英页数平衡(含中文教材、报纸、电子书),是文档方向少见的中文友好基准。代码 Apache-2.0 但数据 “for research purposes only”。

标注格式(JSON):

{"layout_dets": [
{"category_type": "text_block",
  "poly": [268.94, 319.97, 322.99, 319.97, 322.99, 351.08, 268.94, 351.08],
  "order": 2, "anno_id": "box_id_0", "text": "that"}]}
// poly=8 坐标四边形(可表达倾斜版面),order=阅读顺序,text=转写

建议运用方向:文档解析/版面恢复模型的效果评测(研究);中文尺码表自建评测集可仿其 poly+order+text 三合一格式。

研究限用一句话组

  • ICDAR 2013/2015/2017-MLT/2019/2021:竞赛注册制(rrc.cvc.uab.es),各 1K-2 万级,多语含中文子集,research
  • LSVT(4.5 万中文街景)/ RCTW-17 / ReCTS / ArT(各 1 万级中文曲线文本):中文真实场景主力,全部 research——中文真实 OCR 无宽松协议现成集,商用只能合成+自标
  • COCO-Text(63,686 图,COCO flickr 源):research 口径
  • SROIE / FUNSD / DocVQA / XFUND(各 0.6K-1.5K):文档理解小集,research

全量详细信息表

类型数据集规模数据分布标注类别中文/国内场景发布年份项目/论文备注下载协议
合成文字SynthText85.8 万图 / 8M 词自然场景底图+渲染文字词/字符四边形框+转写否2016GitHub | CVPR 2016零人工标注repo 内 DriveApache ✅
表格PubTables-1M1M 表格PubMed 科学文献(401,733 PDF)表格框+行列结构+HTML否(英文文献)2022GitHub | ACL 2022CDLA 宽松档HFCDLA-Permissive ✅
表格PubTabNet568K 表格图PMC 科学文献结构 token+单元格 bbox否2019GitHub | arXiv:1911.10683源出 PMC 商用子集DAX 申请(repo 内链)PMC 商用源 ✅
表格TableBank41.7 万表格Word/LaTeX/Wikipedia 四域表格 bbox否(英文为主)2018HF 镜像(官方 repo 已迁移)老牌多域HF镜像 Apache 倾向 ✅
文档版面DocBank50 万页arXiv 科学文档词坐标+12 类布局否2020GitHub | COLING 2020弱监督零人工repo 内链接Apache ✅
真实手写HierText10,640 图英文手写(词/行/段落)层级+顶点多边形否2022GitHub | ICDAR 2022真实集商用孤例repo 内 Kaggle/DriveCC BY-SA 4.0 ✅
电商属性MAVE2.2M 商品 / 3M 标注Amazon 1,257 类目属性值+原文偏移锚定否(英文)2022GitHub | WSDM 2022LICENSE 实为 NC(二手常误标)repo(标签走 git-lfs)CC BY-NC ❌
文档评测OmniDocBench1,651 页10 类文档 5 版面 5 语种版面 poly+阅读顺序+转写中英平衡(含中文)2024GitHub | arXiv:2412.07626评测基准非训练集HF / repo 内 Drive数据 research ❌
真实街景ICDAR 系各 1K-2 万级多语场景文字词/行框+转写MLT 含中文子集2013-2021rrc.cvc.uab.es竞赛注册制官网注册research ❌
真实街景LSVT4.5 万图中文街景+网络图文本行转写中文主力2019经竞赛页获取中文真实场景最大集之一竞赛/官网research ❌
真实场景COCO-Text63,686 图COCO 场景图词级框+转写否2016(v2 2021)官网COCO flickr 源官网research ❌
文档理解SROIE/FUNSD/DocVQA/XFUND各 0.6K-1.5K票据/表单/文档 QA框+文本/QA 对XFUND 含中文2019-2021各项目页小样本评测各官网research ❌

两点提醒:① PaddleOCR 官方预训练模型效果好,但其训练数据本身不开源(只提供合成工具与 2,677 张评测基准);② 协议看 LICENSE 文件/数据集卡原文,不要信二手摘要——本文写作过程中实测到 MAVE 的 LICENSE(CC BY-NC 4.0)与搜索摘要(CC BY 4.0)完全相反。 图片说明:本文样图均来自各项目官方发布物(repo README 图、repo 内置 examples、HF 页面),仅作评述引用。

来源与引用

  • SynthText:Gupta et al., CVPR 2016(GitHub README,访问于 2026-10-17)
  • PubTables-1M:Smock et al., ACL 2022(HF 数据卡 license 字段 + table-transformer repo,访问于 2026-10-17)
  • PubTabNet:Zhong et al., arXiv:1911.10683, 2019(GitHub README 源数据说明原文,访问于 2026-10-17)
  • TableBank:Li et al., 2018(HF 镜像数据卡,访问于 2026-10-17)
  • DocBank:Li et al., COLING 2020(GitHub LICENSE,访问于 2026-10-17)
  • HierText:Long et al., ICDAR 2022(GitHub README 许可节原文,访问于 2026-10-17)
  • MAVE:Yang et al., WSDM 2022(GitHub LICENSE 文件实测,访问于 2026-10-17)
  • OmniDocBench:Ou et al., arXiv:2412.07626, 2024(GitHub README 数据条款,访问于 2026-10-17)

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注