中文简介
m-a-p/PIN-200M 是 m-a-p 在 Hugging Face 发布的数据集仓库,当前卡片主要关联上游卡片所列任务。本站固定记录上游版本 0518ee384f3a,同步到 16660 个文件,文件元数据合计 283.17 TB;访问状态为“公开”,许可证字段为“apache-2.0”。
上游模型卡 / 数据集卡
【README 卡片中文译介】
以下内容依据上游仓库 m-a-p/PIN-200M 的固定版本 README、卡片字段和文件元数据进行中文结构化整理。它保留便于选型的关键信息,完整技术细节、代码示例和许可文本请同时查看上游原文。
【资源概览】
m-a-p/PIN-200M 是 m-a-p 在 Hugging Face 发布的数据集仓库,当前卡片主要关联上游卡片所列任务。本站固定记录上游版本 0518ee384f3a,同步到 16660 个文件,文件元数据合计 283.17 TB;访问状态为“公开”,许可证字段为“apache-2.0”。
【适用方向】
适合在明确数据字段、拆分和许可证后,用于上游卡片所列任务相关的训练、评测或研究。 正式使用前应先抽样检查字段、语言、重复项、敏感信息和训练/测试划分,避免只依据仓库名称判断数据质量。
【版本与规格】
固定版本:0518ee384f3a。 任务标签:上游卡片所列任务。 语言字段:en, zh。 数据集卡名称:pin-200m。 规模分类:100M<n<1B。 上游页面记录的最近更新时间:2026-04-15。
【文件信息】
上游 API 返回 16660 个文件,文件元数据合计 283.17 TB。 已保存文件清单中的主要扩展名:.part00 7 个、.part01 7 个、.part02 7 个、.part03 7 个、.part04 7 个、.part05 7 个。 当前较大的文件包括:data/DocLayNet/overall_image.tar(25.30 GB);data/chinese-markdown/overall_image.tar.part00(20.00 GB);data/chinese-markdown/overall_image.tar.part01(20.00 GB)。 仓库文件较多,本站仅保存前 100 条文件元数据;完整清单请查看上游仓库。
【运行或处理环境】
仓库文件元数据合计 283.17 TB。仅按下载、解压和临时文件估算,建议至少预留约 339.80 TB 可用磁盘;实际需求还取决于压缩率、缓存、数据转换和训练副本,正式处理前应以完整文件清单重新测算。
【使用边界】
许可证显示为“apache-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 数据集还需核对样本来源、隐私与个人信息、标签质量、地域偏差及下游模型的合规要求。
PIN-200M A mini version of "PIN: A Knowledge-Intensive Dataset for Paired and Interleaved Multimodal Documents" Paper: https://arxiv.org/abs/2406.13923 This dataset contains around **200M** samples in PIN format, with around **312** TB storage. 🚀 News [ 2025.09.22 ] !NEW! 🔥 We have completed the final version of the PIN-200M dataset and conducted some simple statistics on it. [ 2024.12.06 ] !NEW! 🔥 We have updated the quality signals, enabling a swift assessment of whether a sample meets the required specifications based on our quality indicators. Further detailed descriptions will be provided in the forthcoming formal publication. (Aside from the Chinese-Markdown subset, there are unresolved issues that are currently being addressed.) This dataset contains 200M samples with PIN format. 0 Usage Download ALL files Download ONLY **Jsonl** files Decompression 1 Dataset statistics | Subsect | Documents (#) | Overall images (#) | Content images (#) | Documents (GB) | Overall images (GB) | Content images (GB) | |-----------------|-----------|----------------|----------------|---------------------|--------------------------|-----------------------| | pg19 | 2,611,921 | 2,607,797 | 0 | 12.61 | 1,384.89 | 0.00 | | OBELICS | 176,600,260 | 175,307,522 | 192,102,531 | 478.82 | 104,613.99 | 108,842.00 | | mmc4-core-ff | 9,425,497 | 9,332,329 | 15,732,454 | 59.98 | 5,579.99 | 9,659.09 | | chinese-markdown| 168,323 | 167,989 | 101,026 | 1.34 | 755.08 | 14.69 | | leetcode | 2,360 | 2,360 | 0 | 0.02 | 1.26 | 0.00 | | linux-cn | 9,564 | 9,564 | 37,235 | 0.08 | 11.62 | 1.78 | | DocLayNet | 68,084 | 68,084 | 89,170 | 0.19 | 25.25 | 1.60 | | PIN-PMC | 5,354,766 | 70,197,548 | 18,527,901 | 208.44 | 45,923.75 | 2,154.95 | | PIN-Arxiv | 736,497 | 11,356,952 | 4,128,143 | 38.83 | 5,553.01 | 507.99 | | **PIN-200M** (total) | 194,977,272 | 269,050,145 | 230,718,460 | 800.31 | 163,848.85 | 121,182.10 | Storage space statistics may have some error, so these values are for reference only. The fo
适用场景
适合在明确数据字段、拆分和许可证后,用于上游卡片所列任务相关的训练、评测或研究。 正式使用前应先抽样检查字段、语言、重复项、敏感信息和训练/测试划分,避免只依据仓库名称判断数据质量。
规模与格式
固定版本:0518ee384f3a。 任务标签:上游卡片所列任务。 语言字段:en, zh。 数据集卡名称:pin-200m。 规模分类:100M<n<1B。 上游页面记录的最近更新时间:2026-04-15。
文件说明
上游 API 返回 16660 个文件,文件元数据合计 283.17 TB。 已保存文件清单中的主要扩展名:.part00 7 个、.part01 7 个、.part02 7 个、.part03 7 个、.part04 7 个、.part05 7 个。 当前较大的文件包括:data/DocLayNet/overall_image.tar(25.30 GB);data/chinese-markdown/overall_image.tar.part00(20.00 GB);data/chinese-markdown/overall_image.tar.part01(20.00 GB)。 仓库文件较多,本站仅保存前 100 条文件元数据;完整清单请查看上游仓库。
上游文件元数据
.gitattributes91.84 KBassets/dataset-example.png993.04 KBassets/distribution.png535.71 KBassets/intro.png1.20 MBdata/chinese-markdown/chinese-markdown.jsonl1.34 GBdata/chinese-markdown/content_image.tar14.77 GBdata/chinese-markdown/overall_image.tar.part0020.00 GBdata/chinese-markdown/overall_image.tar.part0120.00 GBdata/chinese-markdown/overall_image.tar.part0220.00 GBdata/chinese-markdown/overall_image.tar.part0320.00 GBdata/chinese-markdown/overall_image.tar.part0420.00 GBdata/chinese-markdown/overall_image.tar.part0520.00 GB
硬件建议
仓库文件元数据合计 283.17 TB。仅按下载、解压和临时文件估算,建议至少预留约 339.80 TB 可用磁盘;实际需求还取决于压缩率、缓存、数据转换和训练副本,正式处理前应以完整文件清单重新测算。
注意事项
许可证显示为“apache-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 数据集还需核对样本来源、隐私与个人信息、标签质量、地域偏差及下游模型的合规要求。
获取、校验与交付
咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。
本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。