模型

DeepSeek-V4.1-Flash-NVFP4

nvidia/DeepSeek-V4.1-Flash-NVFP4

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 许可证:mit 上游版本:3431dde3247c

中文简介

NVIDIA 将 DeepSeek-V4.1-Flash 用 Model Optimizer 转为 NVFP4,供兼容低精度推理环境使用。原始模型由 DeepSeek 开发,此仓库对应 NVIDIA 提供的转换权重。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

【定位与用途】
NVIDIA 将 DeepSeek-V4.1-Flash 用 Model Optimizer 转为 NVFP4,供兼容低精度推理环境使用。原始模型由 DeepSeek 开发,此仓库对应 NVIDIA 提供的转换权重。

【如何选择】
适合支持 NVFP4 的部署研究,比较量化后图文、长上下文与代码任务质量。

【版本与获取范围】
选型方向:多模态理解。固定上游版本:3431dde3247c13b5957f682b1e3c6fcae2566079。API 任务字段:image-text-to-text。API 架构字段:DeepseekV41ForCausalLM。上游最近更新时间:2026-09-17(不一定为首次发布日期)。 规模、子集和组件差异见本页简介及注意事项;API 标签与卡片正文的含义分别保留。

【容易混淆的边界】
不能把 NVIDIA 转换仓库标成原模型作者;低精度格式需要框架和硬件支持,仍需考虑条件记忆与缓存占用。

本节是本站基于固定版本卡片编写的中文选型摘要,并非原文逐句翻译。完整操作、评测协议与许可原文请查看上游固定版本链接;模型效果及资源处理需求尚未由本站实测。

基于固定版本上游资料编写的中文选型说明 · 2026-09-20 15:03

本页提供中文选型摘要,请通过上方固定版本链接查看完整上游模型卡或数据集卡。

适用场景

适合支持 NVFP4 的部署研究,比较量化后图文、长上下文与代码任务质量。

模型参数

选型方向:多模态理解。固定上游版本:3431dde3247c13b5957f682b1e3c6fcae2566079。API 任务字段:image-text-to-text。API 架构字段:DeepseekV41ForCausalLM。上游最近更新时间:2026-09-17(不一定为首次发布日期)。 规模、子集和组件差异见本页简介及注意事项;API 标签与卡片正文的含义分别保留。

文件说明

上游 API 返回 84 个文件,文件元数据合计 491.10 GB。 已保存文件清单中的主要扩展名:.safetensors 48 个、.json 12 个、.py 9 个、.txt 7 个、.md 3 个、.jpeg 2 个。 当前较大的文件包括:model-00048-of-00048.safetensors(94.56 GB);model-00047-of-00048.safetensors(94.56 GB);model-00017-of-00048.safetensors(7.29 GB)。 此处只统计当前 Git 仓库的文件元数据,不包含外部链接、Bucket 或另行申请的完整集合。

上游文件元数据

  • .gitattributes1.62 KB
  • config.json7.77 KB
  • encoding/encoding.py36.44 KB
  • encoding/README.md11.84 KB
  • encoding/test_encoding.py18.92 KB
  • encoding/tests/test_input_1.json2.70 KB
  • encoding/tests/test_input_2.json527 B
  • encoding/tests/test_input_3.json2.49 KB
  • encoding/tests/test_input_4.json712 B
  • encoding/tests/test_input_5.json1.12 KB
  • encoding/tests/test_output_1.txt2.42 KB
  • encoding/tests/test_output_2.txt294 B

硬件建议

先选定所需权重格式和精度,再核对推理代码、依赖与目标硬件。仓库元数据合计可能包含多个变体、视觉组件或示例,不能用来直接推算运行显存;内存还受上下文、缓存、批量和并发影响,应以小样本实测确定配置。

注意事项

不能把 NVIDIA 转换仓库标成原模型作者;低精度格式需要框架和硬件支持,仍需考虑条件记忆与缓存占用。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。