模型

Gemma-4-31B-IT-NVFP4

nvidia/Gemma-4-31B-IT-NVFP4

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 内容检查:AI 辅助整理并检查 许可证:apache-license-2.0 上游版本:4135a98a9b72

中文简介

nvidia/Gemma-4-31B-IT-NVFP4 是 nvidia 在 Hugging Face 发布的模型仓库,当前卡片主要关联文本生成与推理。本站固定记录上游版本 4135a98a9b72,同步到 15 个文件,文件元数据合计 30.42 GB;访问状态为“公开”,许可证字段为“apache-license-2.0”。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

【README 卡片中文译介】

以下内容依据上游仓库 nvidia/Gemma-4-31B-IT-NVFP4 的固定版本 README、卡片字段和文件元数据进行中文结构化整理。它保留便于选型的关键信息,完整技术细节、代码示例和许可文本请同时查看上游原文。

【资源概览】
nvidia/Gemma-4-31B-IT-NVFP4 是 nvidia 在 Hugging Face 发布的模型仓库,当前卡片主要关联文本生成与推理。本站固定记录上游版本 4135a98a9b72,同步到 15 个文件,文件元数据合计 30.42 GB;访问状态为“公开”,许可证字段为“apache-license-2.0”。

【适用方向】
适合在真实样本上评估文本生成与推理能力,并比较质量、时延和资源消耗。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

【版本与规格】
固定版本:4135a98a9b72。 任务标签:文本生成与推理。 架构:Gemma4ForConditionalGeneration。 上游 Safetensors 元数据显示参数量约 20.87 B。 库标记:Model Optimizer。 模型类型字段:gemma4。 上游标注的基础模型:google/gemma-4-31B-it。 上游页面记录的最近更新时间:2026-07-13。

【文件信息】
上游 API 返回 15 个文件,文件元数据合计 30.42 GB。 已保存文件清单中的主要扩展名:.json 7 个、.safetensors 4 个、.jinja 1 个、.md 1 个、.txt 1 个、无扩展名 1 个。 当前较大的文件包括:model-00003-of-00004.safetensors(9.31 GB);model-00002-of-00004.safetensors(9.29 GB);model-00001-of-00004.safetensors(9.27 GB)。

【运行或处理环境】
仓库文件元数据合计 30.42 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 38.87 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

【使用边界】
许可证显示为“apache-license-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

已有简体中文译文 · Codex 基于固定版本 README 与上游元数据生成中文结构化译介 · 2026-07-24 01:09

Model Overview Description: Gemma 4 31B IT is an open multimodal model built by Google DeepMind that handles text and image inputs, can process video as sequences of frames, and generates text output. It is designed to deliver frontier-level performance for reasoning, agentic workflows, coding, and multimodal understanding on consumer GPUs and workstations, with a 256K-token context window and support for over 140 languages. The model uses a hybrid attention mechanism that interleaves local sliding-window and full global attention, with unified Keys and Values in global layers and Proportional RoPE (p-RoPE) to support long-context performance. The NVIDIA Gemma 4 31B IT NVFP4 model is quantized with NVIDIA Model Optimizer. This model is ready for commercial/non-commercial use. Third-Party Community Consideration This model is not owned or developed by NVIDIA. This model has been developed and built to a third-party's requirements for this application and use case; see link to Non-NVIDIA Gemma 4 31B IT Model Card License and Terms of Use: Apache License 2.0 | Gemma | Google AI for Developers Deployment Geography: Global Use Case: Use Case:** Designed for text generation, chatbots and conversational AI, text summarization, image data extraction, reasoning, coding, multimodal understanding, function calling, and research or educational use. Release Date: Hugging Face [04/02/2026] via [link] (https://huggingface.co/nvidia/Gemma-4-31B-IT-NVFP4) Model Architecture: Architecture Type:** Transformer Network Architecture:** Gemma 4 Number of model parameters:** 30.7B Vocabulary Size:** 262,144 Input: Input Type(s):** Text, Image, Video Input Format(s):** String, Red, Green, Blue (RGB), Video (MP4/WebM) Input Parameters:** One-Dimensional (1D), Two-Dimensional (2D), Three-Dimensional (3D) Other Properties Related to Input:** Supports variable image aspect ratios and resolutions, configurable visual token budgets of 70, 140, 280, 560, and 1120, and video inputs up to 60 seconds

公开页仅展示原文摘录;完整模型卡或数据集卡请前往上游仓库查看。

适用场景

适合在真实样本上评估文本生成与推理能力,并比较质量、时延和资源消耗。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

模型参数

固定版本:4135a98a9b72。 任务标签:文本生成与推理。 架构:Gemma4ForConditionalGeneration。 上游 Safetensors 元数据显示参数量约 20.87 B。 库标记:Model Optimizer。 模型类型字段:gemma4。 上游标注的基础模型:google/gemma-4-31B-it。 上游页面记录的最近更新时间:2026-07-13。

文件说明

上游 API 返回 15 个文件,文件元数据合计 30.42 GB。 已保存文件清单中的主要扩展名:.json 7 个、.safetensors 4 个、.jinja 1 个、.md 1 个、.txt 1 个、无扩展名 1 个。 当前较大的文件包括:model-00003-of-00004.safetensors(9.31 GB);model-00002-of-00004.safetensors(9.29 GB);model-00001-of-00004.safetensors(9.27 GB)。

上游文件元数据

  • .gitattributes1.53 KB
  • .quant_summary.txt272.35 KB
  • chat_template.jinja16.54 KB
  • config.json9.24 KB
  • generation_config.json208 B
  • hf_quant_config.json3.66 KB
  • model-00001-of-00004.safetensors9.27 GB
  • model-00002-of-00004.safetensors9.29 GB
  • model-00003-of-00004.safetensors9.31 GB
  • model-00004-of-00004.safetensors2.52 GB
  • model.safetensors.index.json170.43 KB
  • processor_config.json1.65 KB

硬件建议

仓库文件元数据合计 30.42 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 38.87 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

注意事项

许可证显示为“apache-license-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。