模型

OpenAI gpt-oss-20b

openai/gpt-oss-20b

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 内容检查:AI 辅助整理并检查 许可证:Apache License 2.0 上游版本:6cee5e81ee83

中文简介

gpt-oss-20b 是 OpenAI 发布方提供的开放权重 MoE 模型,不等同于 ChatGPT 产品本身,也不是下载 ChatGPT 账号或服务。固定 README 标注约 21B 总参数、3.6B 激活参数,并以 MXFP4 路线面向本地和低延迟使用;本站固定版本为 6cee5e81ee83。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

版本定位:gpt-oss-20b 是 OpenAI 发布的开放权重模型,不是 ChatGPT 客户端或在线服务的可下载副本。固定卡片将它定位为低延迟、本地和专用场景,约 21B 总参数、3.6B 激活参数。

部署要点:模型按 Harmony response format 后训练,聊天模板不能随意替换。仓库包含多种运行格式,先确定目标框架再选择文件,既能减少重复下载,也便于校验。

硬件与安全:发布方说明 MXFP4 路线可在约 16 GB memory 运行,但长上下文和并发会增加占用。输出与工具调用仍需权限控制、事实核验和人工确认;本站不代表 OpenAI 官方支持。

已有简体中文译文 · Codex 基于固定版本上游 README 编写;待人工复核 · 2026-07-26 01:42

Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors of these open models: `gpt-oss-120b` — for production, general purpose, high reasoning use cases that fit into a single 80GB GPU (like NVIDIA H100 or AMD MI300X) (117B parameters with 5.1B active parameters) `gpt-oss-20b` — for lower latency, and local or specialized use cases (21B parameters with 3.6B active parameters) Both models were trained on our harmony response format and should only be used with the harmony format as it will not work correctly otherwise. [!NOTE] This model card is dedicated to the smaller `gpt-oss-20b` model. Check out `gpt-oss-120b` for the larger model. Highlights **Permissive Apache 2.0 license:** Build freely without copyleft restrictions or patent risk—ideal for experimentation, customization, and commercial deployment. **Configurable reasoning effort:** Easily adjust the reasoning effort (low, medium, high) based on your specific use case and latency needs. **Full chain-of-thought:** Gain complete access to the model’s reasoning process, facilitating easier debugging and increased trust in outputs. It’s not intended to be shown to end users. **Fine-tunable:** Fully customize models to your specific use case through parameter fine-tuning. **Agentic capabilities:** Use the models’ native capabilities for function calling, web browsing, Python code execution, and Structured Outputs. **MXFP4 quantization:** The models were post-trained with MXFP4 quantization of the MoE weights, making `gpt-oss-120b` run on a single 80GB GPU (like NVIDIA H100 or AMD MI300X) and the `gpt-oss-20b` model run within 16GB of memory. All evals were performed with the same MXFP4 quantization. Inference examples Transformers You can use `gpt-oss-120b` and `gpt-oss-20b` with Transformers. If you use the Transformers chat template, it will automatical

公开页仅展示原文摘录;完整模型卡或数据集卡请前往上游仓库查看。

适用场景

适合本地推理、专用助手、工具调用原型和在消费级工作站上验证 OpenAI 开放权重路线。选择它时应同时评估 Harmony 响应格式、推理框架支持、任务质量和安全策略;若目标是更高容量推理且具备 80 GB GPU,可再比较 120b。

模型参数

固定版本:6cee5e81ee83917806bbde320786a8fb61efebee。Hugging Face 元数据参数量:21,511,953,984;固定 README:约 21B 总参数、3.6B 激活参数、MoE、MXFP4,并说明模型按 Harmony 格式后训练。

文件说明

固定 SHA 下共有 18 个文件,仓库同时包含 Transformers Safetensors、original 和 Metal 三套相关产物,文件元数据合计约 38.46 GB,API used_storage 约 38.54 GB。实际部署通常只需选定一套兼容格式,不能把整仓库大小误当成单一权重文件大小。

上游文件元数据

  • .gitattributes1.53 KB
  • chat_template.jinja16.35 KB
  • config.json1.76 KB
  • generation_config.json177 B
  • LICENSE11.09 KB
  • metal/model.bin12.81 GB
  • model-00000-of-00002.safetensors4.46 GB
  • model-00001-of-00002.safetensors4.47 GB
  • model-00002-of-00002.safetensors3.88 GB
  • model.safetensors.index.json35.50 KB
  • original/config.json376 B
  • original/dtypes.json12.78 KB

硬件建议

发布方固定 README 说明 MXFP4 版本可在约 16 GB memory 范围运行;该数字依赖受支持的格式和推理实现,长上下文、KV cache 与并发仍会增加占用。下载前应先确定 Transformers、Metal、Ollama 或其他运行路线,避免重复获取多套权重。

注意事项

固定 README 明确模型应使用 Harmony response format,直接套用普通聊天模板可能产生错误行为。完整思维过程不应直接展示给终端用户。即使 Apache 2.0 较宽松,模型输出仍可能错误或含风险内容,工具调用必须做最小权限、参数校验和人工确认。

获取、校验与交付

先核对上游版本、访问条件和许可证,再根据文件规模选择自行获取或人工协助。橙子AI科技可在合法访问权限、许可证及平台规则允许的前提下,提供版本与文件范围核对、下载协助、完整性校验和国内交付咨询;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。