中文简介
Qwen3-8B 是 Hugging Face 上 Qwen 组织发布的稠密因果语言模型。上游模型卡将其定位为经过预训练和后训练的 8B 级文本生成模型，可在同一模型中切换思考与非思考模式。本站当前只整理仓库来源、版本、许可候选、结构化参数和文件元数据，不托管模型文件，也不代表与 Qwen 或 Hugging Face 存在官方合作关系。
上游模型卡 / 数据集卡
Qwen3-8B 是 Qwen3 系列中的稠密因果语言模型，经过预训练和后训练。上游模型卡列出的总参数量为 8.2B，其中非嵌入参数约 6.95B；模型包含 36 层，采用 GQA，Q 头数为 32、KV 头数为 8。原生上下文长度为 32,768 token，并说明可通过 YaRN 扩展到 131,072 token。
该模型支持在同一权重中切换思考与非思考模式。使用 Transformers 聊天模板时，enable_thinking 默认为 true；设为 false 可关闭思考模式。启用思考时，输出通常包含 think 区块和最终回答；上游也介绍了通过 /think 与 /no_think 在多轮对话中进行软切换的方式。
上游建议使用较新的 Transformers 版本，低于 4.51.0 的版本可能出现无法识别 qwen3 架构的问题。部署方面，模型卡给出了 SGLang 和 vLLM 的 OpenAI 兼容接口示例，也提及 Ollama、LM Studio、MLX-LM、llama.cpp 和 KTransformers 等本地运行工具。具体框架版本、显存需求和长上下文配置应以模型卡及各框架当前文档为准。
上游将推理、代码、指令遵循、多语言和工具调用列为主要能力方向，并称支持 100 多种语言和方言；这些属于发布方说明，不等同于本站独立测评结论。模型实际效果、部署成本、输出安全性及许可证适用范围，仍需结合业务场景自行验证。
Qwen3-8B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancements in reasoning, instruction-following, agent capabilities, and multilingual support, with the following key features: **Uniquely support of seamless switching between thinking mode** (for complex logical reasoning, math, and coding) and **non-thinking mode** (for efficient, general-purpose dialogue) **within single model**, ensuring optimal performance across various scenarios. **Significantly enhancement in its reasoning capabilities**, surpassing previous QwQ (in thinking mode) and Qwen2.5 instruct models (in non-thinking mode) on mathematics, code generation, and commonsense logical reasoning. **Superior human preference alignment**, excelling in creative writing, role-playing, multi-turn dialogues, and instruction following, to deliver a more natural, engaging, and immersive conversational experience. **Expertise in agent capabilities**, enabling precise integration with external tools in both thinking and unthinking modes and achieving leading performance among open-source models in complex agent-based tasks. **Support of 100+ languages and dialects** with strong capabilities for **multilingual instruction following** and **translation**. Model Overview Qwen3-8B** has the following features: Type: Causal Language Models Training Stage: Pretraining & Post-training Number of Parameters: 8.2B Number of Paramaters (Non-Embedding): 6.95B Number of Layers: 36 Number of Attention Heads (GQA): 32 for Q and 8 for KV Context Length: 32,768 natively and 131,072 tokens with YaRN. For more details, including benchmark evaluation, hardware requirements, and inference performance, please refer to our blog, GitHub, and Documentation. Quickstart The code of Qwen3 has been in the latest Hugging Face `transformers` and we advise you to u
适用场景
适合用于中文及多语言对话、内容生成、代码与数学推理研究，以及需要工具调用能力的智能体原型验证。实际用于生产前，应结合任务数据、推理框架、延迟目标和安全要求自行评测。
模型参数
上游模型卡标注：因果语言模型；约 8.2B 参数，其中非嵌入参数约 6.95B；36 层；注意力头为 32 个 Q 头和 8 个 KV 头。原生上下文长度为 32,768 tokens，并说明可通过 YaRN 扩展至 131,072 tokens。本站同步到的结构化元数据为 Qwen3ForCausalLM 架构、qwen3 模型类型、Transformers 库及 BF16 Safetensors 参数统计。
人工整理的文件说明
本站从 Hugging Face 官方 API 同步到 15 个上游文件条目，仓库总大小元数据显示约 42.33 GB。该数值是仓库文件元数据汇总，不等同于实际部署包大小、显存需求或本站库存。完整文件及版本应以上游仓库为准。
上游文件元数据
.gitattributes1.53 KBconfig.json728 Bgeneration_config.json239 BLICENSE11.08 KBmerges.txt1.59 MBmodel-00001-of-00005.safetensors3.72 GBmodel-00002-of-00005.safetensors3.72 GBmodel-00003-of-00005.safetensors3.69 GBmodel-00004-of-00005.safetensors2.97 GBmodel-00005-of-00005.safetensors1.16 GBmodel.safetensors.index.json32.11 KBREADME.md16.27 KB
硬件建议
本站暂不提供固定显存门槛。推理资源需求会随精度、量化方式、推理框架、并发、上下文长度和 KV Cache 设置变化；训练或微调还需要额外的优化器与激活内存。部署前应按目标配置进行容量评估和实测。
注意事项
许可证字段 apache-2.0 来自本次上游元数据同步，发布前仍需管理员核对许可证原文、仓库归属和适用条件。上游模型卡提示使用过旧的 Transformers 版本可能无法识别 qwen3；长上下文扩展也需要按上游说明配置，不能把 131,072 tokens 视为所有环境的默认能力。模型输出仍需结合具体场景进行安全、准确性和合规评估。
本页面为橙子AI科技的中文整理与服务说明，不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。