Ternary-Bonsai-2-27B-gguf 模型参数、许可证与获取服务

中文简介

Ternary-Bonsai-2-27B-gguf 是 Prism ML 基于 Qwen3.8-27B 提供的三值低比特版本，区分 PTQ1_0 与 PQ2_0 打包，并另附视觉投影文件。它提供了不同于常规 GGUF 量化的本地部署路线。

UPSTREAM README

上游模型卡 / 数据集卡

简体中文（默认）上游原文

【定位与用途】
Ternary-Bonsai-2-27B-gguf 是 Prism ML 基于 Qwen3.8-27B 提供的三值低比特版本，区分 PTQ1_0 与 PQ2_0 打包，并另附视觉投影文件。它提供了不同于常规 GGUF 量化的本地部署路线。

【如何选择】
适合在支持相应三值内核的 llama.cpp 环境比较占用、速度和推理质量；图像任务需同时匹配视觉组件。

【版本与获取范围】
选型方向：推理与智能体。固定上游版本：6ed5e12bf84b7a63069882c91dd9e9218647d17b。API 任务字段：text-generation。上游最近更新时间：2026-09-17（不一定为首次发布日期）。规模、子集和组件差异见本页简介及注意事项；API 标签与卡片正文的含义分别保留。

【容易混淆的边界】
属于衍生权重而非 Qwen 原始发布；模型文件体积不等于总内存，卡片速度依赖指定设备与自定义内核。

本节是本站基于固定版本卡片编写的中文选型摘要，并非原文逐句翻译。完整操作、评测协议与许可原文请查看上游固定版本链接；模型效果及资源处理需求尚未由本站实测。

基于固定版本上游资料编写的中文选型说明 · 2026-09-20 15:03

本页提供中文选型摘要，请通过上方固定版本链接查看完整上游模型卡或数据集卡。

适用场景

适合在支持相应三值内核的 llama.cpp 环境比较占用、速度和推理质量；图像任务需同时匹配视觉组件。

模型参数

选型方向：推理与智能体。固定上游版本：6ed5e12bf84b7a63069882c91dd9e9218647d17b。API 任务字段：text-generation。上游最近更新时间：2026-09-17（不一定为首次发布日期）。规模、子集和组件差异见本页简介及注意事项；API 标签与卡片正文的含义分别保留。

文件说明

上游 API 返回 10 个文件，文件元数据合计 63.82 GB。已保存文件清单中的主要扩展名：.gguf 5 个、无扩展名 2 个、.md 1 个、.svg 1 个、.txt 1 个。当前较大的文件包括：Ternary-Bonsai-2-27B-F16.gguf（50.11 GB）；Ternary-Bonsai-2-27B-PQ2_0.gguf（6.71 GB）；Ternary-Bonsai-2-27B-PTQ1_0.gguf（5.54 GB）。此处只统计当前 Git 仓库的文件元数据，不包含外部链接、Bucket 或另行申请的完整集合。

上游文件元数据

以下仅为 Hugging Face 官方 API 返回的文件名与大小元数据，官网没有下载或托管这些文件。

.gitattributes93 B
assets/bonsai-logo.svg515 B
LICENSE9.94 KB
NOTICE.txt411 B
README.md22.25 KB
Ternary-Bonsai-2-27B-F16.gguf50.11 GB
Ternary-Bonsai-2-27B-mmproj-BF16.gguf888.01 MB
Ternary-Bonsai-2-27B-mmproj-Q8_0.gguf600.10 MB
Ternary-Bonsai-2-27B-PQ2_0.gguf6.71 GB
Ternary-Bonsai-2-27B-PTQ1_0.gguf5.54 GB

硬件建议

先选定所需权重格式和精度，再核对推理代码、依赖与目标硬件。仓库元数据合计可能包含多个变体、视觉组件或示例，不能用来直接推算运行显存；内存还受上下文、缓存、批量和并发影响，应以小样本实测确定配置。

注意事项

属于衍生权重而非 Qwen 原始发布；模型文件体积不等于总内存，卡片速度依赖指定设备与自定义内核。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件，并在合法访问权限、许可证及平台规则允许的前提下，协助海内外下载、完整性校验及网盘或硬盘交付；本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明，不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。