needle 模型参数、许可证与获取服务

中文简介

Cactus-Compute/needle 是 Cactus-Compute 在 Hugging Face 发布的模型仓库，当前卡片主要关联上游卡片所列任务。本站固定记录上游版本 5f89b4307696，同步到 11 个文件，文件元数据合计 20.96 GB；访问状态为“公开”，许可证字段为“mit”。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

简体中文（默认）上游原文

【README 卡片中文译介】

以下内容依据上游仓库 Cactus-Compute/needle 的固定版本 README、卡片字段和文件元数据进行中文结构化整理。它保留便于选型的关键信息，完整技术细节、代码示例和许可文本请同时查看上游原文。

【资源概览】
Cactus-Compute/needle 是 Cactus-Compute 在 Hugging Face 发布的模型仓库，当前卡片主要关联上游卡片所列任务。本站固定记录上游版本 5f89b4307696，同步到 11 个文件，文件元数据合计 20.96 GB；访问状态为“公开”，许可证字段为“mit”。

【适用方向】
适合在真实样本上评估上游卡片所列任务能力，并比较质量、时延和资源消耗。建议先用小规模样本验证推理框架、输入输出格式和任务指标，再决定是否进入完整权重获取、量化或部署评估。

【版本与规格】
固定版本：5f89b4307696。任务标签：上游卡片所列任务。架构：NeedleForCausalLM。上游 Safetensors 元数据显示参数量约 30.43 M。库标记：jax。模型类型字段：needle。上游页面记录的最近更新时间：2026-07-13。

【文件信息】
上游 API 返回 11 个文件，文件元数据合计 20.96 GB。已保存文件清单中的主要扩展名：.json 3 个、.model 2 个、.md 1 个、.pkl 1 个、.safetensors 1 个、.vocab 1 个。当前较大的文件包括：model.safetensors（58.06 MB）；needle.pkl（50.19 MB）；needle-cq4.zip（15.44 MB）。

【运行或处理环境】
仓库文件元数据合计 20.96 GB。按每参数 2 字节只计算 BF16 权重，理论下限约 58.04 MB；这不包含 KV Cache、激活值、框架开销或并发余量。实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定，不能只凭参数名或仓库大小作部署承诺；应在目标格式和目标硬件上实测。

【使用边界】
许可证显示为“mit”，具体用途限制、附加政策和归属要求仍以上游原文为准。模型输出、工具调用和生成内容可能出现错误、偏见或安全风险，面向业务前应建立任务级评测、权限隔离和人工确认。

已有简体中文译文 · Codex 基于固定版本 README 与上游元数据生成中文结构化译介 · 2026-07-26 00:51

Needle We distilled Gemini 3.1 into a 26m parameter "Simple Attention Network" that you can even finetune locally on your Mac/PC. In production, Needle runs on Cactus at 6000 toks/sec prefill and 1200 decode speed. Weights are fully open on Cactus-Compute/needle, as well as the dataset generation. | | | |---|---| | Parameters | 26M | | Architecture | Encoder-decoder, pure attention (no FFN) | | Encoder | 12 layers, GQA (8H/4KV), RoPE, gated residuals | | Decoder | 8 layers, self-attn + cross-attn, gated residuals | | d_model | 512 | | Vocab | 8192 (SentencePiece BPE) | | Norm | ZCRMSNorm (zero-centered, init=0) | | Precision | bfloat16 (INT4 QAT during training) | | Pretraining | 200B tokens on 16x TPU v6e (27hrs) | | Post-training | 2B tokens of function call data (45mins) | Quickstart Opens a web UI at http://127.0.0.1:7860 where you can test and finetune on your own tools. Weights are auto-downloaded. Usage (Python) Finetuning Finetune on your own tools via the web UI or CLI: Links Needle - training, finetuning, and inference code Cactus - on-device runtime (6000 tok/s prefill, 1200 tok/s decode) Simple Attention Networks - architecture details License MIT Citation

公开页仅展示原文摘录；完整模型卡或数据集卡请前往上游仓库查看。

适用场景

适合在真实样本上评估上游卡片所列任务能力，并比较质量、时延和资源消耗。建议先用小规模样本验证推理框架、输入输出格式和任务指标，再决定是否进入完整权重获取、量化或部署评估。

模型参数

固定版本：5f89b4307696。任务标签：上游卡片所列任务。架构：NeedleForCausalLM。上游 Safetensors 元数据显示参数量约 30.43 M。库标记：jax。模型类型字段：needle。上游页面记录的最近更新时间：2026-07-13。

文件说明

上游 API 返回 11 个文件，文件元数据合计 20.96 GB。已保存文件清单中的主要扩展名：.json 3 个、.model 2 个、.md 1 个、.pkl 1 个、.safetensors 1 个、.vocab 1 个。当前较大的文件包括：model.safetensors（58.06 MB）；needle.pkl（50.19 MB）；needle-cq4.zip（15.44 MB）。

上游文件元数据

以下仅为 Hugging Face 官方 API 返回的文件名与大小元数据，官网没有下载或托管这些文件。

.gitattributes1.48 KB
config.json777 B
model.safetensors58.06 MB
needle-cq4.zip15.44 MB
needle.pkl50.19 MB
README.md5.55 KB
special_tokens_map.json168 B
tokenizer.model122.03 KB
tokenizer/needle.model122.03 KB
tokenizer/needle.vocab103.27 KB
tokenizer_config.json435 B

硬件建议

仓库文件元数据合计 20.96 GB。按每参数 2 字节只计算 BF16 权重，理论下限约 58.04 MB；这不包含 KV Cache、激活值、框架开销或并发余量。实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定，不能只凭参数名或仓库大小作部署承诺；应在目标格式和目标硬件上实测。

注意事项

许可证显示为“mit”，具体用途限制、附加政策和归属要求仍以上游原文为准。模型输出、工具调用和生成内容可能出现错误、偏见或安全风险，面向业务前应建立任务级评测、权限隔离和人工确认。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件，并在合法访问权限、许可证及平台规则允许的前提下，协助海内外下载、完整性校验及网盘或硬盘交付；本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明，不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。