模型

needle3

Cactus-Compute/needle3

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 许可证:apache-2.0 上游版本:b274efcb211a

中文简介

Needle 3 面向移动设备和嵌入式场景,侧重工具参数生成、结构化抽取与文本嵌入,主动压缩通用聊天能力。系列允许选用不同深度的部署版本。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

【定位与用途】
Needle 3 面向移动设备和嵌入式场景,侧重工具参数生成、结构化抽取与文本嵌入,主动压缩通用聊天能力。系列允许选用不同深度的部署版本。

【如何选择】
适合设备端指令路由、表单字段抽取和本地搜索;从实际函数 schema 开始小规模验证。

【版本与获取范围】
选型方向:检索、抽取与专用模型。固定上游版本:b274efcb211a9eef48c9a88da4b43bd569696a39。API 任务字段:text-generation。API 架构字段:NeedleForToolCalling。上游最近更新时间:2026-09-19(不一定为首次发布日期)。 规模、子集和组件差异见本页简介及注意事项;API 标签与卡片正文的含义分别保留。

【容易混淆的边界】
语法约束只能保证输出可解析,不能保证参数真实或动作合适;不同深度和量化版本的体积与精度需分开记录。

本节是本站基于固定版本卡片编写的中文选型摘要,并非原文逐句翻译。完整操作、评测协议与许可原文请查看上游固定版本链接;模型效果及资源处理需求尚未由本站实测。

基于固定版本上游资料编写的中文选型说明 · 2026-09-20 15:03

本页提供中文选型摘要,请通过上方固定版本链接查看完整上游模型卡或数据集卡。

适用场景

适合设备端指令路由、表单字段抽取和本地搜索;从实际函数 schema 开始小规模验证。

模型参数

选型方向:检索、抽取与专用模型。固定上游版本:b274efcb211a9eef48c9a88da4b43bd569696a39。API 任务字段:text-generation。API 架构字段:NeedleForToolCalling。上游最近更新时间:2026-09-19(不一定为首次发布日期)。 规模、子集和组件差异见本页简介及注意事项;API 标签与卡片正文的含义分别保留。

文件说明

上游 API 返回 75 个文件,文件元数据合计 310.78 MB。 已保存文件清单中的主要扩展名:.h 16 个、.whl 16 个、.a 15 个、无扩展名 11 个、.svg 5 个、.exe 2 个。 当前较大的文件包括:checkpoints/needle3.safetensors(230.83 MB);needle3.cact(33.70 MB);wasm-component/needle.component.wasm(3.98 MB)。 此处只统计当前 Git 仓库的文件元数据,不包含外部链接、Bucket 或另行申请的完整集合。

上游文件元数据

  • .gitattributes4.62 KB
  • android-arm64/libneedle.a1.59 MB
  • android-arm64/needle1.14 MB
  • android-arm64/needle.h1.16 KB
  • android-armv7/libneedle.a1.21 MB
  • android-armv7/needle672.85 KB
  • android-armv7/needle.h1.16 KB
  • android-riscv64/libneedle.a3.54 MB
  • android-riscv64/needle1014.45 KB
  • android-riscv64/needle.h1.16 KB
  • assets/banner.svg3.00 KB
  • assets/benchmarks.svg73.76 KB

硬件建议

先选定所需权重格式和精度,再核对推理代码、依赖与目标硬件。仓库元数据合计可能包含多个变体、视觉组件或示例,不能用来直接推算运行显存;内存还受上下文、缓存、批量和并发影响,应以小样本实测确定配置。

注意事项

语法约束只能保证输出可解析,不能保证参数真实或动作合适;不同深度和量化版本的体积与精度需分开记录。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。