模型

MiniCPM-Llama3-V-2_5-GPTQ

openbmb/MiniCPM-Llama3-V-2_5-GPTQ

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 内容检查:AI 辅助整理并检查 许可证:apache-2.0 上游版本:a37001580c9d

中文简介

openbmb/MiniCPM-Llama3-V-2_5-GPTQ 是 openbmb 在 Hugging Face 发布的模型仓库,当前卡片主要关联图文理解与多模态生成、文本生成与推理。本站固定记录上游版本 a37001580c9d,同步到 30 个文件,文件元数据合计 6.34 GB;访问状态为“公开”,许可证字段为“apache-2.0”。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

【README 卡片中文译介】

以下内容依据上游仓库 openbmb/MiniCPM-Llama3-V-2_5-GPTQ 的固定版本 README、卡片字段和文件元数据进行中文结构化整理。它保留便于选型的关键信息,完整技术细节、代码示例和许可文本请同时查看上游原文。

【资源概览】
openbmb/MiniCPM-Llama3-V-2_5-GPTQ 是 openbmb 在 Hugging Face 发布的模型仓库,当前卡片主要关联图文理解与多模态生成、文本生成与推理。本站固定记录上游版本 a37001580c9d,同步到 30 个文件,文件元数据合计 6.34 GB;访问状态为“公开”,许可证字段为“apache-2.0”。

【适用方向】
适合评估图文理解、视觉问答、文档或场景解析等多模态任务。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

【版本与规格】
固定版本:a37001580c9d。 任务标签:图文理解与多模态生成、文本生成与推理。 语言字段:multilingual。 架构:MiniCPMV。 上游 Safetensors 元数据显示参数量约 8.54 B。 库标记:transformers。 模型类型字段:minicpmv。 上游标注的基础模型:openbmb/MiniCPM-Llama3-V-2_5。 上游页面记录的最近更新时间:2026-06-04。

【文件信息】
上游 API 返回 30 个文件,文件元数据合计 6.34 GB。 已保存文件清单中的主要扩展名:.json 9 个、.png 8 个、.py 6 个、.gif 3 个、.safetensors 2 个、.md 1 个。 当前较大的文件包括:model-00001-of-00002.safetensors(3.99 GB);model-00002-of-00002.safetensors(2.29 GB);assets/gif_cases/ticket.gif(18.79 MB)。

【运行或处理环境】
仓库文件元数据合计 6.34 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 15.90 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

【使用边界】
许可证显示为“apache-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

已有简体中文译文 · Codex 基于固定版本 README 与上游元数据生成中文结构化译介 · 2026-07-26 00:51

A GPT-4V Level Multimodal LLM on Your Phone GitHub | Demo | WeChat News 📌 Pinned [2025.01.14] 🔥🔥 🔥 We open source **MiniCPM-o 2.6**, with significant performance improvement over **MiniCPM-V 2.6**, and support real-time speech-to-speech conversation and multimodal live streaming. Try it now. [2024.08.10] 🚀🚀🚀 MiniCPM-Llama3-V 2.5 is now fully supported by official llama.cpp! GGUF models of various sizes are available here. [2024.08.06] 🔥🔥🔥 We open-source **MiniCPM-V 2.6**, which outperforms GPT-4V on single image, multi-image and video understanding. It advances popular features of MiniCPM-Llama3-V 2.5, and can support real-time video understanding on iPad. Try it now! [2024.08.03] MiniCPM-Llama3-V 2.5 technical report is released! See here. [2024.07.19] MiniCPM-Llama3-V 2.5 supports vLLM now! See here. [2024.05.28] 💫 We now support LoRA fine-tuning for MiniCPM-Llama3-V 2.5, using only 2 V100 GPUs! See more statistics here. [2024.05.23] 🔥🔥🔥 MiniCPM-V tops GitHub Trending and HuggingFace Trending! Our demo, recommended by Hugging Face Gradio’s official account, is available here. Come and try it out! [2024.05.20] We open-soure MiniCPM-Llama3-V 2.5, it has improved OCR capability and supports 30+ languages, representing the first end-side MLLM achieving GPT-4V level performance! We provide efficient inference and simple fine-tuning. Try it now! Model Summary MiniCPM-Llama3-V 2.5** is the latest model in the MiniCPM-V series. The model is built on SigLip-400M and Llama3-8B-Instruct with a total of 8B parameters. It exhibits a significant performance improvement over MiniCPM-V 2.0. Notable features of MiniCPM-Llama3-V 2.5 include: 🔥 **Leading Performance.** MiniCPM-Llama3-V 2.5 has achieved an average score of 65.1 on OpenCompass, a comprehensive evaluation over 11 popular benchmarks. **With only 8B parameters, it surpasses widely used proprietary models like GPT-4V-1106, Gemini Pro, Claude 3 and Qwen-VL-Max** and greatly outperforms other Llama 3-based MLLMs. 💪 **Strong

公开页仅展示原文摘录;完整模型卡或数据集卡请前往上游仓库查看。

适用场景

适合评估图文理解、视觉问答、文档或场景解析等多模态任务。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

模型参数

固定版本:a37001580c9d。 任务标签:图文理解与多模态生成、文本生成与推理。 语言字段:multilingual。 架构:MiniCPMV。 上游 Safetensors 元数据显示参数量约 8.54 B。 库标记:transformers。 模型类型字段:minicpmv。 上游标注的基础模型:openbmb/MiniCPM-Llama3-V-2_5。 上游页面记录的最近更新时间:2026-06-04。

文件说明

上游 API 返回 30 个文件,文件元数据合计 6.34 GB。 已保存文件清单中的主要扩展名:.json 9 个、.png 8 个、.py 6 个、.gif 3 个、.safetensors 2 个、.md 1 个。 当前较大的文件包括:model-00001-of-00002.safetensors(3.99 GB);model-00002-of-00002.safetensors(2.29 GB);assets/gif_cases/ticket.gif(18.79 MB)。

上游文件元数据

  • .gitattributes1.57 KB
  • assets/gif_cases/1-4.gif10.87 MB
  • assets/gif_cases/meal_plan.gif5.94 MB
  • assets/gif_cases/ticket.gif18.79 MB
  • assets/MiniCPM-Llama3-V-2.5-benchmark.png313.06 KB
  • assets/MiniCPM-Llama3-V-2.5-peformance.png155.84 KB
  • assets/minicpmv-llama3-v2.5/case_complex_reasoning.png1.65 MB
  • assets/minicpmv-llama3-v2.5/case_long_img.png3.24 MB
  • assets/minicpmv-llama3-v2.5/case_markdown.png1.72 MB
  • assets/minicpmv-llama3-v2.5/case_OCR_en.png5.60 MB
  • assets/minicpmv-llama3-v2.5/cases_all.png12.54 MB
  • assets/minicpmv-llama3-v2.5/llavabench_compare.png492.39 KB

硬件建议

仓库文件元数据合计 6.34 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 15.90 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

注意事项

许可证显示为“apache-2.0”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。