模型

UserLM-8b

microsoft/UserLM-8b

查看上游原文 ↗
上游访问:公开 本站服务:可咨询 内容检查:AI 辅助整理并检查 许可证:mit 上游版本:ce576a239996

中文简介

microsoft/UserLM-8b 是 microsoft 在 Hugging Face 发布的模型仓库,当前卡片主要关联文本生成与推理。本站固定记录上游版本 ce576a239996,同步到 17 个文件,文件元数据合计 29.93 GB;访问状态为“公开”,许可证字段为“mit”。

UPSTREAM README

上游模型卡 / 数据集卡

在 Hugging Face 查看原文 ↗

【README 卡片中文译介】

以下内容依据上游仓库 microsoft/UserLM-8b 的固定版本 README、卡片字段和文件元数据进行中文结构化整理。它保留便于选型的关键信息,完整技术细节、代码示例和许可文本请同时查看上游原文。

【资源概览】
microsoft/UserLM-8b 是 microsoft 在 Hugging Face 发布的模型仓库,当前卡片主要关联文本生成与推理。本站固定记录上游版本 ce576a239996,同步到 17 个文件,文件元数据合计 29.93 GB;访问状态为“公开”,许可证字段为“mit”。

【适用方向】
适合在真实样本上评估文本生成与推理能力,并比较质量、时延和资源消耗。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

【版本与规格】
固定版本:ce576a239996。 任务标签:文本生成与推理。 语言字段:en。 架构:LlamaForCausalLM。 上游 Safetensors 元数据显示参数量约 8.03 B。 模型类型字段:llama。 上游标注的基础模型:meta-llama/Llama-3.1-8B。 上游页面记录的最近更新时间:2026-06-09。

【文件信息】
上游 API 返回 17 个文件,文件元数据合计 29.93 GB。 已保存文件清单中的主要扩展名:.safetensors 7 个、.json 6 个、.md 2 个、.jinja 1 个、无扩展名 1 个。 当前较大的文件包括:model-00004-of-00007.safetensors(4.66 GB);model-00006-of-00007.safetensors(4.66 GB);model-00003-of-00007.safetensors(4.66 GB)。

【运行或处理环境】
仓库文件元数据合计 29.93 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 14.96 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

【使用边界】
许可证显示为“mit”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

已有简体中文译文 · Codex 基于固定版本 README 与上游元数据生成中文结构化译介 · 2026-07-26 00:51

microsoft/UserLM-8b model card Model description Unlike typical LLMs that are trained to play the role of the "assistant" in conversation, we trained UserLM-8b to simulate the “user” role in conversation (by training it to predict user turns in a large corpus of conversations called WildChat). This model is useful in simulating more realistic conversations, which is in turn useful in the development of more robust assistants. The model takes a single input, which is the “task intent”, which defines the high-level objective that the user simulator should pursue. The user can then be used to generate: (1) a first-turn user utterance, (2) generate follow-up user utterances based on a conversation state (one or several user-assistant turn exchanges), and (3) generate a token when the user simulator expects that the conversation has run its course. Developed by: Tarek Naous (intern at MSR Summer 2025), Philippe Laban (MSR), Wei Xu, Jennifer Neville (MSR) Paper: https://arxiv.org/abs/2510.06552 How to get started with the model Here’s a simple snippet to use the model: Uses Direct intended uses The UserLM-8b is released for use by researchers involved in the evaluation of assistant LLMs. In such scenarios, UserLM-8b can be used to simulate multi-turn conversations, with our analyses (see Section 3 of the paper) giving evidence that UserLM-8b provides more realistic simulation of user behavior than other methods (such as prompting an assistant model). UserLM-8b offers a user simulation environment that can better estimate the performance of an assistant LLM with real users. See Section 4 of the paper for an initial implementation of such an evaluation. Downstream uses We envision several potential uses for UserLM-8b that we did not implement yet in our presented work but describe in our Discussion section as potential research directions for UserLMs. These potential applications include: (1) user modeling (i.e., predicting user responses to a given set of questions), (2) f

公开页仅展示原文摘录;完整模型卡或数据集卡请前往上游仓库查看。

适用场景

适合在真实样本上评估文本生成与推理能力,并比较质量、时延和资源消耗。 建议先用小规模样本验证推理框架、输入输出格式和任务指标,再决定是否进入完整权重获取、量化或部署评估。

模型参数

固定版本:ce576a239996。 任务标签:文本生成与推理。 语言字段:en。 架构:LlamaForCausalLM。 上游 Safetensors 元数据显示参数量约 8.03 B。 模型类型字段:llama。 上游标注的基础模型:meta-llama/Llama-3.1-8B。 上游页面记录的最近更新时间:2026-06-09。

文件说明

上游 API 返回 17 个文件,文件元数据合计 29.93 GB。 已保存文件清单中的主要扩展名:.safetensors 7 个、.json 6 个、.md 2 个、.jinja 1 个、无扩展名 1 个。 当前较大的文件包括:model-00004-of-00007.safetensors(4.66 GB);model-00006-of-00007.safetensors(4.66 GB);model-00003-of-00007.safetensors(4.66 GB)。

上游文件元数据

  • .gitattributes1.53 KB
  • .msr/project.md5.93 KB
  • chat_template.jinja191 B
  • config.json688 B
  • generation_config.json172 B
  • model-00001-of-00007.safetensors4.55 GB
  • model-00002-of-00007.safetensors4.50 GB
  • model-00003-of-00007.safetensors4.66 GB
  • model-00004-of-00007.safetensors4.66 GB
  • model-00005-of-00007.safetensors4.50 GB
  • model-00006-of-00007.safetensors4.66 GB
  • model-00007-of-00007.safetensors2.39 GB

硬件建议

仓库文件元数据合计 29.93 GB。 按每参数 2 字节只计算 BF16 权重,理论下限约 14.96 GB;这不包含 KV Cache、激活值、框架开销或并发余量。 实际显存与内存由精度、量化方式、上下文长度、批量、并发、MoE 专家加载方式和推理框架共同决定,不能只凭参数名或仓库大小作部署承诺;应在目标格式和目标硬件上实测。

注意事项

许可证显示为“mit”,具体用途限制、附加政策和归属要求仍以上游原文为准。 模型输出、工具调用和生成内容可能出现错误、偏见或安全风险,面向业务前应建立任务级评测、权限隔离和人工确认。

获取、校验与交付

咨询此资源时只需发送本页链接或资源准确全称。橙子AI科技会继续核对版本、文件与类型、README资料卡、许可证和访问条件,并在合法访问权限、许可证及平台规则允许的前提下,协助海内外下载、完整性校验及网盘或硬盘交付;本官网本身不托管或下载资源文件。

第三方资源声明

本页面为橙子AI科技基于固定版本上游卡片整理的中文信息与服务说明,不代表资源作者或平台官方页面。实际许可、访问和使用条件以上游原文为准。