一分钟看懂

  • Nace AI 在 Hugging Face(`nace-ai/drex-max-v1`)开源的 27B 参数多模态决策专用模型。
  • 只给选项打分、不逐字生成废话:单次前向推理(Single Forward Pass)即可同时评估多达 255 个候选项,Decision Index 0.4 得分 67.52。
  • 支持 262K 超长上下文窗口,可混合输入自然语言文本、结构化 JSON 与图片。
  • 24GB 及以上统一内存的苹果 M4/M5 Mac 即可 100% 本地运行,原生兼容 Ollama、llama.cpp、Apple MLX 与 Unsloth。

基本信息

开发机构Nace AI
参数与上下文27B 参数 / 262K 上下文窗口
输入模态文本、结构化 JSON、图像
单次决策上限单次前向推理评估最多 255 个选项(Decision Index 0.4: 67.52)
本地推理生态Ollama、llama.cpp、MLX、Unsloth(24GB+ M4/M5 Mac 可跑)
分类AI 前沿
作者 / 发布方Markandey Sharma
官方入口huggingface.co ↗
热度🔥 热度 3万
发布时间
数据更新

只给选项打分不吐废话:单次前向推理评估 255 个选项

在智能体路由(Agent Routing)、工具选择、商品重排或内容审核场景中,传统大语言模型往往需要先逐字生成一大段思维链文字,再用正则表达式去抠出最终选择的编号,既慢又容易格式出错。

Nace AI 推出的 Drex Max v1(`nace-ai/drex-max-v1`)彻底砍掉了自回归文字生成环节:你只需把背景资料(最高 262K 上下文的文本、JSON 或图片)和最多 255 个候选方案一次性喂给模型,它只做一次前向传播(Single Forward Pass)就能直接输出每个选项的打分。

24GB 内存的 M4 / M5 Mac 即可 100% 本地运行

由于不需要反复解码生成长文本,27B 规模的 Drex Max v1 在端侧硬件上的响应速度远超同尺寸对话模型。经过量化后,配备 24GB 及以上内存的 Apple Silicon(M4 / M5)Mac 即可在本地流畅运行。

官方同步适配了 Ollama、llama.cpp、苹果原生 MLX 以及 Unsloth 微调框架,开发者无需依赖云端 API 就能在本地搭建私有的多模态决策与重排器。

Decision Index 评测表现与开源许可边界

在衡量结构化判断能力的 Decision Index 0.4 基准上,Drex Max v1 拿下了 67.52 分。模型权重已在 Hugging Face 免费开放下载,但需注意其开源许可证对医疗、司法等高风险全自动决策场景设有明确的使用限制。

上手步骤

  1. 访问 Hugging Face 上的 nace-ai/drex-max-v1 仓库

    点击上方按钮查看官方模型卡、量化权重列表与调用示例。

  2. 使用 Ollama、MLX 或 llama.cpp 加载模型

    在 24GB+ 内存的 M4/M5 Mac 或 GPU 工作站上拉取对应格式的权重文件。

  3. 传入图文/JSON 上下文与候选列表获取打分

    在单次请求中传入最多 255 个候选选项,直接读取模型返回的各选项评分与最优排序。

常见问题

Drex Max v1 和普通的 27B 聊天模型有什么区别?

它不是用来写文章或聊天的生成式模型,而是专门用于从最多 255 个候选项中单次打分选优的多模态决策模型。

什么配置的电脑可以在本地跑 Drex Max v1?

配备 24GB 及以上内存的苹果 M4/M5 Mac 或同级显存的 GPU 电脑,即可通过 Ollama、MLX 或 llama.cpp 本地运行。

它支持哪些输入格式?

支持文本、JSON 结构化数据以及图像多模态输入,最大上下文长度为 262K tokens。