核心要点速览

  • 南北阁 4.3 33B 是 Nanbeige 推出的 33B 稠密语言模型，采用 Apache 2.0 许可，支持 512K 上下文，权重与说明放在 Hugging Face 官方仓库。
  • 它的核心卖点是智能体能力：官方称在智能体编程与协作类基准上，表现超过同量级的 Qwen3.8-27B，并能接入主流智能体框架处理真实任务。
  • 使用方式是通过 Transformers 的 AutoModelForCausalLM 与 AutoTokenizer 加载，套用聊天模板并传入系统、用户与工具定义，工具调用采用 XML 格式。
  • 它还将作为教师模型，用于训练后续更小的南北阁 4.3 系列模型，首个是 3B 版本，因此它更像小智能体路线的蓝图而非终点。

项目速览

类型/定位开源稠密语言模型，面向智能体任务
适用设备需自备推理环境，也可在 Hugging Face 在线运行
费用说明Apache 2.0 开源，权重免费，推理成本自担
语言支持官方未列明语种，以官方仓库说明为准
核心亮点512K 上下文，XML 工具调用，可接入智能体框架
使用门槛中等偏高，需熟悉 Transformers 与工具调用模板
分类AI 与新模型
作者 / 发布方Nanbeige
官方网站huggingface.co ↗
热度🔥 热度 52万
最后更新

南北阁 4.3 33B 是谁发布的，为什么值得关注

南北阁 4.3 33B（Nanbeige 4.3 33B）由 Nanbeige 发布，公布时间为 2026 年 10 月 25 日。它是一个约 330 亿参数的稠密语言模型，采用 Apache 2.0 许可，支持 512K 上下文窗口，权重与使用说明放在 Hugging Face 的官方仓库中。也就是说，任何人都可以下载权重、自行部署，或在允许的范围内做二次开发与商用。

官方对它的定位很明确：先把教师模型做强，再用它去带出更小的模型。发布说明中提到，南北阁 4.3 33B 在约 30B 参数级别的开源模型中，智能体表现达到领先水平，在智能体编程与协作类基准上有不错成绩，接入主流智能体框架后能处理真实任务，并且推理成本相对可控。

它还有一个更长远的用途：作为后续更小南北阁模型的教师，首个受益者是南北阁 4.3 3B。这意味着 33B 版本不只是拿来直接用，也是在为小参数智能体铺路。对关注端侧部署、低成本智能体的开发者来说，这条路线本身就值得跟踪。

  • 稠密而非混合专家

    33B 稠密结构意味着推理时全部参数参与计算，行为更可预测，但显存占用不会像混合专家模型那样随激活参数下降。

  • 512K 上下文

    长上下文适合把大段代码、日志或终端输出一次性喂给模型，但实际可用长度仍受显存与推理框架限制，建议以官方仓库说明为准。

  • Apache 2.0 许可

    这一许可通常允许商用与修改，但具体合规要求请以官方仓库中的许可文件为准，不要只凭二手信息判断。

智能体编程与终端任务：它到底强在哪

南北阁 4.3 33B 最核心的能力是智能体场景。所谓智能体，就是让模型不只回答问题，还能调用工具、读写文件、执行命令，一步步完成多轮任务。官方称它在智能体编程和协作类基准上表现突出，接入主流智能体框架后可以处理真实世界任务，这正是它与普通聊天模型拉开差距的地方。

在技术层面，它通过 Transformers 加载：使用 AutoModelForCausalLM 与 AutoTokenizer，套用官方聊天模板，然后传入系统提示、用户消息和工具定义。工具调用采用 XML 格式，模型会按约定结构输出调用内容，由外层框架解析并执行。这种设计让它可以被塞进各种智能体外壳里，而不必绑定某一个平台。

官方还强调推理成本效率。约 30B 级别的稠密模型，相比动辄数百 B 的模型更容易在单机多卡或较强工作站上跑起来，对需要反复调用工具、消耗大量 token 的智能体任务来说，单位成本更友好。不过具体吞吐与延迟取决于硬件、量化方式和推理框架，官方并未给出统一数字。

  • XML 工具调用格式

    工具调用以 XML 结构表达，解析逻辑需要你在框架侧自行实现或复用现成适配层，建议先用小例子验证格式再上生产。

  • 可接入主流智能体框架

    官方称它能整合进主流智能体外壳，用于终端任务与编程任务，但具体支持哪些框架请以官方仓库说明和社区适配为准。

  • 教师模型角色

    它将被用来训练更小的南北阁 4.3 3B，说明其输出分布和工具调用习惯会影响后续小模型的行为风格。

从零上手：加载权重、配置工具调用、跑通第一个任务

上手路径相对标准。先打开 Hugging Face 上的官方模型仓库，查看 Files and versions 标签页，确认 safetensors 权重文件是否齐全，再决定是本地下载还是直接在平台上在线运行。官方说明提到它可以在 huggingface.co 上顺畅运行，适合先做小规模验证。

本地使用时，用 Transformers 加载模型与分词器，套用官方聊天模板，把系统提示、用户输入和工具定义按模板组织好。工具定义要写清楚名称、用途和参数结构，模型才会按 XML 格式给出调用。建议先用一两个简单工具做冒烟测试，确认解析链路通畅，再逐步增加工具数量。

接入智能体框架后，重点观察三件事：模型是否正确选择工具、参数是否填对、多轮之后是否丢失上下文。512K 上下文给了很大空间，但把全部历史都塞进去会显著增加显存与延迟，实际使用中通常需要做裁剪或摘要。若发现工具调用格式不稳定，优先检查模板是否与官方一致。

  • 先验证再扩展

    用最小工具集跑通一轮完整调用，再增加复杂度，可以更快定位是模板问题还是框架解析问题。

  • 控制上下文长度

    长上下文不等于无限可用，把无关历史裁掉往往比硬塞更划算，尤其在反复调用工具的循环里。

  • 留意量化与显存

    33B 稠密模型对显存有实际要求，量化能降低门槛但可能影响工具调用稳定性，需要自行权衡测试。

和同类模型比怎么样，适合谁用，有哪些不确定

官方给出的直接对比对象是 Qwen3.8-27B，称在智能体编程与终端任务上超过对方。需要注意的是，这类结论来自发布方自述，基准设置、提示词和评测框架都会影响结果，读者最好在官方仓库确认评测细节，或用自己的任务做小规模复现，而不是只看一句结论。

从定位看，它面向的是愿意自己搭推理环境、需要可控成本智能体的开发者与团队，而不是只想打开网页聊天的普通用户。相比闭源 API，它胜在权重可下载、可私有部署、许可宽松；相比更大的开源模型，它在成本与部署难度上更友好，但绝对能力上限可能不及超大模型。

目前仍有一些未确认之处：官方没有公布完整的支持语种列表、没有给出统一的推理硬件要求，也没有说明具体适配了哪些智能体框架。这些细节建议直接查阅 Hugging Face 官方仓库的模型卡与说明文件。另外，3B 版本尚未发布，其表现如何还有待观察。

  • 与 Qwen3.8-27B 的对比

    官方称在智能体编程与终端任务上更强，但这是发布方口径，建议结合自己的任务实测，不要直接当作定论。

  • 与闭源 API 的取舍

    开源权重带来数据可控与长期成本优势，代价是你要自己承担部署、运维和调优工作。

  • 待确认信息

    语种支持、硬件门槛、框架适配清单等均未在现有信息中明确，使用前请以官方仓库内容为准。

分步上手指南

  1. 第一步：确认权重与许可

    打开 Hugging Face 上的南北阁官方仓库，查看模型卡与 Files and versions 标签页，确认 safetensors 权重可下载，并阅读 Apache 2.0 许可条款。这一步能避免后续部署到一半才发现文件缺失或用途受限。

  2. 第二步：选择运行方式

    如果只是想快速体验，可以直接在 huggingface.co 上在线运行；如果要接入自己的智能体系统，则下载权重到本地或私有服务器。两种方式各有取舍，前者省事，后者在数据与成本上更可控。

  3. 第三步：用 Transformers 加载模型

    在 Python 环境中使用 AutoModelForCausalLM 和 AutoTokenizer 加载权重，并按官方说明套用聊天模板。注意模板版本要与仓库一致，否则工具调用格式可能对不上，导致解析失败。

  4. 第四步：配置工具定义并测试调用

    在提示中写入系统指令、用户请求和工具定义，工具需说明名称、用途与参数。先跑一个最简单的工具调用，确认模型输出的 XML 结构能被你的解析器正确读取，再逐步增加工具数量。

  5. 第五步：接入智能体框架并观察表现

    把模型接入你常用的智能体外壳，执行终端或编程类任务，重点观察工具选择是否正确、参数是否完整、多轮后上下文是否稳定。若出现问题，优先检查模板一致性与上下文裁剪策略。

常见问题

南北阁 4.3 33B 是免费的吗？

模型权重采用 Apache 2.0 许可发布，可以在 Hugging Face 官方仓库免费获取，通常也允许商用与修改。但免费指的是权重本身，你自己部署时的显卡、电力和云服务费用仍需自担。具体合规细节请以官方仓库中的许可文件为准。

它和 Qwen3.8-27B 相比谁更强？

官方发布说明称，南北阁 4.3 33B 在智能体编程与终端任务上超过 Qwen3.8-27B，并在约 30B 参数级别的开源模型中达到领先水平。不过这是发布方自述，评测设置会影响结论。建议查看官方仓库的评测细节，或用自己的实际任务做小规模对比测试。

普通用户能直接用吗，需要什么设备？

它主要面向开发者，需要自己搭推理环境，不是打开网页就能聊的产品。33B 稠密模型对显存有实际要求，具体门槛取决于量化方式和推理框架，官方未给出统一硬件清单。如果只是想体验，可以先在 huggingface.co 上在线运行。

怎么让它调用工具，格式是什么？

通过 Transformers 加载后，套用官方聊天模板，在输入中传入系统提示、用户消息和工具定义，模型会以 XML 格式输出工具调用内容。你需要在外层框架里解析这段 XML 并真正执行工具。建议先用一个简单工具验证整条链路，再扩展工具集。

3B 版本什么时候出，和 33B 什么关系？

官方表示南北阁 4.3 33B 将作为教师模型，用于训练后续更小的南北阁 4.3 系列模型，首个是南北阁 4.3 3B。也就是说 33B 版本承担的是带教角色，小模型会继承它的能力风格。3B 版本的具体发布时间与表现目前尚未公布，需要关注官方仓库更新。