跳到正文
Ollama Blog·精选AI 评分78

NVIDIA Nemotron 3.5 Lightning 上线 Ollama,30B 总参数 3B 激活可本地运行

NVIDIA Nemotron 3.5 Lightning

AI 导读

NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。该模型为 30B 总参数、每 token 仅 3B 激活的混合 MoE 开源模型,面向持续运行的智能体任务,支持最长 1M token 上下文,并通过多 token 预测等投机解码实现最高 4 倍于同类开源模型的吞吐。

推荐理由

原文给出 30B 总参数、3B 激活的本地智能体模型规格与吞吐数据,可据此判断本地常驻智能体的可行性。

来源:Ollama Blog · ollama.com