跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

7 条精选近 30 天 5 条共收录 21 条

更新

开源生态的精选

今天11月14日周六第 1–7 条
  1. TechCrunch · AI78

    黄仁勋辞任英伟达 CEO,公司对开源的支持面临变数

    英伟达 CEO 黄仁勋于周四辞职,此前他承认与一名被指为中国间谍的女性有婚外情,引发美国国家安全方面的担忧。黄仁勋一直是开源 AI 的坚定支持者,曾推动 Nemotron 系列开放权重模型,并牵头 25 家公司联名致信美国政府,反对过度限制开放权重模型。

    推荐理由:黄仁勋离任让英伟达的开源立场与 Hugging Face 收购前景同时变得不确定,读者可据此观察开源模型阵营的力量变化。

11月11日周三
11月9日周一
10月24日周六
10月16日周五
  1. Ollama Blog80

    Reflection 首个开放权重模型 Beam 上线 Ollama,限时免费

    Reflection 的首个开放权重模型 Beam 于 10 月 16 日上午正式发布,Ollama 作为 day-zero 合作伙伴限时免费提供。Beam 是 MoE 模型,总参数约 501B、每 token 激活 23B,上下文窗口 100 万 token,面向软件工程、推理和长程智能体任务,采用 Apache 2.0 许可。

    推荐理由:Reflection 首个开放权重模型 Beam 以 Apache 2.0 发布,读者可据此了解其 MoE 规模、百万 token 上下文与智能体定位。

9月29日周二
  1. Ollama Blog72

    Ollama 0.35 支持 Jev 风格决策模型

    Ollama 发布 0.35 版本,新增对基于 TypeSafe Jev API 的决策模型的支持,通过 /v1/systemone 端点一次请求回答一组命名问题。官方称本地运行无需额外费用且延迟更低,Nimble 9B 在 M5 Max 上平均每次决策耗时 91ms。目前可拉取 nimble、tev1 和 tev1:0.8b 三个模型,适用于工单分流、模型路由和内容或安全审核等场景。

    推荐理由:原文给出本地决策模型的延迟数据、可用模型清单和请求示例,便于判断这类接口适合哪些实时决策场景。

8月11日周二
  1. Ollama Blog78

    NVIDIA Nemotron 3.5 Lightning 上线 Ollama,30B 总参数 3B 激活可本地运行

    NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。该模型为 30B 总参数、每 token 仅 3B 激活的混合 MoE 开源模型,面向持续运行的智能体任务,支持最长 1M token 上下文,并通过多 token 预测等投机解码实现最高 4 倍于同类开源模型的吞吐。

    推荐理由:原文给出 30B 总参数、3B 激活的本地智能体模型规格与吞吐数据,可据此判断本地常驻智能体的可行性。