跳到正文
  1. AWS Machine Learning Blog71

    AWS 发布新一代 AgentCore runtime,会话启动提速至多 15 倍

    AWS 发布 Amazon Bedrock AgentCore runtime 更新,每个会话仍运行在独立的 Firecracker MicroVM 中,会话启动速度提升至多 15 倍、算力扩展至 4 倍、运行效率提升至多 68%。

    推荐理由:官方给出会话启动、算力上限与内存占用的具体变化,可据此判断智能体规模化运行的成本与隔离取舍。

  1. NVIDIA Blog60

    NVIDIA 将 OpenShell 捐给 CNCF,并发布 DSX AI Factory 平台新组件

    NVIDIA 在 KubeCon + CloudNativeCon 上宣布把用于保护和治理自主智能体的开源运行时 OpenShell 捐给 CNCF,作为 Sandbox 项目接受社区治理。

    推荐理由:NVIDIA 把智能体安全运行时 OpenShell 捐给 CNCF,并给出 Kubernetes 上规模化运行智能体的配套组件。

  1. Ollama Blog72

    Ollama 0.35 支持 Jev 风格决策模型

    Ollama 发布 0.35 版本,新增对基于 TypeSafe Jev API 的决策模型的支持,通过 /v1/systemone 端点一次请求回答一组命名问题。官方称本地运行无需额外费用且延迟更低,Nimble 9B 在 M5 Max 上平均每次决策耗时 91ms。目前可拉取 nimble、tev1 和 tev1:0.8b 三个模型,适用于工单分流、模型路由和内容或安全审核等场景。

    推荐理由:原文给出本地决策模型的延迟数据、可用模型清单和请求示例,便于判断这类接口适合哪些实时决策场景。

已经到底了