微软研究提出 Lazarus 后门技术:改写休眠神经元即可控制 AI 智能体
微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。
推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。
推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。
推荐理由:DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。
Google DeepMind 发布 SatWeave 和 PARDIG 两个数据集,二者是近期发布的 WeatherNext 3 模型的关键数据来源。
微软研究院联合 GitHub Next 推出研究原型 PDD Kit,把开发者的自然语言意图转成 Verus 形式化规格,再用证明和测试约束智能体生成的代码。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,证明高维对数凹分布中平面切割与任意形状切割的效果只差一个与维度无关的常数。
推荐理由:微软研究者用人类引导的智能体搜索证明 KLS 猜想,读者可看到人机协作做数学研究的具体流程。
GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,现已开放研究预览版。该基准基于 1.039 亿个 GitHub PR 的分布构建,包含 19 种语言的 219 个公开 PR,采用多来源黄金集和统一评分规则,由资深工程师独立复核,与基准判断的一致率为 96.6%。
Berkeley AI Research 博客介绍将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验适配 Apple Silicon。