跳到正文
今天11月14日周六1 条
11月13日周五
11月11日周三
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术:改写休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。

    推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。

11月10日周二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。

    推荐理由:DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。

11月6日周五
10月22日周四
  1. Microsoft Research74

    微软研究者证明 31 年未解的 KLS 猜想

    微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,证明高维对数凹分布中平面切割与任意形状切割的效果只差一个与维度无关的常数。

    推荐理由:微软研究者用人类引导的智能体搜索证明 KLS 猜想,读者可看到人机协作做数学研究的具体流程。

10月5日周一
7月29日周三