跳到正文
只看论文#安全/对齐
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术：改写休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术，只需改写 LLM 中不到 10 个休眠神经元、无需训练，就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化，例如时钟跨入 2027 年后，智能体在普通任务中下载并运行攻击者代码，同时仍能通过标准评测。

    推荐理由：研究显示改写不到 10 个休眠神经元即可给智能体植入后门，并给出权重溯源与扫描的防御思路。

  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code，一个多 LLM 智能体形式化验证框架，并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。

    推荐理由：DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层，四周完成过去需数年的工作。

已经到底了