微软研究提出 Lazarus 后门技术：改写休眠神经元即可控制 AI 智能体
微软研究人员发现名为 Lazarus 的后门技术，只需改写 LLM 中不到 10 个休眠神经元、无需训练，就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化，例如时钟跨入 2027 年后，智能体在普通任务中下载并运行攻击者代码，同时仍能通过标准评测。
推荐理由：研究显示改写不到 10 个休眠神经元即可给智能体植入后门，并给出权重溯源与扫描的防御思路。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
3 条精选近 30 天 3 条共收录 17 条
更新
安全对齐的精选
Microsoft Research精选AI 评分7878
Google DeepMind精选AI 评分8282 Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code，一个多 LLM 智能体形式化验证框架，并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。
推荐理由：DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层，四周完成过去需数年的工作。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini Robotics 2.5 视觉-语言-动作模型
Google DeepMind 发布 Gemini Robotics 2.5，称其为目前能力最强的视觉-语言-动作（VLA）模型，在 200 项任务上相比此前基线成功率提升 30% 至 100%，完成任务速度快 20% 至 30%。
推荐理由：官方给出 200 项任务评测与奔驰产线 96% 成功率的实测数据，可据此判断 VLA 模型在真实工业场景的落地程度。