跳到正文
今天11月14日周六1 条
11月13日周五
11月11日周三
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术:改写休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。

    推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。

11月10日周二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。

    推荐理由:DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。

11月6日周五
11月3日周二
  1. MIT Technology Review · AI40

    “逆向博弈论”如何约束 AI 智能体

    一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励规则来约束 AI 智能体,而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等的预印本论文提出让模型互相预测答案、互相对抗或配对相反偏见,以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”,作弊者与被骗过的审计者都受罚。

10月22日周四
  1. Microsoft Research74

    微软研究者证明 31 年未解的 KLS 猜想

    微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,证明高维对数凹分布中平面切割与任意形状切割的效果只差一个与维度无关的常数。

    推荐理由:微软研究者用人类引导的智能体搜索证明 KLS 猜想,读者可看到人机协作做数学研究的具体流程。

10月5日周一
7月29日周三