跳到正文
今天11月14日周六4 条
  1. The Decoder72

    OpenAI 推出 Daybreak Red Team 与 Daybreak Defense Factory 两款安全产品

    OpenAI 在 Daybreak 品牌下推出两款安全产品。Daybreak Red Team 处于 Early Access 阶段,用 AI 智能体分析源码和应用上下文来梳理攻击路径,自动探测 Web 应用漏洞,并验证漏洞报告、测试补丁;Daybreak Defense Factory 则扫描企业代码库中的漏洞并生成带修复与测试的 pull request,交由开发者审批。

  2. TechCrunch · AI58

    美联航以网络安全风险为由禁止 AI 智能体代订机票

    美联航宣布将限制第三方个人 AI 智能体或助手访问其订票和行程管理系统,理由是网络安全风险及可能违反联邦航空规定。美联航表示,用户与 AI 助手共享账号凭证可能导致敏感信息泄露、非预期购买或 MileagePlus 里程被使用,并称正通过自有数字平台以及旅行社和聚合商渠道限制此类访问,同时更新订票、出票和分销政策。此举紧随美国银行等机构上周呼吁客户不要向 AI 助手共享密码之后。

11月13日周五
11月11日周三
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术:改写休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。

    推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。

11月10日周二
  1. Google DeepMind82

    Google DeepMind 推出 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。

    推荐理由:DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。

  2. Google DeepMind74

    Google DeepMind 发布 Gemini Robotics 2.5 视觉-语言-动作模型

    Google DeepMind 发布 Gemini Robotics 2.5,称其为目前能力最强的视觉-语言-动作(VLA)模型,在 200 项任务上相比此前基线成功率提升 30% 至 100%,完成任务速度快 20% 至 30%。

    推荐理由:官方给出 200 项任务评测与奔驰产线 96% 成功率的实测数据,可据此判断 VLA 模型在真实工业场景的落地程度。

11月3日周二
  1. MIT Technology Review · AI40

    “逆向博弈论”如何约束 AI 智能体

    一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励规则来约束 AI 智能体,而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等的预印本论文提出让模型互相预测答案、互相对抗或配对相反偏见,以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”,作弊者与被骗过的审计者都受罚。

10月14日周三
  1. GitHub Blog · AI & ML40

    GitHub 新密钥检测模型:用更少噪音发现更多密钥

    GitHub 用微调的 ModernBERT 分类器替换原有 LLM 密钥检测流水线,用户接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本降低 98%。该方案先用正则表达式高召回生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭证,并已将通用密钥检测扩展到推送保护阶段。

10月8日周四