研究称 ChatGPT、Gemini 和 Perplexity 会推荐假冒零售网站
IP 保护公司 Podqi 的一项研究显示,ChatGPT、Gemini 和 Perplexity 在回答购物相关问题时都会引用或展示风险网站,包括冒充真实零售商的假站、被他人重新注册的旧品牌域名和已失效的站点。
IP 保护公司 Podqi 的一项研究显示,ChatGPT、Gemini 和 Perplexity 在回答购物相关问题时都会引用或展示风险网站,包括冒充真实零售商的假站、被他人重新注册的旧品牌域名和已失效的站点。
微软研究人员发现名为 Lazarus 的后门技术,只需改写 LLM 中不到 10 个休眠神经元、无需训练,就能让智能体在触发条件出现时执行攻击者命令。触发条件可以简单到日期变化,例如时钟跨入 2027 年后,智能体在普通任务中下载并运行攻击者代码,同时仍能通过标准评测。
推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,并首次用 AI 对广泛部署的 Signal 加密协议实际代码完成深度形式化验证。
推荐理由:DeepMind 用多智能体框架把形式化验证推进到已部署协议的实际代码层,四周完成过去需数年的工作。