跳到正文
Microsoft Research· Dimitris Papailiopoulos·· 13 小时前精选AI 评分74

微软研究提出 Lazarus 后门攻击:重编程休眠神经元即可劫持 AI 智能体

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究团队发现名为 Lazarus 的后门技术,通过修改大语言模型中不足 10 个休眠神经元,无需重新训练即可在 AI 智能体中植入后门。带后门模型能正常通过标准安全评估,但在特定触发条件出现时会静默执行下载恶意脚本或窃密等命令。微软正针对此类权重篡改威胁推进模型来源验证、权重扫描与加密签名等防御机制。

推荐理由

这项研究揭示了无需训练即可在权重空间植入隐蔽后门的方法,提醒开发者对智能体底层模型必须建立权重审计与溯源防线。

来源:Microsoft Research · microsoft.com