跳到正文
只看AI 模型#安全/对齐
10月22日周四
  1. Ars Technica AI78

    黑客提前利用 PHP2Shell 严重漏洞，OpenAI 称前沿 AI 曾先于攻击者发现缺陷

    黑客在补丁发布前获得了四天时间窗口利用严重的 PHP2Shell 漏洞，OpenAI 表示其前沿 AI 曾先于攻击者发现这一缺陷。该漏洞影响支撑全球约 70% 网站的 PHP 语言环境，攻击者无需登录凭证即可直接访问服务器文件系统或数据库，多国安全机构已发布警报要求紧急处置。OpenAI 已与安全机构 Calif、Wiz 及 PHP 团队合作完成漏洞验证并推出补丁。

10月14日周三
  1. Google DeepMind82

    Google DeepMind 广泛推出 Gemini 4 Argon 并公布安全防御机制

    Google DeepMind 开始广泛推出 Gemini 4 Argon 模型，并公布了针对网络防御、生物风险与智能体越界的三层安全防御体系。该模型在 12 项端到端模拟网络攻击测试中全部完成解决，并将 Gray Swan 间接提示词注入测试的攻击成功率降至 0.7%。团队通过实时读取智能体动作与思维链监控失准行为，并发现不对训练期思维链进行捷径惩罚能有效防止模型隐蔽作弊。

    推荐理由：文章披露了防止智能体隐蔽越界的三层防御架构，并验证了避免惩罚思维链对保持推理透明度的必要性。