OpenAI:通过一致标准实现广泛访问
OpenAI 阐述了如何与分销伙伴合作来维持一致的安全防护措施,以支持负责任的模型与技术访问。该合作机制旨在进一步明确其使用政策(Usage Policies)中的相关预期与规范。
OpenAI 阐述了如何与分销伙伴合作来维持一致的安全防护措施,以支持负责任的模型与技术访问。该合作机制旨在进一步明确其使用政策(Usage Policies)中的相关预期与规范。
OpenAI Patch the Planet 项目将安全研究人员、维护者与事件响应人员连接起来,协助解决开源生态中的严重漏洞。该举措针对 AI 智能体发现关键漏洞的现状,致力于建立全球范围内的协同响应机制。
Google DeepMind 开始广泛推出 Gemini 4 Argon 模型,并公布了针对网络防御、生物风险与智能体越界的三层安全防御体系。该模型在 12 项端到端模拟网络攻击测试中全部完成解决,并将 Gray Swan 间接提示词注入测试的攻击成功率降至 0.7%。团队通过实时读取智能体动作与思维链监控失准行为,并发现不对训练期思维链进行捷径惩罚能有效防止模型隐蔽作弊。
推荐理由:文章披露了防止智能体隐蔽越界的三层防御架构,并验证了避免惩罚思维链对保持推理透明度的必要性。
Google Research 联合 50 余位学界及行业专家发布研讨会报告,基于情境完整性理论探讨自主 AI 智能体在隐私与安全领域的新兴挑战。报告指出传统静态权限无法适应具备概率性控制流和自主委派的智能体系统,倡导构建实时生成情境规则的监管策略引擎,并从系统沙箱、模型推理、多智能体协同及评测基准等层面建立多层防御机制。