MIT Technology Review AI· Madhulika Srikumar, Claire Leibowicz·· 13 天前AI 评分57
MIT Technology Review:主流框架缺乏可观测性致使 AI 智能体实时监控受阻
We urgently need to monitor AI agents’ actions in real time
AI 导读
Partnership on AI 研究人员撰文指出,当前主流 AI 智能体框架缺乏持久身份与审批日志等关键可观测性记录,导致企业与监管方难以实时发现越轨与未经授权行为。多起智能体失控案例表明开发商目前主要依赖事后补救,无法清晰获知智能体的具体操作轨迹与决策原因。文章呼吁通过 OpenTelemetry 等行业标准补齐运行追踪,并在模型决策逻辑记录与监管规范上协同建立治理体系。
来源:MIT Technology Review AI · technologyreview.com