跳到正文
Ars Technica AI· Dan Goodin·· 2 天前精选AI 评分80

研究人员在 AI 供应链植入 200 万个数字金丝雀,揭露网关路由中的数据泄露风险

Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

AI 导读

研究人员在 AI 服务网络中植入 200 万个数字金丝雀,发现经由 AI 网关路由的用户提示词存在严重的数据泄露问题。OpenRouter 随后向客户发出通知,证实发往 MiniMax 模型的请求中植入的 URL 曾被访问,相关调用无论直连还是经由三家分销商均出现类似情况。OpenRouter 目前已移除了 MiniMax 模型端点的零数据留存标签。

推荐理由

原文展示了通过金丝雀链接测试多层 AI 网关数据流向的方法,有助于评估模型路由中间环节的隐私风险。

正文 · AI 翻译

研究人员在向庞大 AI 服务网络发送的请求中埋下了 200 万个数字“绊线”,以探查托付给这些服务的敏感信息究竟去了哪里。结果发现,整个生态系统漏洞百出,高度敏感数据泄露得就像筛子一样。

这次数据暴露源于一项巧妙的实验,旨在测试敏感信息是否会在广泛使用的 AI 复杂服务链条中泄露,以及泄露后会如何被利用。如今许多 AI 应用都会借助 OpenRouter 或 Vercel 等充当中间商的服务。这些“AI 路由器”(有时也称“AI 网关”)接收 AI 应用终端用户发出的大量提示词,并根据价格最低或最契合当前任务等条件,将其分发给可用的推理引擎。开发者无需直接接入 Anthropic、OpenAI 等大厂,而是借助 AI 路由器来匹配最合适的模型。

更新于 11 月 21 日:Hacker News 和 X 上的多则发帖显示,OpenRouter 已向客户发送邮件,通知其部分提示词可能已被读取。OpenRouter 援引了该研究,并表示已收到报告,称潜在的数据暴露涉及发送给中国模型厂商 MiniMax 的提示词。OpenRouter 称,无论提示词是直接发往 MiniMax,还是通过 AtlasCloud、Novita 和 StreamLake 这三家转售商中转,研究人员预埋的 URL 都曾被访问过。目前,OpenRouter 已撤下 MiniMax 模型接口上的“零数据保留”标签。消息线索来自:Sulat.com。

阅读全文

评论

来源:Ars Technica AI · arstechnica.com

EVAOO 主站实战落地 · 大模型与 AI 内容工程

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站