跳到正文
热点事件持续更新

Google澄清robots.txt仅限制爬虫抓取而非AI训练

1 篇报道1 个报道来源20 小时前更新

先了解这件事

AI 综述

Google 的 Gary Illyes 澄清,按照 RFC 9309 互联网标准,robots.txt 仅用于控制爬虫可以请求抓取哪些 URL,无法约束爬虫获取内容后的使用方式,也不能限制数据是否被用于 AI 模型训练。 Google 规范页面显示,其目前仅支持 User-Agent、Allow、Disallow 和 Sitemap 四个元素,其余无效行将被忽略;robots.txt 设置不影响网站在 Google 搜索中的收录,也不是搜索排名信号。

AI 根据报道生成 · 50 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Search Engine Journal
    Google 解释 robots.txt 在 AI 内容使用与模型训练上的局限

    Google 的 Gary Illyes 澄清,根据 RFC 9309 标准,robots.txt 仅控制爬虫的抓取权限,无法约束爬虫获取内容后如何使用数据或是否用于 AI 模型训练。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。