该图片由 AIYXL 使用 AI 生成
发布商可以就 AI 训练做出一个编辑层面的决定,却仍要面对多种技术实现。每家提供商可能都有自己的爬虫名称、指令和时间表。让这些设置保持一致,又成了网站维护中的另一项工作。
10 月 30 日,OpenAI 和 Google 分别宣布计划在 robots.txt 中支持一种通用的训练偏好信号,相关工作借鉴了互联网工程任务组(IETF)AI Preferences 工作组的成果。这些公告提供了一条路径:让发布商面向多个参与提供商,一次性表达一项宽泛的选择。
眼前的改变是一项承诺
OpenAI 表示,其目标是在未来几个月内实施该信号,并将在稍后提供实施细节。其现有的爬虫控制措施将继续适用。该公司称这项工作出于自愿。
Google 的目标是在 2027 年提供支持。其公告还表示,现有的公司专属控制措施将与共享信号并行继续存在。这些时间表意味着,发布商应区分“已宣布的支持”和“他们目前已经可以依赖的有效机制”。
共同选择可以保留提供商专属细节
Google 描述了一种共享策略令牌,可用于表达通用的训练偏好。如果网站通过该令牌选择退出,且未明确指定 Google-Extended,Google 计划将该偏好视为针对 Google-Extended 的禁止指令。
在考虑更改配置之前,理解宽泛指令与提供商专属指令的共存方式是有用的。网站可能希望有一个一致的默认设置,同时保留一个有意为之的例外。要维持这一意图,就需要了解相关提供商如何同时解读这两类指令。
发布商仍需要记录自己选择了什么
对于小型出版物而言,实际的机会在于减少重复性维护。编辑应当能够解释网站的政策,而不必重新梳理若干互不相关的配置决定。
一份内部记录可以将预期的偏好与其表达所用的设置、检查日期以及查阅过的提供商文档关联起来。这是一项运营层面的建议,并非两家公司中任何一家宣布的要求。它为未来的维护者提供了一种方法,用以判断某项例外是有意为之,还是仅仅沿袭自早先的设置。
表达与执行之间的区别也仍然重要。这些公告描述的是参与提供商计划如何解读某项偏好。它们并未确立每项服务都会遵守该偏好,也未确立在公开文件中添加一行内容就能对所有采集行为构成技术屏障。
采用程度将决定简化的价值
当提供商清晰地实施共享信号,并说明其与现有控制措施的交互方式时,该信号才会变得更有用。发布商需要这些细节,以保留他们原本想要做出的选择。
就目前而言,这一消息反映的是一个协调一致的发展方向。共同指令可以让发布商的决定更容易传达;而可靠的实施,才会让这种简化在日常网站运营中真正有用。
来源:OpenAI 公告;Google Search Central 公告,2026 年 10 月 30 日。
