返回首页

Crawler robots 策略(2026-08-18)

结论

显式规则

User-agentFamilyReason
*default兜底允许所有未单独列出的公开搜索与 AI 读取代理。
Googlebotsearch-globalGoogle 搜索发现与索引测试。
Bingbotsearch-globalBing 搜索发现与可能的 AI 搜索信源路线。
Baiduspidersearch-cn百度搜索发现测试。
Sogou web spidersearch-cn搜狗搜索发现测试。
360Spidersearch-cn360 搜索发现测试。
Bytespiderai-cn字节系公开抓取路线监测;不能等同豆包采用。
TencentBotai-cn腾讯系公开抓取路线监测;不能等同元宝采用。
OAI-SearchBotai-searchOpenAI 搜索索引读取路线。
GPTBotai-trainingOpenAI GPTBot 读取边界显式允许;不证明训练吸收。
ChatGPT-Userai-user用户触发式读取路线。
ClaudeBotai-globalAnthropic 公开 crawler 路线显式允许。
PerplexityBotai-searchAI 搜索产品公开 crawler 路线显式允许。
Applebotai-searchApple 搜索/智能代理公开 crawler 路线显式允许。
DuckDuckBotsearch-global补充国际搜索发现入口。
YandexBotsearch-global补充国际搜索发现入口。
CCBotai-common-crawlCommon Crawl 路线显式允许;不证明任一具体 AI 平台采用。

机器可读数据

JSON 数据 · Markdown 说明 · robots.txt