Sitemap 与 robots.txt 生成器
粘上你已有的 URL 列表,直接拿走可用的 sitemap.xml 和 robots.txt;重复、跨域、日期写错在上传前就被挑出来。
我们公开审计的 104 个站点里,40.4% 没有 sitemap.xml,17.3% 没有 robots.txt。这两个都是纯静态文件,把手上已有的 URL 粘进来,直接把成品文件拿走。
使用说明
第一栏填站点根地址,第二栏一行一个页面 URL,然后点「生成文件」。绝对地址、裸域名、以斜杠开头的路径都接受,会统一按站点根补全;空行、注释行和重复项自动丢掉。输出一份命名空间正确的 sitemap.xml;勾上 robots 选项时再输出一份 robots.txt,其中 Sitemap 行是绝对地址,Disallow 规则由你填。需要 lastmod 就填日期,不想加就别留空——priority 建议留空,因为 Google 早就忽略它;想挡住 AI 抓取就勾上开关,会分别给出 GPTBot、CCBot、ClaudeBot、Google-Extended、anthropic-ai、PerplexityBot 的规则。所有没能变成合法 URL 的行,都会按行号逐条列出。
常见问题
priority 为什么默认留空?Google 明确说过忽略 priority 和 changefreq,写上去只是增加字节和虚假的确定感;Bing 和 Yandex 还读,所以这个字段保留但不预填。我的 URL 为什么被丢掉?每条被丢的行都带行号:通常是这一行不是 URL,又没有站点根可以补全。一个 sitemap 能列两个域名吗?不能,一个 urlset 只能放同一台主机的 URL,所以一发现别的域名就会警告。有大小限制吗?单文件 5 万条 URL、未压缩 50 MB;超了会截断并明说,而不是生成一个搜索引擎会拒收的文件。robots.txt 要挡 AI 抓取吗?只有当你不希望这些机器人读页面时才挡——挡了它们也就无法引用你,按站点决定,别默认开。文件放哪?sitemap.xml 放站点根,robots.txt 放同级,分别以 XML 和 text/plain 提供。
隐私:全部计算在你的浏览器里完成,内容不会离开本机。