# robots.txt for www.fanerkj.com # 梵尔网络科技 - 企业数字化解决方案提供商 # 对所有爬虫生效 User-agent: * # 允许访问核心内容 Allow: / Allow: /knowledge Allow: /services Allow: /cases Allow: /about Allow: /contact # 禁止抓取敏感目录 Disallow: /admin Disallow: /api Disallow: /private Disallow: /temp Disallow: /*?* # 禁止带参数的URL # 禁止特定恶意爬虫 User-agent: BadBot Disallow: / # 网站地图(必须正确格式) Sitemap: https://www.fanerkj.com/sitemap.xml # 注意:Crawl-delay 指令已被移除,因为百度不支持