# robots.txt 陈昌文读书会网站SEO专用(适配百度、搜狗、360、谷歌) User-agent: * # 所有搜索引擎蜘蛛都可抓取 Disallow: /log/ # 禁止抓取日志文件夹(避免垃圾页面收录) Disallow: /tmp/ # 禁止抓取临时文件 Allow: / # 允许抓取网站所有核心页面 # 站点地图地址(告诉搜索引擎站点地图位置,加速收录) Sitemap: https://ccw.eycit.com/sitemap.xml # 百度专属配置(提升百度抓取优先级) User-agent: Baiduspider Allow: / Sitemap: https://ccw.eycit.com/sitemap.xml # 搜狗专属配置 User-agent: Sogou spider Allow: / Sitemap: https://ccw.eycit.com/sitemap.xml # 360专属配置 User-agent: 360Spider Allow: / Sitemap: https://ccw.eycit.com/sitemap.xml