百度蜘蛛只抓取我的 robots.txt 。 并且显示的是 304状态, 求救呀!

我的站每天蜘蛛来 百度蜘蛛什么都不抓取,只抓取robots.txt 。 并且显示的 全部都是304 ,这个是怎么回事呢? 高手解说 谢谢了
最新回答
雾涣风月

2024-09-21 07:09:00

Robot制定的两个原则:搜索技术应服务于人类,尊重信息提供者的意愿,并维护其隐私权;网站有义务保护其使用者的个人信息和隐私不被侵犯。obots协议目的是为了限制谷歌,但最终却帮助Google和百度这样的垄断企业遏制了后起的竞争者。因为,Google当年在制定这个协议时,特意留下了后门,即:协议中不仅包括是否允许搜索引擎进行搜索的内容,还包括允许谁和不允许谁进行搜索内容。Google和百度在实现了垄断地位之后,就利用这些排斥性规则挡住了后来的进入者。
故城旧事

2024-09-21 02:10:55

robots.txt 是百度第一个要抓取的文件 不抓取其他页面看下robotes是否封禁了其他页面 304代表robots文件没有变化