希望高手能帮我看看,我这些代码有哪些不该用的,哪些该用的没添加给我说一下我来添加我是菜鸟。。初学者。。 ## robots.txt for Discuz! X2#User-agent: *Disallow: /api/Disallow: /data/Disallow: /source/Disallow: /install/Disallow: /template/Disallow: /config/Disallow: /uc_client/Disallow: /uc_server/Disallow: /static/Disallow: /admin.phpDisallow: /search.phpDisallow: /member.phpDisallow: /api.phpDisallow: /misc.phpDisallow: /connect.phpDisallow: /forum.php?mod=redirect*Disallow: /forum.php?mod=post*Disallow: /home.php?mod=spacecp*Disallow: /userapp.php?mod=app&*Disallow: /*?mod=misc*Disallow: /*?mod=attachment*Disallow: /*mobile=yes*User-agent: *Disallow: /*?*
1、这段代码是禁止搜索引擎抓取你的论坛中所有的数据和页面;这样操作不利用你的网站优化和排名;2、如果你的论坛是老站,你不希望蜘蛛抓取你的网站某些内容,你是可以禁止抓取;但如果是新站,同时希望通过搜索引擎推广网站,建议你把robot.txt直接删除; 追问 新站如果有ROBOT这个文件 影响收录么。。我是新站。。 追答 如有有这段代码,搜索引擎就不会去抓取你的网站任何页面;当然就影响收录了;
有的开源程序装好就有robots文件了,不需要改了,主要是屏蔽一些不需要让搜索引擎的收录的信息。对于这个如果你不懂就不需要去改了,如果你对于这个很了解的话,可以自主的去屏蔽网站的具体内容。前提是你自己知道怎么改。