网赚论坛

 找回密码
 免费注册
查看: 275|回复: 0
打印 上一主题 下一主题

搜索引擎禁止收录robots使用方法

[复制链接]

4

主题

4

帖子

18

积分

Ⅰ级财主

Rank: 1

积分
18
跳转到指定楼层
楼主
发表于 2018-1-7 00:48:14 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
有时候,站长并不希望某些页面被抓去和收录,如付费内容,还在测试阶段的页面,复制页面等。网站上不出线连接,或者使用Javesript,FLASH链接使用nofollow等方法都不能保证页面一定不被收录。站长自己虽然没有连接到不想被收录的页面,其他网站可能由于某种原因出现导入链接,导致页面被收录。

要确保页面不被收录,需要使用robots或meta robots标签。

robots文件,搜索引擎蜘蛛访问网站时,会先查看网站根目录下有没有一个命名为robots的纯文本文件,robots用于指令搜索引擎禁止抓取网站某些内容或制定允许抓取某些内容。
http://baijiale08.com
http://www.yulecheng098.com
http://www.098bet.com
http://www.yulecheng100.com
http://www.bogou098.com
http://www.098gg.com
http://www.5608.com
http://www.cctv5zb.com
http://806c.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

广告合作|Archiver|手机版|小黑屋|财富吧

GMT+8, 2025-1-10 22:01 , Processed in 0.109200 second(s), 35 queries , Gzip On.

Powered by Discuz! X3.1

© 2014-2021 财富吧

快速回复 返回顶部 返回列表