您好,快审收录3元/站,需要快速收录的请联系QQ:3535222122 点击这里给我发消息
当前位置:首页 > 新闻资讯 > 搜索优化>robots什么意思,robots对SEO重要性

robots什么意思,robots对SEO重要性

  • 日期:2019-01-23     浏览:0

【资讯详情】

搜索引擎爬去我们页面的工具叫做搜索引擎机器人,也生动的叫做“蜘蛛”

蜘蛛在爬去网站页面之前,会先去访问网站根目录下面的一个文件,就是robots.txt。这个文件其实就是给“蜘蛛”的规则,如果没有这个文件,蜘蛛会认为你的网站同意全部抓取网页。

robots什么意思

robots什么意思
robots什么意思


Robots.txr文件是一个纯文本文件,可以告诉蜘蛛哪些页面可以爬取(收录),哪些页面不能爬取。

举个例子:建立一个名为robots.txt的文本文件,然后输入

User-agent: * 星号说明允许所有搜索引擎收录

Disallow: index.php? 表示不允许收录以index.php?前缀的链接,比如index.php?=456

Disallow: /tmp/ 表示不允许收录根目录下的tmp目录,包括目录下的文件,比如tmp/123.html

现在很多一些刚接触seo的人都不知道怎么去利用好robots,甚至都不知道robots文件到底是什么,这里我们重点说一下这个问题,很多网站就是这个文件夹没有设置好导致了自己网站排名一直都不好,所以说这个文件夹对于网站优化是非常重要的,当然还是有很多人不明白的,下面小编就给大家讲解一下,希望可以帮助到大家。

robots对SEO重要性

一、robots文件是用来干什么的?

其实这个文件是一种协议,所有的搜索引擎蜘蛛进入网站的时候先访问的就是这个文件,具体的作用就是用来我们站长自由设置哪些文件可以抓取,哪些不能抓取。

二、robots文件设置的格式:

User-agent: 定义搜索引擎的类型;

Crawl-delay: 定义抓取延迟

Disallow:定义禁止搜索引擎收录的地址

Allow: 定义允许搜索引擎收录的地址

robots文件对SEO优化的重要性

三、为什么说robots文件对SEO非常重要?

1、搜索引擎喜欢原创内容,这是众所周知的事情,而这一方面并不是单单是指网站文章的原创度,另一方面网站模板的原创度也是非常重要的评分点,所以如果自己网站的模板不是原创,好要屏蔽css目录和模板目录。

2、网站优化切忌的就是重复或者相似的页面,而搜索引擎浏览一个网站不是像人那样的,靠的还是蜘蛛的抓取。但是不少人没有重视的是,现在的主流网站程序都很容易自动产生一些没用的页面,比如缓存页面,搜索页面,feed页面等等,这些页面内容往往和主体内容相重复,而且没有什么用,如果不小心被蜘蛛抓到,那么对网站排名会有非常严重的负面影响,很多网站之所以没有排名,就是因为搜索引擎发现了网站存在大量的重复或者相似的页面。

3、可以大大的增强蜘蛛网站的爬取效率,与网站的内链有异曲同工之用,帮助搜索引擎理解哪些才是网站重要的内容,不再浪费到其它的那些无用的页面上。

4、利用robots文件可以用来屏蔽一些没有用的页面,比如隐私页面,后台登陆页面,图片目录等内容,或者屏蔽其他的一些网站关键词无关的页面。

总之,robots文件是网站非常重要的一个优化部分,这个方面往往制约着网站的成败,这当然是网站优化非常细节的一个方面,不过往往细节决定成败,很多人却没有意识到这一点,希望通过上述的介绍,大家都会明白这方面的重要性。

本文链接:http://www.aishou.org/find/853.html

最新资讯

热门资讯

站长分类目录站长目录网址目录企业网站建设网站优化网站推广科技资讯网络营销网站运营SEOseo教程SEO培训
Copyright © 2018 Vip网站目录 版权所有  Vip网站目录  All Rights Reserved
在线投稿,网站免费收录,新收录网站首页显示,所有排名全自动实时刷更新,网站推广的最佳选择就在Vip网站目录
Powered by Vip网站目录(www.aishou.org) 快速审核|投放广告,请点击给我信息快速审核|投放广告