一、什么是noindex标签
noindex是谷歌发明的一个Html标签,其作用是向搜索引擎声明该网页禁止被索引收录,搜索蜘蛛看到Noindex后不会对网页进行索引,因此在搜索引擎上不会出现标有noindex的网页。网页开发者不希望被搜索引擎索引的原因包括网页正在开发、网页所有者希望网页保持私密性等。
二、noindex标签的正确使用方法
1、 标记使用noindex标签
若想阻止大部分搜索引擎网页抓取工具将您网站中的某个网页编入索引,请将以下元标记放入该网页的
部分中:表示屏蔽所有蜘蛛爬虫抓取该页面。
*meta标记中noindex标签的使用方法
请注意,某些搜索引擎网页抓取工具对 noindex 标签可能会有不同的解读。因此,您的网页可能仍会出现在其他搜索引擎的结果中。
大量SEOer在使用noindex 标签的时候,经常会采用以下的拓展:
(1)、content='noindex,follow'
表示:该页面禁止被索引,但页面中的其他的URL,支持爬虫进行抓取与收录。
(2)、content='noindex,nofollow'
表示:该页面禁止索引,以及页面中所有的URL,都禁止被抓取。
如想阻止某个搜索引擎抓取页面,还可以使用以下方法:
(3)、
表示要阻止 baidu 网页抓取工具将网页编入索引,请放入以下元标记。
(4)、
表示要阻止 Google 网页抓取工具将网页编入索引,请放入以下元标记。
2、HTTP 响应标头使用noindex
除了使用元标记,您还可在响应中返回一个值为 noindex 或 none 的 X-Robots-Tag 标头。响应标头可用于非 HTML 资源,例如 PDF、视频文件和图片文件。下面是一个 HTTP 响应示例,它含有一个 X-Robots-Tag,用来指示抓取工具不要将某一网页编入索引:
HTTP/1.1 200 OK
X-Robots-Tag: noindex
*HTTP响应标头中noindex标签的使用方法
三、noindex标签使用场景
对于Noindex标签,在以下几种情况下页面使用的比较常见:
1、网站的活动促销、信息填报页面,并不需要特定关键词排名。
2、网站日常公共页面,如:关于我们、联系我们、会员注册注册页面。
3、提示性质页面,如:404页面错误页面。
4、特定的开源程序插件,比如:WordPress SEO的插件。
四、noindex标签对SEO的影响
反向链接即外链是搜索引擎给网站排名的一个重要因素。为了添加反向链接,SEO作弊者会在论坛和博客等大量发布带无关链接的内容。这些垃圾链接的存在给搜 索引擎对网页质量的评估造成一定程度的麻烦,可以说noindex是一个非常好的"垃圾链接防火墙"。正是百度、谷歌为了应对垃圾链接(Spam)引入的一个属性,此属性应该被广泛采用。
noindex标签对SEO的影响有两方面,一是不给链接投票,增加此链接的权重,二是使添加noindex的部分内容不参与网站排名,便于集中网站权重。
五、noindex与nofollow的区别
对于SEO新人而言,经常有SEO人员,容易将两个SEO标签混淆,实际上这里还是有本质的区别的,其中,最核心的区别就是:
1、noindex标签,理论上是严格禁止被搜索引擎收录、展现在搜索结果中的。但是noindex标签必须是搜索引擎抓取网页的时候,才能看到元标记和 HTTP 标头。如果某个网页仍显示在搜索结果中,可能是因为在添加标记后搜索引擎尚未抓取过该网页,这种情况可以使用网址检查工具请求搜索引擎重新抓取您的网页。
2、nofollow标签,通常主要表述在某个特定页面上的URL,是禁止被百度爬虫抓取的,不传递权重,并不会影响链接所指页面的收录。
点击了解" nofollow标签"的详细知识。
六、noindex与robts.txt文件
noindex标签是禁止页面被搜索引擎索引,与在根目录中使用nobots.txt文件,禁止某个特定页面抓取是有异曲同工之处的。如果noindex标签在页面时候后未被搜索引擎发现,可使用robots.txt文件阻止搜索引擎抓取该网址,robots.txt文件是搜索蜘蛛抓取页面最先访问的文件,时效性更高。
总结
优化猩SEO:为让 noindex 标签生效,网页或资源不得被 robots.txt 文件屏蔽,并且必须能被抓取工具访问。如果该网页被 robots.txt 文件屏蔽或抓取工具无法访问该网页,那么抓取工具将永远无法看到 noindex标签,因此该网页可能仍会显示在搜索结果中。
参考资料:
noindex_百度百科
https://baike.baidu.com/item/noindex/8887473
使用"noindex"阻止搜索引擎编入索引 _ Google 搜索中心
https://developers.google.com/search/docs/advanced/crawling/block-indexing?hl=zh-cn
修改于2023-05-26