首页 >  SEO >  SEO知识 >  正文

ETag提升sitemap抓取速度频次

 作者:潘某人SEO
1115

sitemap是大家提交url的主要途径之一,但是sitemap最大的一个问题就是抓取速度比较慢,对于新提交的sitemap文件,根据百度搜索资源平台的文档描述是,会在1个小时内处理。但是我们很多时候sitemap希望实现的功能是让搜索引擎去定期抓取各个sitemap文件,实现定期更细sitemap中的链接,无须重新提交链接,实现对全站内容的定期抓取。

但是sitemap的问题是只有把提交过链接删除重新提交,抓取速度会快一点;如果等待搜索引擎的定期抓取,这个时间就比较漫长,快则几天,慢则几个星期,显然这不是我们期待的效果,那么有什么方法让搜索引擎加快对sitemap的定期抓取。

sitemap抓取频次因素

对于搜索引擎每天面对的是海量的网站抓取任务,算法上优先是抓取网站的新内容,对于网站的更新抓取,会根据网站的质量评级,以及网站的内容属性等因素决定。

ETag提升sitemap抓取速度频次

网站评级越高,网站的价值高,那么在各方面都有搜索引擎的优待,这个很好理解;但是不同内容属性的站点,决定了网站内容更新的几率,比如新闻资讯类的站点,只要是新内容的增加速度快,但是已经收录过的内容发生修改的几率是很低的,因此搜索引擎对于已经收录过的内容抓取频次就比较低,也意味着提交过的sitemap的更新抓取周期比较长。

ETag简介

ETag(EntityTags)是URL的tag,实现对url是否发生过更新进行一个标注。简单的讲就是比如你打开了一个页面,同时浏览器开启了缓存,这个时候我们刷新这个页面;服务器首先会将页面的ETag传回网站服务器,验证浏览器客户端的缓存,如果页面没有发生过修改,此时直接返回状态码304,而不是重新对页面数据加载而是直接使用浏览器的缓存,可以有效的降低服务器的负载。

站点启用ETag的好处

对于网站sitemap开启了ETag后,如果sitemap文件没有更新的时候,搜索引擎来抓取的时候服务器只会返回304状态码,一方面可以有效的降低带宽的消耗,可以有效提升sitemap文件抓取的稳定性。另一面,对于搜索引擎通过ETag可以识别出站点sitemap文件是否发生更新,提升了抓取效率,对于这类站点会提升对于sitemap的抓取频次,对于搜索引擎只要检查ETag决定是否抓取并不会有很大的资源消耗,但是可以更加及时的抓取有价值的内容。





申明:本站内容仅代表个人观点,仅供学习参考;未经授权任何个人或组织单位不得复制、转载、摘编以及其它形式的应用! 本站文章可能使用到互联网上的资料,若对您造成困扰,请联系 kk19@foxmail.com除理 本文地址:https://www.chateach.com/seo/seozhishi/702
相关文章
  • ETag对于SEO优化的作用

    ETag,SEO优化

    ETag,全称Entity Tag,中文名为实体标签,是HTTP协议的一部分。它是Web服务器和浏览器用于确认缓存组件有效性的一种机制。合理正确的使用ETag对于seo优化可以起到非常大的帮助,今天就和潘某人SEO一起来了解下ETag是何为以及对SEO优化起到了何种作用。

    204
    • ETag
    • SEO优化
  • 网站优化要不要制作sitemap

    sitemap,网站地图

    网站优化到底需不要要制作sitemap地图呢?sitemap地图的作用又是什么呢?可以提升网站的收录速度吗?

    1551
    • sitemap
    • 网站地图
  • 如何快速的生成sitemap网站地图

    sitemap,如何制作,网站地图

    如何快速的生成sitemap网站地图,我们不能依靠工具来实现,因为逻辑上就走不通,其实通过数据库可以快速有效的生成最有价值的sitemap网站地图。

    1559
    • sitemap
    • 如何制作
    • 网站地图
  • robots文件里该不该加上sitemap地址

    robots里放sitemap

    robots文件里该不该加上sitemap地址,有种说法就是搜索引擎抓取一个网站首先会抓取robots文件,这样把sitemap地址写在robots文件里,这样搜索引擎可以地址直接的对网站地图进行抓取,可以加快链接收录的速度,真相并不是这样

    2186
    • robots里放sitemap
  • 网站地图sitemap的注意事项

    sitemap注意事项,网站地图

    链接提交是站长们每天都会去做的事情,sitemap提交的注意事项,虽然说sitemap提交收录速度不是最快的,但是功能却是最强大的。

    871
    • sitemap注意事项
    • 网站地图
  • 网站地图sitemap制作与提交详细教程

    网站地图,sitemap

    sitemap如何处理,如何提交,移动动端和pc端是否需要都提交sitemap还是提交一次就可以了呢?那么仔细看完这篇文章,你将不再有这个疑虑。大多数搜索引擎都支持文本格式和xml格式的形式的地图,站点可以根据站点的需求随便选择一种。但是不推荐大家使用文本格式的sitemap方式提交,而是推荐使用xml格式的网站地图。

    1371
    • 网站地图
    • sitemap
  • sitemap超详细超实用的教程

    sitemap,网站地图

    Sitemap的配置是非常简单的,但是如果想要获得最大SEO效果,那么Sitemap的制作还是存在很多技巧的,今天为大家总结一份全面详细的sitemap网站地图的保姆级教程,内容又长又实用记得先搜藏。

    1947
    • sitemap
    • 网站地图
  • 如何查看sitemap文件提交配额

    sitemap提交配额

    为了提升站点提交的优质资源的处理效率,搜索资源平台对平台工具的sitemap文件提交配额进行限制,包括“资源提交-普通收录-sitemap提交”、“链接提交-死链提交”。平台将基于站点资源质量和搜索用户喜欢程度综合评估计算站点提交配额,站点不同,提交配额也可能不同。

    876
    • sitemap提交配额
  • 百度几种链接推送方式对比

    百度链接推送

    网站内容如果想要实现快速收录,那么及时的提交新内容链接是直接有效的方法。对于百度搜索来说链接提交方式是比较丰富的,大致分类主动提交、自动提交、手动提交和sitemap提交,那么你知道这四种提交方式有什么区别呢?哪张方式可以更快使内容收录呢?

    1565
    • 百度链接推送
  • 收录工具常见问题解析

    收录工具

    今天讲一下百度收录工具那些事,今年百度搜索引擎的收录工具发生很大的变化。首先自动提交功能下线了,手动提交不再支持未认证站点链接的提交,sitemap不再支持索引型,并且每日提交的数量也有了限制。

    1242
    • 收录工具
  • 你的网站提交配额被回收了吗?

    提交配额,百度seo

    ​2023-9-22百度搜索资源平台发布了关于《关于回收网站提交配额的通知》,将对对非实名账户内站点、低质站点关停sitemap提交能力并调整API每日推送额度。那么站点如何检查站点配额、如何查看配额数量、如何恢复配额。

    1095
    • 提交配额
    • 百度seo
  • 百度如何提交链接,快速收录

    seo链接提交,如何加快收录

    百度的4种链接提交方式的介绍,他们之间的区别,以及各自的特点,对于seo优化用哪一种提交方式可以花更少的时间,但是可以获得更快的收录速度,提高推送效率,增加网站的收录总数。

    7645
    • seo链接提交
    • 如何加快收录
  • 百度不收录原因分析

    百度不收录原因

    百度不收录原因分析,目前百度Spider抓取新链接的途径有两个,一是主动出击发现抓取,二就是从百度站长平台的链接提交工具中获取数据,其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。

    1498
    • 百度不收录原因
  • 百度搜索无法提交链接怎么解决?

    百度搜索,seo,链接提交

    近期大家应该发现了百度搜索资源平台的大多数的站点api提交额度基本都将为的10条,并且无法提交sitemap,为什么会出现这种情况,又应该如何解决链接提交的问题呢?

    1361
    • 百度搜索
    • seo
    • 链接提交
  • 301跳转与SEO优化的那些事

    301跳转,重定向,SEO优化

    ​在网站改版的时候经常会用到301跳转,301重定向是将当前链接永久指向一个新的网址。当网站改版的时候,网站的链接发生变化之后,而原链接都是有排名的,所以就需要做重定向避免流量的损失。

    504
    • 301跳转
    • 重定向
    • SEO优化
  • TF-IDF算法、关键词的形成条件

    成为关键词的条件

    说到SEO优化,那么第一次反应就是关键词的排名。很多人对于关键词的认知就是我在TDK中突出的词,或者把一个词在文章中突出重复,提升这个词的密度就可以让搜索引擎认为这个词是这个页面的关键词,然后一个词是否能成为关键词,并不是简单的重复就可以实现的,更多的是参考TF-IDF算法值来确定一个词是否成为关键词。

    2049
    • 成为关键词的条件
  • 百度移动适配工具如何使用

    移动适配工具

    百度移动适配工具如何使用?百度移动搜索提供“移动适配”服务,如果您同时拥有PC站和手机站,且二者能够在内容上对应,即主体内容完全相同,您可以通过移动适配工具进行对应关系提交。

    2124
    • 移动适配工具
  • seo需要掌握的技术技能

    seo需要掌握的技术

    从事SEO工作的人员,个人能力不尽相同。有的可能是程序员转行过来,更多的更像是编辑人员。对于SEO优化来说最终的成功更取决于对于网站内容布局的长期规划,并不是说懂点技术,或者会写点文章就可以把SEO做的很好。那么对于SEO 来说我们需要掌握哪些技能呢?

    937
    • seo需要掌握的技术
-- 这已经是底线了,看看别的把! --