1.网站及页面权重
这个肯定是首要的了,权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的,这样的网站抓取的频率非常高,而且大家知道搜索引擎蜘蛛为了保证高效,对于网站不是所有页面都会抓取的,而网站权重越高被爬行的深度也会比较高,相应能被抓取的页面也会变多,这样能被收录的页面也会变多。
当然这里的权重并不是值得用站长工具查询到的权重值,更加正确的讲法是,百度对于网站的评级。我们可以通过查询网站的每日的抓取频次,以及索引的建立情况,只要这两个核心数据处于一个合理稳定的数值,那么说明搜索引擎是乐意抓取你的网站,也就是一种认可,就有了优化的基础。
2.网站服务器
网站服务器是网站的基石,网站服务器如果长时间打不开,那么这相当与你闭门谢客,蜘蛛想来也来不了。百度蜘蛛也是网站的一个访客,如果你服务器不稳定或是比较卡,蜘蛛每次来抓取都比较艰难,并且有的时候一个页面只能抓取到一部分,这样久而久之,百度蜘蛛的体验越来越差,对你网站的评分也会越来越低,自然会影响对你网站的抓取,所以选择服务器一定要舍得,没有一个好的地基,再好的房子也会跨。
因此可以多关注下,百度站长后台的抓取时间,一般不要超多1500毫秒;同时在关注下网站的抓取异常数量,我们要确保网站不出现抓取异常的次数。
3.网站的更新频率
蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样,说明页面没有更新,蜘蛛也就没有必要经常抓取了。页面内容经常更新,蜘蛛就会更加频繁的访问页面,但是蜘蛛不是你一个人的,不可能就在这蹲着等你更新,所以我们要主动向蜘蛛示好,有规律的进行文章更新,这样蜘蛛就会根据你的规律有效的过来抓取,不仅让你的更新文章能更快的抓取到,而且也不会造成蜘蛛经常性的白跑一趟。
4.文章的原创性
优质的原创内容对于百度蜘蛛的诱惑力是非常巨大的,蜘蛛存在的目的就是寻找新东西,所以网站更新的文章不要采集、也不要每天都是转载,我们需要给蜘蛛真正有价值的原创内容,蜘蛛能得到喜欢的,自然会对你的网站产生好感,经常性的过来觅食。但是原创并不是最重要的。