• 13728208703
提高spider抓取网站的五条策略
作者:admin / 2016-08-14 11:55 / 浏览次数:
1、多种URL重定向的识别
为了让spider能够对多种URL重定向的识别,重定向分别有三类:HTTP 30x重定向、Meta refresh重定向和JS重定向。百度目前也支持Canonical标签。
 
2、抓取优先级调配
想让搜索引擎抓取网站全部页面,是没有百分百的。所以需要在抓取系统设计抓取优先级调配。
抓取优先级调配包含:宽度优先遍历策略、PR优先策略、深度优先遍历策略等等。根据实际情况结合多种策略使用完善抓取效果。
 
3、重复URL的过滤
网站出现重复的URL过多,会引发被降权。
重复页面可以使用301重定向,在服务器端对标准URL进行定义。把不标准的URL都301重定向到标准的URL上。
 
4、暗网数据的获取
暗网数据指的是搜索引擎无法抓取的数据。主要因为网站上的数据都在网络数据库中,spider很难抓取中获得完整内容;其次网络环境和网站本身不符合规范等问题,导致搜索引擎无法抓取。
解决暗网数据的问题,可以通过百度站长平台数据提交的方式来解决。
 
5、抓取反作弊
Spider在抓取过程中会抓取到低质量页面或者是被黑的页面。通过分析URL特征、页面的大小等等原因,完善的抓取反作弊。
【陆川频道】专注活动视频拍摄、企业宣传片制作、产品短视频制作、微电影拍摄制作、微信小程序开发、网站建设等
热门栏目
热门资讯
热门标签

影视 网站 案例 资讯 关于 联系

工信部备案:粤ICP备17026787号-1 

手机:13728208703 电话:0769-22620710 商务QQ:960951771 地址:东莞市东城街道牛山光明大道东城中云智慧城市产业园内C栋3层302