这篇的这部分操作走的是默认参数下的路径,改过其它设置的话结果会有出入。
上图所示:互联网上存在部分垃圾爬虫蜘蛛,会对服务器造成压力,以下蜘蛛均为垃圾蜘蛛,默认已添加屏蔽,也支持自定义只允许的蜘蛛名称。
ahrefs,webmeup-crawler,seostar,dataforseo,semrush,opensiteexplorer,mj12bot,serpstatbot,babbar,petalsearch
以上是这部分操作的常规处理,个别版本入口名称略有不同,功能位置不变。