365建站器 v14.0 演示站 · 让建站、SEO 与 GEO变得简单
使用教程

用User-Agent名单屏蔽垃圾蜘蛛

更新:2023-04-08 10:01 来源:365建站器

这篇的这部分操作走的是默认参数下的路径,改过其它设置的话结果会有出入。

垃圾蜘蛛屏蔽 和 User-Agent名单

使用示意

上图所示:互联网上存在部分垃圾爬虫蜘蛛,会对服务器造成压力,以下蜘蛛均为垃圾蜘蛛,默认已添加屏蔽,也支持自定义只允许的蜘蛛名称。

ahrefs,webmeup-crawler,seostar,dataforseo,semrush,opensiteexplorer,mj12bot,serpstatbot,babbar,petalsearch

以上是这部分操作的常规处理,个别版本入口名称略有不同,功能位置不变。