系统掌握破解Web端反爬技术

系统掌握破解反爬技能

------------------

下栽地址：https://www.itwangzi.cn/2547.html

------------------

1. User-Agent：每个浏览器或爬虫程序都有一个User-Agent标识，服务器可以通过检查User-Agent来判断访问者是人还是爬虫程序。
2. IP地址：服务器可以通过检查访问者的IP地址来判断是否是爬虫程序。一些爬虫程序使用大量的IP地址进行访问，而人类用户通常只使用一个或几个IP地址。
3. 访问频率：爬虫程序通常会以非常高的频率访问网站，而人类用户通常不会如此频繁地访问网站。服务器可以通过检查访问频率来判断是否是爬虫程序。
4. 访问行为：爬虫程序通常会按照一定的规律进行访问，例如按照页面顺序进行访问或者按照特定的关键词进行搜索。服务器可以通过检查访问行为来判断是否是爬虫程序。

BAN COOKIES:服务器对每一个访问网页的人都set-cookie，给其一个cookies，当该cookies访问超过某一个阀值时就BAN掉该COOKIE，过一段时间再放出来，当然一般爬虫都是不带COOKIE进行访问的，可是网页上有一部分内容如新浪微博是需要用户登录才能查看更多内容。

解决办法：控制访问速度，或者某些需要登录的如新浪微博，在某宝上买多个账号，生成多个cookies，在每一次访问时带上cookies

通过从html静态文件中获取请求数据

反爬原因：通过增加获取请求参数的难度进行反爬

解决方案：仔细分析抓包得到的每一个包，搞清楚请求之间的联系

2.2 通过发送请求获取请求数据

反爬原因：通过增加获取请求参数的难度进行反爬

解决方案：仔细分析抓包得到的每一个包，搞清楚请求之间的联系，搞清楚请求参数的来源

动态令牌：对当前页面内的合法请求地址授予一定时间内有效的动态令牌，并为每个客户端生成不依赖于设备特征的唯一标识。令牌的动态变换，加上客户端唯一标识，就如同身份证一样难以伪造，可以阻拦非法的自动化攻击请求