背景

随着互联网业务的迅猛发展，大型电商平台和门户网站对系统的可用性和可靠性要求越来越高，高可用集群、负载均衡集群成为一种热门的系统架构解决方案。在众多的负载均衡集群解决方案中，有基于硬件的负载均衡设备，例如F5、Big-IP等，也有基于软件的负载均衡产品，例如HAProxy、LVS、Nginx等，在软件的负载均衡产品中，又分为两种实现方式，分别是基于操作系统的软负载实现和基于第三方应用的软负载实现。LVS就是基于linux操作系统实现的一种软负载均衡，而Nginx、HAProxy就是基于第三应用实现的软负载均衡，本文将对比一下HAProxy、Nginx。

Nginx

介绍

Nginx（发音同engine x）是一款由俄罗斯程序员Igor Sysoev所开发轻量级的网页服务器、反向代理服务器以及电子邮件（IMAP/POP3）代理服务器。起初是供俄国大型的门户网站及搜索引擎Rambler（俄语：Рамблер）使用。

特点

• 轻量级，采用C进行编写，同样的web服务，会占用更少的内存及资源。
• 抗并发，nginx以epollandkqueue作为开发模型，处理请求是异步非阻塞的。在高并发下nginx能保持低资源低消耗高性能
• 可以配置nginx的upstream实现nginx的反向代理。
• nginx作为负载均衡服务器，支持7层负载均衡。
• 支持高并发连接，每秒最多的并发连接请求理论可以达到50000个。
• nginx配置简洁，正则配置让很多事情变得简单
• 用线程处理用户请求，而线程是共享内存的，只需要开启少量进程，多个线程就可以共享进程的内存，占用内存小。
• nginx的设计高度模块化，编写模块相对简单。
• 社区活跃，各种高性能模块出品迅速。

负载均衡

负载均衡是Nginx常用的一个功能，是在服务端通过的负载均衡算法实现的，Nginx也要具有很多不同的负载均衡策略。负载均衡的意思是将请求分摊到不同的服务器上执行，例如：web服务器、企业内部服务器等等，这样可以提高系统的吞吐量和请求的响应速度。

负载均衡算法

• 轮询：轮询方式是Nginx负载默认的方式，顾名思义，所有请求都按照时间顺序分配到不同的服务上，如果服务Down掉，可以自动剔除
• 权重：指定每个服务的权重比例，weight和访问比率成正比，通常用于后端服务机器性能不统一，将性能好的分配权重高来发挥服务器最大性能
• IP地址散列：每个请求都根据访问ip的hash结果分配，经过这样的处理，每个访客固定访问一个后端服务
• 最少连接：将请求分配到连接数最少的服务上
• fair：按后端服务器的响应时间来分配请求，响应时间短的优先分配
• URL散列：通过管理客户端请求URL信息的散列，将发送至相同URL的请求转发至同一服务器的算法

架构

主进程（master）

Nginx 启动时，会生成两种类型的 进程 *，一个是 主进程 （ master ）， 一个 （ windows版本的目前只有一个）或 多个工作进程 （ worker ）。 主进程 并不处理网络请求，主要负责 调度工作进程 ， 加载配置 、 启动工作进程 及 非停升级 。所以， Nginx 启动以后，查看操作系统的进程列表，我们就能看到 至少有两个 Nginx 进程。

工作进程（worker）

服务器实际 处理网络请求 及 响应 的是 工作进程 （ worker ），在类 unix 系统上， Nginx可以配置 多个 worker ，而每个 worker 进程 都可以同时处理 数以千计 的 网络请求

HAProxy

介绍

HAProxy是法国人Willy Tarreau 使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的应用程序代理。HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全地整合进您当前的架构中， 同时可以保护你的web服务器不被暴露到网络上。

特点

• 可靠性和稳定性非常好，可以与硬件级的F5负载均衡设备相媲美;
• 最高可以同时维护40000-50000个并发连接，单位时间内处理的最大请求数为20000个，最大处理能力可达10Git/s;
• 支持多达8种负载均衡算法,同时也支持会话保持;
• 支持虚拟机主机功能，从而实现web负载均衡更加灵活;
• 支持连接拒绝、全透明代理等独特的功能;
• 拥有强大的ACL支持,用于访问控制;
• 其独特的弹性二义树数据结构，使数据结构的复杂性上升到了0(1)，即数据的查寻速度不会随着数据条日的增加而速度有所下降;支持客户端的keepalive功能，减少客户端与haproxy的多次三次握手导致资源浪费，让多个请求在一个tcp连接中完成;
• 支持TCP加速,零复制功能,类似于mmap机制;
• 支持响应池(response buffering) ;
• 支持RDP协议;
• 基于源的粘性，类似nginx的ip hash功能，把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器;·更好统计数据接口，其web接口显示后端集群中各个服务器的接收、发送、拒绝、错误等数据的统计信息;
• 详细的健康状态检测，web接口中有关于对上游服务器的健康检测状态，并提供了一定的管理功能;
• 基于流量的健康评估机制;
• 基于http认证;
• 基于命令行的管理接口;
• 日志分析器,可对日志进行分析。

负载均衡

负载均衡算法

• roundrobin：表示简单的轮询，这个不多说，这个是负载均衡基本都具备的；
• static-rr：表示根据权重
• leastconn：表示最少连接者先处理
• source：这个跟 Nginx 的 IP_hash 机制类似
• ri：表示根据请求的 URI；
• rl_param：表示根据请求的 URl 参数’balance url_param’ requires an URLparameter name；
• hdr(name)：表示根据 HTTP 请求头来锁定每一次 HTTP 请求；
• rdp-cookie(name)：表示根据据 cookie(name)来锁定并哈希每一次 TCP 请求。

架构

HAProxy实现的是一种事件驱动、单一进程的架构模型，此类模型的优点在于能够支撑高并发大规模的连接。反之，多进程或多线程模型受内存和系统调度器的限制以及无处不在的锁限制，很难应对数以万计的高并发连接。HAProxy支持连接拒绝，通过拒绝连接，可以限制某些非法或有意的攻击型连接，从而降低其对网站带来的危害。的这一功能已成为目前应对小型 DDoS攻击的主要方法之一，并且其他负载均衡器很难做到这点。此外， HAProxy还支持全透明代理，即可以将客户端地址或者任何指定地址直接连接到后端服务器，通过全透明代理，可以不用修改某些特殊服务器地址而使其直接接收并处理部分特定流量。

工作模式如下

• tcp模式:该模式下，在客户端和服务器之间将建立一个全双工的连接，且不会对7层的报文做任何处理的简单模式。此模式默认，通常用于SSL、SSH、SMTP应用。
• http模式（一般使用）：该模式下，客户端请求在转发给后端服务器之前会被深度分析，所有不与RFC格式兼容的请求都会被拒绝。
• health模式 : 仅做健康检查

总结

从定位上来说，nginx重点是web服务器，替换的是Apache，同时具备lb的作用，haproxy是单纯的lb。二者现在都能支持http/tcp/udp的负载均衡，nginx的采用类似编程语言的配置，用文档结构表示配置关系，看起来比较清晰，haproxy的配置有点像网络设备，定义和引用，有时候搞清一个逻辑需要上下来回翻看。nginx是master-workers多进程，每个进程单线程，多核CPU能充分利用；haproxy是多线程，单进程就能实现超高性能，虽然haproxy也能多进程，但是网上资料多认为开了多进程也不能提升性能，不建议多进程跑。即使做反向代理nginx性能略低于haproxy，但实际两者性能都超高，