相关文章推荐
小百科  ›  nginx、lvs、keepalived、f5、DNS轮询(lvs为何不能完全替代DNS轮询)_keepalived 与f5
反向代理 lvs keepalived 负载均衡
强健的大白菜
1 月前

一、问题域
nginx、lvs、keepalived、f5、DNS轮询，每每提到这些技术，往往讨论的是接入层的这样几个问题：

1）可用性：任何一台机器挂了，服务受不受影响

2）扩展性：能否通过增加机器，扩充系统的性能

3）反向代理+负载均衡：请求是否均匀分摊到后端的操作单元执行

二、上面那些名词都是干嘛的
由于每个技术人的背景和知识域不同，上面那些名词缩写（运维的同学再熟悉不过了），还是花1分钟简单说明一下（详细请自行“百度”）：

1）nginx：一个高性能的web-server和实施反向代理的软件

2）lvs：Linux Virtual Server，使用集群技术，实现在linux操作系统层面的一个高性能、高可用、负载均衡服务器

3）keepalived：一款用来检测服务状态存活性的软件，常用来做高可用

4）f5：一个高性能、高可用、负载均衡的硬件设备（听上去和lvs功能差不多？）

5）DNS轮询：通过在DNS-server上对一个域名设置多个ip解析，来扩充web-server性能及实施负载均衡的技术

三、接入层技术演进
【裸奔时代（0）单机架构】
image.png

裸奔时代的架构图如上：

1）浏览器通过DNS-server，域名解析到ip

2）浏览器通过ip访问web-server

1）非高可用，web-server挂了整个系统就挂了

2）扩展性差，当吞吐量达到web-server上限时，无法扩容

注：单机不涉及负载均衡的问题

【简易扩容方案（1）DNS轮询】
image.png

假设tomcat的吞吐量是1000次每秒，当系统总吞吐量达到3000时，如何扩容是首先要解决的问题，DNS轮询是一个很容易想到的方案：

此时的架构图如上：

1）多部署几份web-server，1个tomcat抗1000，部署3个tomcat就能抗3000

2）在DNS-server层面，域名每次解析到不同的ip

1）零成本：在DNS-server上多配几个ip即可，功能也不收费

2）部署简单：多部署几个web-server即可，原系统架构不需要做任何改造

3）负载均衡：变成了多机，但负载基本是均衡的

1）非高可用：DNS-server只负责域名解析ip，这个ip对应的服务是否可用，DNS-server是不保证的，假设有一个web-server挂了，部分服务会受到影响

2）扩容非实时：DNS解析有一个生效周期

3）暴露了太多的外网ip

【简易扩容方案（2）nginx】
image.png

tomcat的性能较差，但nginx作为反向代理的性能就强多了，假设线上跑到1w，就比tomcat高了10倍，可以利用这个特性来做扩容：

此时的架构图如上：

1）站点层与浏览器层之间加入了一个反向代理层，利用高性能的nginx来做反向代理

2）nginx将http请求分发给后端多个web-server

1）DNS-server不需要动

2）负载均衡：通过nginx来保证

3）只暴露一个外网ip，nginx->tomcat之间使用内网访问

4）扩容实时：nginx内部可控，随时增加web-server随时实时扩容

5）能够保证站点层的可用性：任何一台tomcat挂了，nginx可以将流量迁移到其他tomcat

1）时延增加+架构更复杂了：中间多加了一个反向代理层

2）反向代理层成了单点，非高可用：tomcat挂了不影响服务，nginx挂了怎么办？

【高可用方案（3）keepalived】
为了解决高可用的问题，keepalived出场了（之前的文章“使用shadow-master保证系统可用性”详细介绍过）：
image.png

1）做两台nginx组成一个集群，分别部署上keepalived，设置成相同的虚IP，保证nginx的高可用

2）当一台nginx挂了，keepalived能够探测到，并将流量自动迁移到另一台nginx上，整个过程对调用方透明
image.png

1）解决了高可用的问题

1）资源利用率只有50%

2）nginx仍然是接入单点，如果接入吞吐量超过的nginx的性能上限怎么办，例如qps达到了50000咧？

【scale up扩容方案（4）lvs/f5】
nginx毕竟是软件，性能比tomcat好，但总有个上限，超出了上限，还是扛不住。

lvs就不一样了，它实施在操作系统层面；f5的性能又更好了，它实施在硬件层面；它们性能比nginx好很多，例如每秒可以抗10w，这样可以利用他们来扩容，常见的架构图如下：

1）如果通过nginx可以扩展多个tomcat一样，可以通过lvs来扩展多个nginx

2）通过keepalived+VIP的方案可以保证可用性

99.9999%的公司到这一步基本就能解决接入层高可用、扩展性、负载均衡的问题。

这就完美了嘛？还有潜在问题么？

好吧，不管是使用lvs还是f5，这些都是scale up的方案，根本上，lvs/f5还是会有性能上限，假设每秒能处理10w的请求，一天也只能处理80亿的请求（10w秒吞吐量*8w秒），那万一系统的日PV超过80亿怎么办呢？（好吧，没几个公司要考虑这个问题）

【scale out扩容方案（5）DNS轮询】
如之前文章所述，水平扩展，才是解决性能问题的根本方案，能够通过加机器扩充性能的方案才具备最好的扩展性。

facebook，google，baidu的PV是不是超过80亿呢，它们的域名只对应一个ip么，终点又是起点，还是得通过DNS轮询来进行扩容：

1）通过DNS轮询来线性扩展入口lvs层的性能

2）通过keepalived来保证高可用

3）通过lvs来扩展多个nginx

4）通过nginx来做负载均衡，业务七层路由

四、结论
聊了这么多，稍微做一个简要的总结：

1）接入层架构要考虑的问题域为：高可用、扩展性、反向代理+扩展均衡

2）nginx、keepalived、lvs、f5可以很好的解决高可用、扩展性、反向代理+扩展均衡的问题

3）水平扩展scale out是解决扩展性问题的根本方案，DNS轮询是不能完全被nginx/lvs/f5所替代的

双机高可用方法目前分为两种： 1） Nginx + keepalived 双机主从模式：即前端使用两台服务器，一台主服务器和一台热备服务器，正常情况下，主服务器绑定一个公网虚拟IP，提供负载均衡服务，热备服务器处于空闲状态；当主服务器发生故障时，热备服务器接管主服务器的公网虚拟IP，提供负载均衡服务；但是热备服务器在主机器不出现故障的时候，永远处于浪费状态，对于服务器不多的网站，该方案不经济实惠。 2） Nginx + keepalived 双机主主模式：即前端使用两台负载均衡服务器，互为主备，且都处于活动状
部分同学持这样的观点： 1） nginx 前端加入 lvs 和 keepalived 可以替代“ DNS 轮询 ” 2） F5 能搞定接入层高可用、扩展性、负载均衡，可以替代“ DNS 轮询 ” “ DNS 轮询 ”究竟是不是过时的技术，是不是可以被其他方案替代，接入层架构技术演进，是本文将要细致讨论的内容。 一、问题域 nginx 、 lvs 、 keepalived 、 f5 、 DNS 轮询 ，每每提到这些技术，往往讨论的是接入
只配置一个 nginx 会有单点问题，怎么解决？ nginx 的单点问题就是如果 nginx 挂了那么整个后边的服务将不可访问，失去了高可用性，可利用 nginx 、 keepalived 、 lvs （或 F5 ）解决 nginx 的单点问题，实现高可用、负载均衡、横向拓展的功能 nginx :用作反向代理 keepalived ：用作监测某个服务是否正常，若不正常则切换到其他备份服务中，如检测 nginx 有没有挂掉，挂掉后可以将当前 nginx 功能切换到另外一个 nginx 上（同理也可以检测 lvs ） lvs ：用作负载均衡，作用于操作系统（软
Nginx 有很强代理功能，但是一台 nginx 就形成了单点，现在使用 keepalived 来解决这个问题， keepalived 的故障转移时间很短. Nginx + keepalived 双机实现 nginx 反向代理服务的高可用,一台 nginx 挂掉之后不影响应用也不影响内网访问外网。 keepalived 它是一个基于VRRP协议来实现的WEB服务高可用方案，可以利用其来避免单点故障。一个WEB服务至...
（1）下载 Keepalived https://www. keepalived .org/download.html （2）2. 通过ftp工具上传到linux中的/home/software目录下 （3）解压 tar -zxvf keepalived -2.0.18.tar.gz （4）解压后进入到解压出来的目录，看到会有 configure ，那么就可以做配置了（配置安装和 nginx 一模一样） （5）安装配置 ./configure 192.168.139.8（主）和192.168.139.9（从） vmware 12 ：自行安装  https://blog.csdn.net/babyxue/article/details/80970526 配置NAT网络：https://blog.csdn.net/c571121319/article/details/47445761?tdsourcetag=s_p...
NLB 就是网络负载平衡，windows Server 2012 中该功能允许你将传入的请求传播到最多达32台的服务器上，即可以使用最多32台服务器共同分担对外的网络请求服务。网络负载平衡，保证即使是在负载很重的情况下它们也能够在很快的时间内做出反应。 网络负载平衡可以让客户端用一个逻辑Internet名称和虚拟IP地址（又称群集IP地址）访问群集，同时保留每台计算机各自的名称。网络负载平衡对外只须提供一个IP地址（或域名）。当网络负载平衡中的服务器故障，不可用时，网络负载平衡会自动检测到不可用的服务器，
解决方案： LVS +keepalive 四层负载均衡，在网络模型中的传输层中，基于主要是基于tcp协议报文实现负载均衡（比如 LVS 、haproxy就是四层负载均衡器），使用改写报文的源地址和目的地址。 一、环境服务配置 两台 Nginx 服务器 Nginx 主服务器 192.168.212.143 Nginx 备服务器 192.168.212.144 Lvs 虚拟VIP 192.168.212.110 前面三个一定要相同 二、环境搭建 1.下载 keepalived
LVS （Linux Virtual Server）是一个开源的负载均衡软件，可以将多个服务器组成一个高可用的集群，实现负载均衡和高可用性。 Keepalived 是一个基于VRRP协议的高可用性软件，可以实现服务器的故障转移和负载均衡。 Nginx 是一个高性能的Web服务器和反向代理服务器，可以实现负载均衡、反向代理、缓存等功能。 综合使用 LVS 、 Keepalived 和 Nginx 可以实现高可用、高性能的负载均衡系统。 LVS 作为负载均衡器， Keepalived 实现高可用性， Nginx 作为反向代理服务器实现负载均衡和缓存。
ERROR: No matching distribution found for mysqlclient/OSError: mysql_config not found（mysqlclient报错） Failed to connect to the bus: Could not parse server address: Unknown address type (examples of vali
 
推荐文章
Link管理   ·   51好读   ·   Sov5搜索   ·   小百科
小百科 - 百科知识指南