深入理解nginx第二版pdf（京东大佬细说：Nginx反向代理时保持长连接，看完直呼“学到了！“）

本文目录

• 京东大佬细说：Nginx反向代理时保持长连接，看完直呼“学到了！“
• 求 Nginx完全开发指南 使用C,C++和OpenResty pdf版本， 谢谢
• 为什么nginx只能同时处理一个php，apache环境下可以同时运行
• nginx lua return后还继续执行吗
• Nginx的upstream机制概述

京东大佬细说：Nginx反向代理时保持长连接，看完直呼“学到了！“

前言：

深入了解nginx，get到nginx的一些性能优化方向。除了了解如何保持长连接，也通过本案例学习到开源中间件的一些常用定位思路和优化方法。

场景描述

HTTP1.1之后，HTTP协议支持持久连接，也就是长连接，优点在于在一个TCP连接上可以传送多个HTTP请求和响应，减少了建立和关闭连接的消耗和延迟。如果我们使用了nginx去作为反向代理或者负载均衡，从客户端过来的长连接请求就会被转换成短连接发送给服务器端。为了支持长连接，我们需要在nginx服务器上做一些配置。

要求

到长连接，我们必须做到以下两点：

i.从client到nginx是长连接

ii.从nginx到server是长连接

对于客户端而言，nginx其实扮演着server的角色，反之，之于server，nginx就是一个client。

保持和Client的长连接

我们要想做到Client与Nginx之间保持长连接，需要：

i.Client发送过来的请求携带“keep-alive”header。

ii.Nginx设置支持keep-alive。

HTTP配置

默认情况下，nginx已经开启了对client连接的keepalive 支持。对于特殊场景，可以调整相关参数。

大多数情况下，keepalive_requests = 100也够用，但是对于 QPS 较高的场景，非常有必要加大这个参数，以避免出现大量连接被生成再抛弃的情况，减少TIME_WAIT。QPS=10000 时，客户端每秒发送 10000 个请求 (通常建立有多个长连接)，每个连接只能最多跑 100 次请求，意味着平均每秒钟就会有 100 个长连接因此被 nginx 关闭。同样意味着为了保持 QPS，客户端不得不每秒中重新新建 100 个连接。因此，如果用netstat命令看客户端机器，就会发现有大量的TIME_WAIT的socket连接 (即使此时keepalive已经在 Client 和 NGINX 之间生效)。

保持和Server的长连接

想让Nginx和Server之间维持长连接，最朴素的设置如下：

upstream配置

upstream中，有一个参数特别的重要，就是 keepalive 。***隐藏网址***

不理解？没关系，我们来举个例子：

场景：

有一个HTTP服务，作为upstream服务器接收请求，响应时间为100毫秒。要求性能达到10000 QPS，我们需要在nginx与upstream服务器之间建立大概1000条HTTP请求。（1000/0.1s=10000）

最优情况：

假设请求非常的均匀平稳，每一个请求都是100ms，请求结束会被马上放入连接池并置为idle（空闲）状态。

我们以0.1s为单位：

1. 我们现在keepalive的值设置为10，每0.1s钟有1000个连接。

2. 第0.1s的时候，我们一共有1000个请求收到并释放。

3. 第0.2s的时候，我们又来了1000个请求，在0.2s结束的时候释放。

请求和应答都比较均匀，0.1s释放的连接正好够用，不需要建立新连接，且连接池中没有idle状态的连接。

第一种情况：

应答非常平稳，但是请求不平稳 的时候

1.第0.3s的时候，我们只有500个请求收到，有500个请求因为网络延迟等原因没有进来。这个时候，Nginx检测到连接池中有500个idle状态的连接，就直接关闭了（500-10）个连接。

2.第0.4s的时候，我们收到了1500个请求，但是现在池里面只有（500+10）个连接，所以Nginx不得不重新建立了（1500-510）个连接。如果在第4步的时候，没有关闭那490个连接的话，只需要重新建立500个连接。

第二种情况：

请求非常平稳，但是应答不平稳 的时候

1. 第0.3s的时候，我们一共有1500个请求收到。但是池里面只有1000个连接，这个时候，Nginx又创建了500个连接，一共1500个连接。

2.第0.3s的时候，第0.3s的连接全部被释放，我们收到了500个请求。 Nginx检测到池里面有1000个idle状态的连接，所以不得不释放了（1000-10）个连接。造成连接数量反复震荡的一个推手，就是这个keepalive 这个最大空闲连接数。上面的两种情况说的都是 keepalive设置的不合理导致Nginx有多次释放与创建连接的过程，造成资源浪费。

keepalive 这个参数设置一定要小心，尤其是对于 QPS 要求比较高或者网络环境不稳定的场景，一般根据 QPS 值和 平均响应时间能大致推算出需要的长连接数量。然后将keepalive设置为长连接数量的10%到30%。

location配置

***隐藏网址***

另外一种高级方式

***隐藏网址***

***隐藏网址***

***隐藏网址***

【补充】

NGINX支持WebSocket。对于NGINX将升级请求从客户端发送到后台服务器，必须明确设置Upgrade和Connection标题。这也算是上面情况所非常常用的场景。HTTP的Upgrade协议头机制用于将连接从HTTP连接升级到WebSocket连接，Upgrade机制使用了Upgrade协议头和Connection协议头。为了让Nginx可以将来自客户端的Upgrade请求发送到后端服务器，Upgrade和Connection的头信息必须被显式的设置。

【注意】

***隐藏网址***

求 Nginx完全开发指南 使用C,C++和OpenResty pdf版本， 谢谢

• 得去官网找找了
  ........
  加油

• 你好。
  如果需要请留一个邮箱。我把资料发给你吧。

为什么nginx只能同时处理一个php，apache环境下可以同时运行

Nginx 的工作原理在这里我就不多赘述了，网上随便搜一下 Nginx 的工作原理，成百上千的 blog 都在讨论讲述，可以自己搜一下。
但我可以简单粗暴地回答一下你的这个问题，这样也更方便理解。
***隐藏网址***
***隐藏网址***
当然，Nginx 的这个处理方式不是死的，可以根据实际情况灵活配置；如果你要深入理解，我在这里简简单单也说不清楚，长篇大论的 Blog 网上都有，得慢慢看。

nginx lua return后还继续执行吗

nginx在处理每一个用户请求时，都是按照若干个不同的阶段依次处理的，与配置文件上的顺序没有关系，详细内容可以阅读《深入理解nginx:模块开发与架构解析》这本书，这里只做简单介绍；
1、post-read
读取请求内容阶段，nginx读取并解析完请求头之后就立即开始运行；
2、server-rewrite
server请求地址重写阶段；
3、find-config
配置查找阶段，用来完成当前请求与location配重块之间的配对工作；
4、rewrite
location请求地址重写阶段，当ngx_rewrite指令用于location中，就是再这个阶段运行

Nginx的upstream机制概述

对于使用了upstream的nginx，在处理请求和响应数据的时候是有区别的。

在处理请求数据时，是将请求的数据包先缓存起来，待数据包接收完毕，再与上游服务器建立TCP连接，这样有助于缓解上游服务器的压力，因为在通常情况下，下游服务器的TCP连接时公网，而上游服务器的TCP连接时内网，假如客户端发送了一个10M的数据，分为每次10K发送，如果采用边接边发送的方式，则上游服务器需要一直维护TCP连接，造成上有服务器多余的资源占用。

而在处理响应时，也是因为下游与上游的网络差异，则是边接收边发送，即使如此，因为接收的快，发送的慢，下游服务器仍然需要建立缓存区来缓存上游服务器的响应。

截图来自于《深入理解Nginx模块开发与架构解析第2版》