高并发场景下，Nginx如何抗住千万级流量?

关注△mikechen△，十余年BAT架构经验倾囊相授！

大家好，我是mikechen。

Nginx在大型架构被广泛使用，下面我就重点来详解Nginx高并发技术@mikechen

文章来源：mikechen.cc

Nginx如何应对高并发

在现代互联网中，高并发流量是许多应用的常态，尤其在:秒杀系统、直播平台，还是大型电商活动。

这些场景会带来技术挑战，所以，就需要来解决高并发流量。

Nginx 不仅仅是一个 Web 服务器，它是 现代互联网系统的流量总管，在高并发架构中扮演着至关重要的角色。

Nginx 能够支撑高并发流量，背后有几项关键技术支撑：

多进程 + 事件驱动架构

使用 Master-Worker 多进程模型，主进程负责管理，子进程负责处理请求；

Master 进程的职责：

• 管理 Worker 进程： Master 进程负责启动、停止和重启 Worker 进程，确保系统的稳定运行。
• 加载配置文件： 它负责读取和解析 Nginx 的配置文件（nginx.conf），并将配置信息传递给 Worker 进程。

Worker 进程的职责：

• 处理客户端请求： Worker 进程是实际处理客户端请求的进程。
• 执行网络 I/O 操作： 它负责接收和发送网络数据，处理 HTTP 请求和响应。
• 每个 Worker 进程都是独立的： 这意味着它们之间互不干扰，即使某个 Worker 进程出现问题，也不会影响其他进程的运行。

异步非阻塞处理机制

通过 epoll 和非阻塞 I/O 的结合使用，Nginx 能够高效地处理大量的并发连接。

它能够在一个线程中同时处理多个连接，从而提高了系统的并发处理能力。

单线程高效处理连接：

每个 Worker 进程都是单线程的，这避免了多线程上下文切换的开销，提高了性能。

为了高效地处理大量并发连接，Nginx 使用了 epoll（在 Linux 系统上）等多路复用技术。

epoll 的作用：

epoll 是一种 I/O 多路复用技术，它允许一个线程同时监听多个文件描述符（例如，网络连接）。

当某个文件描述符上有事件发生（例如，数据到达），epoll 会通知线程，线程再进行处理。

epoll相比于select，poll，在大数量连接的情况下，性能会更好。

非阻塞 I/O：

Nginx 使用非阻塞 I/O，这意味着当线程执行 I/O 操作时，不会等待操作完成，而是立即返回。

线程可以继续执行其他任务，当 I/O 操作完成后，通过事件通知机制进行处理。

非阻塞IO，可以避免线程在等待IO的时候，被阻塞。

Nginx高并发配置实战

1. 启用多进程并发 + 高效事件模型

worker_processes auto; worker_cpu_affinity auto;
events { use epoll; # Linux 平台推荐使用 epoll worker_connections 10240; multi_accept on; }

worker_processes auto

：自动设置为 CPU 核心数，充分利用多核优势。

• use epoll
• ：Linux 下的高性能事件驱动模型。
• worker_connections
• ：单个 worker 支持的最大连接数（理论并发 = workers × connections）。
• multi_accept on
• ：允许 worker 一次接受多个连接，提高接入效率。

实战建议：在压力测试中逐步调整 worker_connections 以找到最佳吞吐点。

2. 提升 TCP 连接效率（长连接+连接复用）

keepalive_timeout 65; keepalive_requests 1000; tcp_nodelay on; tcp_nopush on;

• keepalive_timeout
• ：保持连接存活时间，减少频繁建立/释放的开销。
• keepalive_requests
• ：单连接最大请求数，配合 upstream keepalive 使用。
• tcp_nodelay
• ：加速小包传输，避免延迟。
• tcp_nopush
• ：优化响应包发送，减少数据包数量。

3.. 开启缓存机制，减轻后端压力

proxy_cache_path /data/nginx/cache levels=1:2 keys_zone=static_cache:50m inactive=1h max_size=2g;
server { location /static/ { proxy_cache static_cache; proxy_pass http://backend_servers; proxy_cache_valid 200 1h; proxy_cache_use_stale error timeout updating; } }

• proxy_cache_path
• ：设置缓存路径、层级结构、大小上限；
• proxy_cache_valid
• ：为不同状态码配置缓存时间；
• proxy_cache_use_stale
• ：后端出问题时使用过期缓存兜底，提升系统容错。

5. 设置限流防护，抵御突发流量冲击

limit_conn_zone $binary_remote_addr zone=addr_limit:10m;
limit_conn addr_limit 20;
limit_req_zone $binary_remote_addr zone=req_limit:10m rate=10r/s; limit_req zone=req_limit burst=20 nodelay;

• limit_conn
• ：限制单 IP 最大连接数；
• limit_req
• ：限制请求速率（如：每秒10次），防止恶意刷接口。

场景举例：

• 防止爬虫恶意抓取；
• 限制高频 API 调用；
• 缓解峰值时段突发请求。

6. 优化文件传输性能:

sendfile on; aio on; output_buffers 1 512k;

• sendfile
• ：启用零拷贝机制，减少磁盘 → 网络的数据搬运消耗；
• aio
• ：启用异步文件 IO，提升大文件传输效率。

7. 启用 Gzip 压缩减少带宽占用

gzip on; gzip_types text/plain application/json application/javascript text/css; gzip_comp_level 5;

• 适用于静态资源、JSON 接口响应等场景；
• 在带宽紧张时非常有效，但注意不要压缩已压缩格式（如 .zip, .jpg）。

以上

文章来源：mikechen.cc