nginx+ PHP -fpm 出现 502

[zzhpeng]

问题概述

在某段时间段，网站出现 nginx 502，通过宝塔查看，负载状态是 100%，查看监控，磁盘 IO 飙高，如下为近 7 日 IO 磁盘图：

排查数据

nginx 抛出 502,证明是它的反向代理出错，这个代理 php-cgi 出了问题，我用的是 php-fpm，出了问题。 查看 php-fpm 日志,发现并没有什么异常，提示需要提升 start_servers 是因为在这个时候我重载了 php-fpm， 但是重启后并没作用。然后重启了 nginx,才恢复了正常。

查看 nginx 日志，出现了很多*12359859 connect() to unix:/tmp/php-cgi-72.sock failed (11: Resource temporarily unavailable) while connecting to upstream

根据这个 nginx 这个提示查了相关资料，得到了 3 个解决方案

1、php-fpm 的 sock 通讯方式 改为 tcp

结论：不考虑，查了相关的 blog，出现了相同问题，还从 tcp 改为 sock 模式呢！！

2、用两个 php-fpm sock，nginx 负载均衡

2.1、复制一份配置文件，修改里边的 pid sock cp /usr/local/php/etc/php-fpm.conf cp /usr/local/php/etc/php-fpm2.conf

[global]
pid = /usr/local/php/var/run/php-fpm2.pid
error_log = /usr/local/php/var/log/php-fpm2.log
log_level = notice

[www]
listen = /tmp/php-cgi2.sock

2.2、复制一个启动文件，也修改相关的信息

cp /etc/init.d/php-fpm /etc/init.d/php-fpm2

php_fpm_BIN=${exec_prefix}/sbin/php-fpm
php_fpm_CONF=${prefix}/etc/php-fpm2.conf
php_fpm_PID=${prefix}/var/run/php-fpm2.pid

2.3、启动 /etc/init.d/php-fpm2 start

2.4、nginx 配置文件，增加 upstream 模块

upstream backend{
    server unix:/tmp/php-cgi.sock;
    server unix:/tmp/php-cgi2.sock;
}

2.5、把 fastcgi_pass unix:/tmp/php-cgi.sock;改成 fastcgi_pass backend; 重新加载 /etc/init.d/nginx reload

结论：这个方法，和我直接调大 php-fpm max_children 差不多，不考虑。

3、php-fpm 的 listen.backlog 默认-1 改为 1024 或者 4096，即是调大

结论：待检验，

V 友们，又遇到我这种情况吗？

[iyaozhen]

这就是扛不住了，加机器就行

[hero2040407]

你同一台机器负载均衡做什么？先看看有没有慢查询，优化一下数据库，不行就升级一下数据库

[zzhpeng]

@hero2040407 没有慢日志，不关数据库问题

[lhx2008]

php 502 就是 php 并发太多了，一定是哪里卡住了，然后请求太多，满了就 502 了

[lhx2008]

如果不是数据库的问题，有可能是请求了别的远程资源，你先估计下每个请求要多久时间，然后你一秒有多少个请求，然后看看能不能处理过来

[onepunch]

前两天公司服务器出问题，一样的问题，下面是大佬的调查以及改善
[错误日志]
24926#24926: *680716664 connect() to unix:/run/php/php7.2-bi-svc.sock failed (11: Resource temporarily unavailable) while connecting to upstream,

[调查]
nginx (客户端) 和 php-fpm （服务端） 通过 unix socket 通信，在 connet() 时，会进行类似 tcp 的三次握手,
如果 accpet queue 队列满了，server 将发送一个 ECONNREFUSED 错误信息 Connection refused 到 client。这样 nginx 就会报这个错了，连接不上。

php-fpm 的 backlog 是 accpet queue 的最大长度
cat /proc/sys/net/core/somaxconn 128
查看 php-fpm 里的配置 listen.backlog 是 4096
由于会取这 2 个的最小值， 所以是 128

验证当时的请求：
deploy@fbi-prod-m:/var/log/nginx$ grep '2019-12-06T16:48' bi_svc.access.log.1 | wc -l
9903
每秒请求数 165
165>128 了, 请求太多了，应该是 accpet queue 满了

[解决办法]
vi /etc/sysctl.conf
net.core.somaxconn = 1024
将 /proc/sys/net/core/somaxconn 改成 1024 就不会出问题了

[zzhpeng]

@lhx2008 有时候并非并发太多会 502，还可能与程序有关，这里有一遍关于框架 session 问题导致的 502，https://www.zzhpeng.com/nginx502.html

[haiyang416]

PHP worker 进程用完了。
检查系统哪个地方出现了问题，比如磁盘或者网络 IO 耗时过多。
另外你说负载 100% 这个负载到底是什么负载，如果是 CPU 的话就要去找占用 CPU 最高的进程查问题。

[zzhpeng]

@onepunch 我也是查看的相关类似这种处理，但是我这种是突然间飙升的，该这样做吗？不这样做又 502。2333333

[zzhpeng]

@haiyang416 负载 100% ，由多个指标影响，如磁盘 io，网络 io，cpu，内存。当时是由于磁盘 io，飙高影响

[lhx2008]

@zzhpeng #9 最关键是还是看 slow log 排查啊，加连接数有用的话，根本不是问题，加机器就完事了

[onepunch]

@zzhpeng 你可以根据我给你的东西，调查一下出问题那一刻的 log，核实一下原因。

[zzhpeng]

@onepunch 按照你们的思路，算了峰值，并没有达到每秒 128 个，只有在那段时间段平均 17.8 个左右，比原来翻了 6.5 倍，b 端系统。我觉得像是恶意攻击，一个时间段，都是同一个 ip 地址，同一种请求连接。

[onepunch]

不能吧，每秒 18 个请求都应付不了吗？你算的是 nginx log 吧？？

[onepunch]

还有就是他访问的接口你执行的速度是不是有问题？ 150 个 php-fpm 子进程都不是空闲状态，是不是存在慢查询啊？

somaxconn 这个内核参数你在看下配置的是多少吧？ 它跟 backlog 取最小的那个

[zzhpeng]

@onepunch 是算 nginx access log，我抽出了出问题的十分钟平均计算的。这 18 个请求都走数据库了，响应会比较慢，我的 somaxconn 数值也和你的一样 128。仔细看了日志，排查了下，出问题的这一段时间内，nginx error log 出现很多重复的同一个 ip，同一种请求链接的请求，初步确定是存在恶意攻击了，而且隔一段时间都会出现。目前解决方案是先弄个 iptables。

[qsbaq]

502 大部分情况下是 PHP 的问题，试着把 php 进程数调高试一下。