Celery连接rabbitmq报Connection reset by peer

2022-01-04 16:32:07 阅读：354 来源： 互联网

标签：reset pika tcp Celery rabbitmq 心跳连接 channel 客户端

问题复现

在使用celery + rabbitmq作为broker时,启动一定时间后会由于celery和rabbitmq的心跳检测机制认为连接有问题,先报如下错误

Too many heartbeats missed

再过一段时间,由于认为心跳有问题,会断开tcp连接,就会报如下错误:

ConnectionResetError: [Errno 104] Connection reset by peer

这时 tcp连接被断开,但是 celery的worker还在继续处理任务,等worker处理完任务需要回写ack告诉rabbitmq此任务已经完成,由于tcp已经断开连接,就会报如下错误(原因是 tcp断开连接,向一个已经关闭的socket写入数据时就是这个Broken pipe错误)

解决方法

既然心跳机制有问题,就去掉心跳机制, celery配置中将 broker_heartbeat 值改为0 即可;

解决此问题的限制情景

celery连接的broker必须为rabbitmq(不能为redis等等)
celery的transport必须是 pyamqp,一般默认就是pyamqp,而不是librabbitmq(只要不安装librabbitmq库)

其他

此bug即使在目前最新的celery 5.1.2版本仍然无法解决,只能通过设置参数禁用心跳机制;
经过1周的测试,禁用心跳机制后,celery worker正常消费任务,无任何问题;

heartbeat通常用来检测通信的对端是否存活（未正常关闭socket连接而异常crash）。其基本原理是检测对应的socket连接上数据的收发是否正常，如果一段时间内没有收发数据，则向对端发送一个心跳检测包，如果一段时间内没有回应则认为心跳超时，即认为对端可能异常crash了。

rabbitmq也不例外，heatbeat在客户端和服务端之间用于检测对端是否正常，即客户端与服务端之间的tcp链接是否正常。

关于rabbitmq心跳

1.heartbeat检测时间间隔可在配置文件rabbitmq.config中增加配置项{heartbeat,Timeout}进行配置，其中Timeout指定时间间隔，单位为秒，另外客户端也可以配置heartbeat时间。

如果服务端没有配置
默认代理心跳时间：
RabbitMQ 3.2.2：580秒
RabbitMQ 3.5.5：60秒

3.心跳每 heartbeat timeout / 2 秒发送一次，服务器两次没有接收到则断开tcp连接，以前的连接将失效，客户端需要重新连接。
4.如果你使用Java, .NET and Erlang clients，服务器与客户端会协商heartbeat时间

如果其中一个值为0，则使用两者中较大的一个
否则，使用两者中较小的一个
两个值都为0，则表示要禁用心跳，则服务端与客户端维持此tcp连接，不会断开。
注意：在python客户端上直接设置为0，则禁用心跳。

禁用心跳在python客户端该如何设置：

在py3:ConnectionParameters设置heartbeat_interval=0即可。
在py2:ConnectionParameters设置heartbeat=0即可。

5.连接上的任何流量（传输的有效数据、确认等）都将被计入有效心跳，当然也包括心跳帧。

6.我在网上看到有人问到这个问题：

为什么服务端宕机，在心跳检测机制下，服务器侧断开连接，而客户端这边不能检测到tcp断开，我测试过，客户端确实不能检测到tcp连接断开，只有当客户端在这个tcp有操作后，才能检测到，当然在一个断开的tcp连接上做操作会报错（如发送消息）。

import pika  
import time  

credit = pika.PlainCredentials(username='cloud', password='cloud')
connection = pika.BlockingConnection(pika.ConnectionParameters(
    host='10.32.1.12', credentials=credit))
channel = connection.channel()  
while True:
    connect_close = connection.is_closed
    connect_open = connection.is_open
    channel_close = channel.is_closed
    channel_open = channel.is_open
    
    print("connection is_closed ", connect_close)
    print("connection is_open ", connect_open)
    print("channel is_closed ", channel_close)
    print("channel is_open ", channel_open)
    print("")
    time.sleep(5)

7.一些RabbitMQ客户端（Bunny，Java，.NET，Objective-C，Swift）提供了一种在网络故障后自动恢复连接的机制，而pika只能通过检测连接异常后再重新创建连接的方式。

示例代码：通过检测连接异常，重新创建连接：

import pika

while True:
    try:
        connection = pika.BlockingConnection()
        channel = connection.channel()
        channel.basic_consume('test', on_message_callback)
        channel.start_consuming()
    # Don't recover if connection was closed by broker
    except pika.exceptions.ConnectionClosedByBroker:
        break
    # Don't recover on channel errors
    except pika.exceptions.AMQPChannelError:
        break
    # Recover on all other connection errors
    except pika.exceptions.AMQPConnectionError:
        continue

from retry import retry

@retry(pika.exceptions.AMQPConnectionError, delay=5, jitter=(1, 3))
def consume():
    connection = pika.BlockingConnection()
    channel = connection.channel()
    channel.basic_consume('test', on_message_callback)
    try:
        channel.start_consuming()
    # Don't recover connections closed by server
    except pika.exceptions.ConnectionClosedByBroker:
        pass
consume()

heartbeat的实现

rabbitmq在收到来自客户端的connection.tune-ok信令后，启用心跳检测，rabbitmq会为每个tcp连接创建两个进程用于心跳检测，一个进程定时检测tcp连接上是否有数据发送（这里的发送是指rabbitmq发送数据给客户端），如果一段时间内没有数据发送给客户端，则发送一个心跳包给客户端，然后循环进行下一次检测；

另一个进程定时检测tcp连接上是否有数据的接收，如果一段时间内没有收到任何数据，则判定为心跳超时，最终会关闭tcp连接。另外，rabbitmq的流量控制机制可能会暂停heartbeat检测，这里不展开描述。

标签：reset,pika,tcp,Celery,rabbitmq,心跳,连接,channel,客户端
来源： https://www.cnblogs.com/tracydzf/p/15762969.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。