首页 > 其他 > 详细

scrapy遇到Couldn't bind: 24: Too many open files.错误的解决

时间:2019-01-17 15:36:00      阅读:376      评论:0      收藏:0      [点我收藏+]

现象为爬虫日志报出Couldn‘t bind: 24: Too many open files.错误,netstat -natep | grep 代理端口 或爬虫进程ID,有大量ESTABLISHED的连接。

Socket error 10024,具体错误信息就是Too many open files 。

由于爬虫使用了代理,每次请求切换一次代理IP,代理连接有时会发生异常,在爬虫高并发的情况下,会产生许多由于代理连接异常导致的半连接假死连接,这些连接系统在进行keepalive探测后会进行回收,但如果回收速度过慢的话,达到最大文件句柄数后所有request请求就无法建立连接,就会报出 Too many open files。

解决办法:

修改系统最大文件句柄数;

编辑sysctl.conf,添加或修改一下几个参数:

net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_intvl = 15
net.ipv4.tcp_keepalive_time = 120

net.ipv4.tcp_retries1 = 3
net.ipv4.tcp_retries2 = 15
net.ipv4.tcp_syn_retries = 6
net.ipv4.tcp_synack_retries = 5

保存退出并sysctl -p,使修改生效。

 

原创文章,转载请标明出处。

scrapy遇到Couldn't bind: 24: Too many open files.错误的解决

原文:https://www.cnblogs.com/sammyzhang/p/10282520.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!