时间:2021-05-22
背景
最近在工作中发现了一个错误,在执行多线程扫描脚本的时候频繁出现下面这个错误
HTTPConnectionPool(host=‘t.tips', port=80): Max retries exceeded with url: /index.php (Caused by NewConnectionError('<requests.packages.urllib3.connection.HTTPConnection object at 0x7f29d4081150>: Failed to establish a new connection: [Errno 24] Too many open files',))比较诡异...
分析
博主自己手上的一些小项目经常需要进行多线程的批量扫描来采集数据,像采集数据这种功能当然是线程越多越好了,所以通常情况下我都是使用 3000 个线程进行扫描,在确定带宽充足,系统硬件配置够高的情况下依然会出现上述问题,这就让我想到是不是因为系统的限制问题。
通过搜索引擎我找到了关于系统限制的介绍,执行
$ ulimit -n1024得到的结果是1024,系统限制为同时打开1024个文件,这显然是太少了。
解决
这个问题的解决方法很简单,直接修改下面的文件
sudo vim /etc/security/limits.conf最这个文件的最后添加两行代码
当然这个数字根据自己的需要进行修改即可,保存后注销重新登录就好了。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
本文实例讲述了Python提示[Errno32]Brokenpipe导致线程crash错误解决方法。分享给大家供大家参考。具体方法如下:1.错误现象Thread
后台操作提示数据库错误!Error:Unknowncolumn'app1'in'whereclause'Errno:1054SQ
在windows下安装Mysql系统日志出现max_open_files:2048max_connections:510table_cache:764类似错误是
问题如下pythonpip安装模块提示错误failedtocreateprocess原因:报这个错误的原因,是因为python的目录名称或位置发生改动。解决办法
本文分析了Python出现segfault错误解决方法。分享给大家供大家参考,具体如下:最近python程序在运行过程中偶尔会引发系统segfault的错误,而