详谈python http长连接客户端,详谈python
详谈python http长连接客户端,详谈python
背景:
线上机器,需要过滤access日志,发送给另外一个api
期初是单进程,效率太低,改为多进程发送后,查看日志中偶尔会出现异常错误(忘记截图了。。。)
总之就是端口不够用了报错
原因:
每一条日志都是一次请求发送给api,短连接产生大量time_wait状态,占用了大量端口
这种高并发导致的大量time_wait状态内核调优基本是没用的,后来改为长连接解决问题
第一版短连接版本关键代码如下
因涉及具体业务信息,只贴出了关键部分代码
import pycurl where True: url=myqueue.get() send_msg=pycurl.Curl() send_msg.setopt(pycurl.URL,url) send_msg.perform() print send_msg.getinfo(send_msg.HTTP_CODE)
修改后长连接版本如下:
采用requests库
import requests client=requests.session() headers = {'Content-Type': 'application/json', 'Connection': 'keep-alive'} where True: url=myqueue.get() r=client.get(url,headers=headers) print r.status_code
以上这篇详谈python http长连接客户端就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持帮客之家。
相关内容
- Ubuntu 下 vim 搭建python 环境 配置,ubuntuvim
- Python实现删除列表中满足一定条件的元素示例,python示
- Python简单删除列表中相同元素的方法示例,python示例
- python正则表达式的使用,python正则表达式
- Python实现Linux中的du命令,pythonlinuxdu命令
- python生成词云的实现方法(推荐),python生成
- 老生常谈python之鸭子类和多态,老生常谈python多态
- Python爬虫DOTA排行榜爬取实例(分享),pythondota
- Python实现的下载网页源码功能示例,python源码
- python实现单线程多任务非阻塞TCP服务端,python单线程
评论关闭