Python多进程与协程结合使用的问题

最近在研究子域名爆破 试用了 dnspython 这个第三方库
但是踩到了很多坑,程序算是能跑起来了,但是感觉速度不是十分理想

因为要做扫描的列表 于是使用了 multiprocessing.Manager 来管理进程之间的共享数据

但是 gevent 如果打了猴子补丁的话会有冲突,于是代码改成 monkey.patch_all(thread=False, socket=False, select=False) 但是跑起来速度很慢 那种慢看起来是 dns 查询的慢,想请问有没有什么优化方法啊


Python多进程与协程结合使用的问题

12 回复

用 asyncio 啊


我无法理解你的问题

asyncio aiodns

我试一试

你把 socket 设置为 false,就相当于是多进程了

但是 socket True 会有冲突 emm 再仔细研究研究

抄 openstack 的多进城 service 启动部分代码
好好看看怎么写多进程代码的

我去抄一抄

插句题外话,凡是涉及多进程 /多线程的,我都首先考虑 Golang ……

multiprocessing.Manager 貌似是通过 multiprocessing.pipe 实现的,原理跟 rpc 一样,性能缺失低,不如用 mmap 吧

这种网络 I/O 为主的,多线程就够用了吧

#9
manager 是本地 server 提供的共享,它可以在子进程间共享;不是通过 pipe,pipe 只能在父子进程间共享

刚试了下 asyncio 那速度是真的爽啊 。。。。

回到顶部