Python之进程池实现

最新推荐文章于 2025-03-26 22:51:58 发布

原创最新推荐文章于 2025-03-26 22:51:58 发布 · 537 阅读

0 ·

本内容遵循CC 4.0 BY-SA版权协议

收录于

Python

本文详细介绍了Python的multiprocessing模块中的进程池Pool，包括其初始化、最大进程数限制以及常用函数如apply_async、close、terminate和join的用法。通过实例展示了Pool如何动态创建和管理进程，以及Pool在处理大量任务时的优势。同时，讨论了使用apply与apply_async的区别，指出apply会导致阻塞，而apply_async则允许并行执行。最后，演示了在进程池中使用Manager().Queue进行进程间通信的例子。

当需要创建的子进程数量不多时，可以直接利用multiprocessing中的Process动态成生多个进程，但如果是上百甚至上千个目标，手动的去创建进程的工作量巨大，此时就可以用到multiprocessing模块提供的Pool方法。

初始化Pool时，可以指定一个最大进程数，当有新的请求提交到Pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到指定的最大值，那么该请求就会等待，直到池中有进程结束，才会用之前的进程来执行新的任务。

进程池的使用：

# -*- coding: UTF-8 -*-
import multiprocessing
import random,threading,time,string,os
def test1(msg):
    t_start = time.time()
    print('%s开始执行，进程号为%d'%(msg,os.getpid()))
    time.sleep(random.random()*2)
    t_stop = time.time()
    print('%s执行完成，耗时%.2f'%(msg,t_stop-t_start))
if __name__ == '__main__':
    po = multiprocessing.Pool(3)
    for i in range(10):
        # 每次循环将会用空闲出来的子进程去调用目标
        po.apply_async(test1,(i,))
    print('-------start--------')
    po.close()# 关闭进程池，关闭后po不再接收新的请求
    po.join()# 等待po中所有子进程执行完成，必须放在close语句之后
    print('--------end---------')

输出结果：

-------start--------
0开始执行，进程号为72495
1开始执行，进程号为72496
2开始执行，进程号为72497
1执行完成，耗时0.02
3开始执行，进程号为72496
0执行完成，耗时0.03
4开始执行，进程号为72495
4执行完成，耗时0.07
5开始执行，进程号为72495
2执行完成，耗时1.11
6开始执行，进程号为72497
5执行完成，耗时1.17
7开始执行，进程号为72495
3执行完成，耗时1.78
8开始执行，进程号为72496
7执行完成，耗时0.84
9开始执行，进程号为72495
6执行完成，耗时1.10
9执行完成，耗时0.61
8执行完成，耗时0.97
--------end---------

Process finished with exit code 0

multiprocessing.Pool常用函数解析:

1.apply_async(func[, args[, kwds]]) ：使用非阻塞方式调用func（并行执行，阻塞方式必须等待上一个进程退出才能执行下一个进程）

2.close()：关闭Pool，使其不再接受新的任务；

3.terminate()：不管任务是否完成，立即终止；

4.join()：主进程阻塞，等待子进程的退出，必须在close或terminate之后使用；

附加：

如果将apply_async换成apply，输出结果为：

0开始执行，进程号为72521
0执行完成，耗时0.97
1开始执行，进程号为72522
1执行完成，耗时0.23
2开始执行，进程号为72523
2执行完成，耗时0.68
3开始执行，进程号为72521
3执行完成，耗时0.19
4开始执行，进程号为72522
4执行完成，耗时0.16
5开始执行，进程号为72523
5执行完成，耗时0.86
6开始执行，进程号为72521
6执行完成，耗时0.01
7开始执行，进程号为72522
7执行完成，耗时1.50
8开始执行，进程号为72523
8执行完成，耗时1.62
9开始执行，进程号为72521
9执行完成，耗时1.09
-------start--------
--------end---------

说明了apply处在传入一个进程后，会将程序阻塞，不仅子进程只能阻塞执行，连主进程也被阻塞。

进程池中的Queue：使用multiprocessing.Manager()中的Queue()，而不是multiprocessing.Queue()

下面的实例演示了进程池中的进程如何通信：

# -*- coding: UTF-8 -*-
import multiprocessing
import random,threading,time,string,os
def write(q):
    print('write启动(%s)，父进程为(%s)'%(os.getpid(),os.getppid()))
    for i in 'python':
        q.put(i)
def read(q):
    print('read启动(%s)，父进程为(%s)'%(os.getpid(),os.getppid()))
    for i in range(q.qsize()):
        print('read从Queue获取到消息：%s'%q.get(True))
if __name__ == '__main__':
print("(%s) start" % os.getpid())
q=multiprocessing.Manager().Queue()
po=multiprocessing.Pool()
po.apply_async(write,args=(q,))
time.sleep(2)
po.apply_async(read,args=(q,))
po.close()
po.join()
print("(%s) end" % os.getpid())

输出结果：

(72502) start
write启动(72504)，父进程为(72502)
read启动(72505)，父进程为(72502)
read从Queue获取到消息：p
read从Queue获取到消息：y
read从Queue获取到消息：t
read从Queue获取到消息：h
read从Queue获取到消息：o
read从Queue获取到消息：n
(72502) end