python_进程池以及线程池
2024-10-21 06:21:03
可以重复利用的线程
直接上代码
from threading import Thread, current_thread
from queue import Queue
# 重写线程类
class MyThread(Thread):
def __init__(self):
super().__init__()
self.daemon = True # 守护线程
self.queue = Queue(10)
self.start() # 实例化的时候开启线程 def run(self): # 子线程只有这一个线程, 从队列里面拿任务
while True:
task, args, kwargs = self.queue.get() # 拿任务 也是元组
task(*args, **kwargs) # 可能有,可能没有,所有传入不定长参数
self.queue.task_done() # 结束任务 def apply_async(self, func, args=(), kwargs={}): # 自写任务,不是重写任务, 充当生产者, 给线程提供任务(把任务扔到队列)
self.queue.put((func, args, kwargs)) def join_R(self): # 主线程等待子线程结束
self.queue.join() # task_done 为0 的时候就阻塞 def func():
print(1, current_thread()) def func2(*args, **kwargs):
print(2, current_thread())
print('func: ', args, kwargs) t = MyThread()
t.apply_async(func)
t.apply_async(func2, args=(1,2), kwargs={'a':1, 'b':2})
print("任务提交完成")
t.join_R()
print("任务完成")
结果:
任务提交完成
1 <MyThread(Thread-1, started daemon -1223214272)>
2 <MyThread(Thread-1, started daemon -1223214272)>
func: (1, 2) {'a': 1, 'b': 2}
任务完成 任务完成后,主线程就开始退出, 因此守护线程被杀死
线程池的简单实现
池的概念
主线程: 相当于生产者,只管向线程池提交任务。
并不关心线程池是如何执行任务的。
因此,并不关心是哪一个线程执行的这个任务。
线程池: 相当于消费者,负责接收任务,
并将任务分配到一个空闲的线程中去执行。
代码实现如下:
from threading import Thread, current_thread
from queue import Queue class T_pool:
def __init__(self, n): # 准备多少个池
super().__init__()
self.queue = Queue()
for i in range(n): # 在池里开多少个线程
Thread(target=self.fun, daemon=Thread).start() # 守护进程 并启动 def fun(self): # 生产者
while True:
task = self.queue.get()
task()
self.queue.task_done() def apply_async(self, task): # 消费者
self.queue.put(task) def join(self):
self.queue.join() def func():
print(current_thread()) def func2():
print(current_thread()) p = T_pool(2)
p.apply_async(func)
p.apply_async(func2)
p.join()
结果:
<Thread(Thread-1, started daemon -1223324864)>
<Thread(Thread-1, started daemon -1223324864)>
Python自带的池
内置线程池
from multiprocessing.pool import ThreadPool # 线程池
from multiprocessing import pool # 进程池
# 内置线程池
def fun(*args, **kwargs):
print(args, kwargs) p = ThreadPool(2) # 直接使用内置的
p.apply_async(fun, args=(1,2), kwds={'a':1})
p.close() # 要求:在join前必须要close,这样就不允许再提交任务了
p.join()
结果:
(1, 2) {'a': 1}
内置进程池
from multiprocessing import Pool # 进程池
# 内置进程池
def fun(*args, **kwargs):
print(args, kwargs) if __name__ == '__main__': # 必须要有一个main测试
p = Pool(2) # pool的实例化必须在main测试之下
p.apply_async(fun, args=(1,2), kwds={'a':1})
p.close() # 要求:在join前必须要close,这样就不允许再提交任务了
p.join()
结果:
(1, 2) {'a': 1}
池的其他操作
操作一: close - 关闭提交通道,不允许再提交任务
操作二: terminate - 中止进程池,中止所有任务
操作三: 结果操作
结果操作
from multiprocessing.pool import ThreadPool
import time
def func(n):
if n == 1:
return 1
elif n == 2:
return 2
return func(n-1) + func(n-2) pool = ThreadPool() a_result = pool.apply_async(func, args=(35,))
print("note1:",time.asctime(time.localtime(time.time())))
result = a_result.get() # 会阻塞,知道结果产生了
print("note2:",time.asctime(time.localtime(time.time())))
结果:
note1: Mon Sep 17 00:07:31 2018
note2: Mon Sep 17 00:07:34 2018
使用池来实现并发服务器
使用线程池来实现并发服务器
import socket
from multiprocessing.pool import ThreadPool # 线程池
from multiprocessing import Pool, cpu_count
'''
使用线程池来实现
并发服务器
'''
print(cpu_count()) server = socket.socket()
server.bind(('0.0.0.0', 8080))
server.listen(1000) def work_thread(conn):
while True:
data = conn.recv(1000)
if data:
print(data)
conn.send(data) else:
conn.close()
break if __name__ == '__main__': t_pool = ThreadPool(5) # 使用线程池, 通常分配2倍的cpu个数
while True:
conn,addr = server.accept()
t_pool.apply_async(work_thread, args=(conn,)) # 接收的是个任务, conn做为参数
使用进程池来实现并发服务器
import socket
from multiprocessing.pool import ThreadPool # 线程池
from multiprocessing import Pool, cpu_count
'''
使用进程池来实现
并发服务器
'''
print(cpu_count()) server = socket.socket()
server.bind(('0.0.0.0', 9000))
server.listen(1000) def work_process(server):
t_pool = ThreadPool(cpu_count()*2) # 使用线程池, 通常分配2倍的cpu个数
while True:
conn,addr = server.accept()
t_pool.apply_async(work_thread, args=(conn,)) # 接收的是个任务, conn做为参数 def work_thread(conn):
while True:
data = conn.recv(1000)
if data:
print(data)
conn.send(data) else:
conn.close()
break n = cpu_count() # 获取当前计算机的CPU核心数量
p = Pool(n)
for i in range(n): # 充分利用CPU, 为每个CPU分配一个进程
p.apply_async(work_process, args=(server,)) p.close()
p.join()
客户端:
import socket click = socket.socket()
click.connect(('127.0.0.1', 8888)) while True:
data = input("请输入你要发送的数据:")
click.send(data.encode())
print("接收到的消息: {}".format(click.recv(1024).decode()))
总结完毕。
作者:含笑半步颠√
博客链接:https://www.cnblogs.com/lixy-88428977
声明:本文为博主学习感悟总结,水平有限,如果不当,欢迎指正。如果您认为还不错,欢迎转载。转载与引用请注明作者及出处。
最新文章
- codevs2178 表达式运算Cuties[笛卡尔树]
- visio取消自动粘附
- C#给DataTable添加序号、C#给DataTable添加合计、小计
- ios 使用autolayout 后button 的frame 无法设置问题!
- LoadRunner字符串与参数的操作及转换技巧
- hdu 5273 Dylans loves sequence 逆序数简单递推
- Android控件属性大全[整理转载]
- linux下使用非root账号安装zabbix-client
- Win8开发疑问与解答
- WPF 完美截图 <;一>;
- bzoj1044[HAOI2008]木棍分割 单调队列优化dp
- 使用RESTful风格开发Java Web
- VC工程产生文件后缀名解释
- ping命令返回的TTL值判断操作系统
- 陌上花开——CDQ分治
- 根据wsdl,axis2工具生成客户端代码
- AIX5L内存监控和调整
- maven编译,控制台中文乱码解决方案
- 【LeetCode】135. Candy
- 把bootstrap4 dropdown 的导航下拉菜单触发方式改为鼠标浮动触发