国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術(shù)文章
文章詳情頁

python 進(jìn)程池pool使用詳解

瀏覽:4日期:2022-07-08 10:27:34

和選用線程池來關(guān)系多線程類似,當(dāng)程序中設(shè)置到多進(jìn)程編程時,Python 提供了更好的管理多個進(jìn)程的方式,就是使用進(jìn)程池。

在利用 Python 進(jìn)行系統(tǒng)管理的時候,特別是同時操作多個文件目錄,或者遠(yuǎn)程控制多臺主機,并行操作可以節(jié)約大量的時間。

當(dāng)被操作對象數(shù)目不大時,可以直接利用 multiprocessing 中的 Process 動態(tài)生成多個進(jìn)程,十幾個還好,但如果是上百個,上千個目標(biāo),手動的去限制進(jìn)程數(shù)量卻又太過繁瑣,此時可以發(fā)揮進(jìn)程池的功效。

Pool可以提供指定數(shù)量的進(jìn)程供用戶調(diào)用,當(dāng)有新的請求提交到 pool 中時,如果進(jìn)程池還沒有滿,那么就會創(chuàng)建一個新的進(jìn)程用來執(zhí)行該請求;但如果池中的進(jìn)程數(shù)已經(jīng)達(dá)到規(guī)定最大值,那么該請求就會等待,直到池中有進(jìn)程結(jié)束,才會創(chuàng)建新的進(jìn)程來它。

Python multiprocessing 模塊提供了 Pool() 函數(shù),專門用來創(chuàng)建一個進(jìn)程池,該函數(shù)的語法格式如下:

multiprocessing.Pool( processes )

其中,processes 參數(shù)用于指定該進(jìn)程池中包含的進(jìn)程數(shù)。

如果進(jìn)程是 None,則默認(rèn)使用 os.cpu_count() 返回的數(shù)字(根據(jù)本地的 cpu 個數(shù)決定,processes 小于等于本地的 cpu 個數(shù))。

請看下面的實例:

from multiprocessing import Poolimport osimport timeimport randomdef worker(msg): t_start = time.time() print('%s開始執(zhí)行,進(jìn)程號為%d' % (msg, os.getpid())) # random.random()隨機生成0~1之間的浮點數(shù) time.sleep(random.random()*2) t_stop = time.time() print(msg, '執(zhí)行完畢,耗時%0.2f' % (t_stop-t_start))if __name__ == '__main__': po = Pool(3) # 定義一個進(jìn)程池,最大進(jìn)程數(shù)3 for i in range(0, 8): # Pool().apply_async(要調(diào)用的目標(biāo),(傳遞給目標(biāo)的參數(shù)元祖,)) # 每次循環(huán)將會用空閑出來的子進(jìn)程去調(diào)用目標(biāo) po.apply_async(worker, (i,)) print('----start----') # 關(guān)閉進(jìn)程池,關(guān)閉后po不再接收新的請求 po.close() # 等待po中所有子進(jìn)程執(zhí)行完成,必須放在close語句之后 po.join() print('-----end-----')

運行結(jié)果:

python 進(jìn)程池pool使用詳解

multiprocessing.Pool 常用方法說明

apply_async(func[, args[, kwds]]) :使用非阻塞方式調(diào)用 func(并行執(zhí)行,堵塞方式必須等待上一個進(jìn)程退出才能執(zhí)行下一個進(jìn)程),args 為傳遞給 func 的參數(shù)列表,kwds 為傳遞給 func 的關(guān)鍵字參數(shù)列表。

close():關(guān)閉 Pool,使其不再接受新的任務(wù)。

terminate():不管任務(wù)是否完成,立即終止。

join():主進(jìn)程阻塞,等待子進(jìn)程的退出, 必須在 close 或 terminate 之后使用。

進(jìn)程池中的 Queue

如果要使用 Pool 創(chuàng)建進(jìn)程,就需要使用 multiprocessing.Manager() 中的 Queue(),而不是 multiprocessing.Queue(),否則會得到一條如下的錯誤信息:

RuntimeError: Queue objects should only be shared between processes through inheritance.

下面的實例演示了進(jìn)程池中的進(jìn)程如何通信:

from multiprocessing import Manager, Poolimport osimport timeimport randomdef writer(q): print('writer啟動(%s),父進(jìn)程為(%s)' % (os.getpid(), os.getppid())) for i in 'xiaoming': q.put(i)def reader(q): print('reader啟動(%s),父進(jìn)程為(%s)' % (os.getpid(), os.getppid())) for i in range(q.qsize()): print('reader從Queue獲取到消息:%s' % q.get(True))if __name__ == '__main__': print('(%s) start' % os.getpid()) # 使用Manager中的Queue q = Manager().Queue() po = Pool() po.apply_async(writer, (q,)) # 先讓上面的任務(wù)向Queue存入數(shù)據(jù),然后再讓下面的任務(wù)開始從中取數(shù)據(jù) time.sleep(1) po.apply_async(reader, (q,)) po.close() po.join() print('(%s) End' % os.getpid())

運行結(jié)果:

(17528) startwriter啟動(2216),父進(jìn)程為(17528)reader啟動(2216),父進(jìn)程為(17528)reader從Queue獲取到消息:xreader從Queue獲取到消息:ireader從Queue獲取到消息:areader從Queue獲取到消息:oreader從Queue獲取到消息:mreader從Queue獲取到消息:ireader從Queue獲取到消息:nreader從Queue獲取到消息:g(17528) End

以上就是python 進(jìn)程池pool使用詳解的詳細(xì)內(nèi)容,更多關(guān)于python 進(jìn)程池pool的資料請關(guān)注好吧啦網(wǎng)其它相關(guān)文章!

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: a毛片免费全部播放完整成 a毛片免费全部在线播放毛 | 亚洲一区 在线播放 | 欧美做a一级视频免费观看 欧美做爱毛片 | 欧美在线亚洲 | 美女亚洲综合 | 5388国产亚洲欧美在线观看 | 在线免费国产 | 一个人看的免费高清视频日本 | 青青青免费手机版视频在线观看 | a一级爱做片免费 | 欧美精品一区二区三区免费 | 免费看欧美一级特黄a毛片 免费看片aⅴ免费大片 | 手机在线亚洲 | 情侣自拍啪啪 | 成人国产一区二区三区精品 | 91成人免费 | 黄色免费在线观看视频 | 鲁老汉精品视频在线观看 | 亚洲系列在线 | 一级片免费的 | 亚洲精品手机在线观看 | 97免费视频在线 | 国产高清视频在线观看 | 自拍三级视频 | 国产黄a三级三级三级 | 国产精品国色综合久久 | 成人欧美日韩高清不卡 | 亚洲自拍成人 | 本道久久综合88全国最大色 | 亚洲欧美日韩精品久久 | 欧美一级看片a免费观看 | 亚洲ay| 国产午夜毛片v一区二区三区 | 欧美日韩精品在线视频 | 国产精品夜色视频一级区 | 免看一级a毛片一片成人不卡 | 国产亚洲一区二区三区不卡 | 欧美一区二区三区免费看 | 日韩麻豆| 国产第二页| 日本aaaa级 |