国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

Python使用多進程運行含有任意個參數的函數

瀏覽:2日期:2022-07-26 16:07:44

1. 問題引出

許多時候,我們對程序的速度都是有要求的,速度自然是越快越好。對于Python的話,一般都是使用multiprocessing這個庫來實現程序的多進程化,例如:

我們有一個函數my_print,它的作用是打印我們的輸入:

def my_print(x):print(x)

但是我們嫌它的速度太慢了,因此我們要將這個程序多進程化:

from multiprocessing import Pool def my_print(x): print(x) if __name__ == '__main__': x = [1, 2, 3, 4, 5] pool = Pool() pool.map(my_print, x) pool.close() pool.join()

很好,現在速度與之前的單進程相比提升非常的快,但是問題來了,如果我們的參數不只有一個x,而是有多個,這樣能行嗎?比如現在my_print新增一個參數y:

def my_print(x, y):print(x + y)

查看pool.map的函數說明:

def map(self, func, iterable, chunksize=None): ’’’ Apply `func` to each element in `iterable`, collecting the results in a list that is returned. ’’’ return self._map_async(func, iterable, mapstar, chunksize).get()

發現函數的參數是作為iter傳進去的,但是我們現在有兩個參數,自然想到使用zip將參數進行打包:

if __name__ == '__main__': x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.map(my_print, zip_args) pool.close() pool.join()

可是執行后卻發現,y參數并沒有被傳進去:

Python使用多進程運行含有任意個參數的函數

那么如何傳入多個參數呢?這也就是本文的重點,接著往下看吧。

2. 解決方案

2.1 使用偏函數(partial)

偏函數有點像數學中的偏導數,可以讓我們只關注其中的某一個變量而不考慮其他變量的影響。上面的例子中,Y始終等于1,那么我們在傳入參數的時候,只需要考慮X的變化即可。

例如你有一個函數,該函數有兩個參數a,b,a是不同路徑的下的圖片的路徑,b是輸出的路徑。很明顯,a是一直在變化的,但是因為我們要將所有圖片保存在同一個文件夾下,那么b很可能一直都沒變。

具體如下:

if __name__ == ’__main__’:# 多線程,多參數,partial版本 x = [1, 2, 3, 4, 5] y = 1 partial_func = partial(my_print, y=y) pool = Pool() pool.map(partial_func, x) pool.close() pool.join()

2.2 使用可變參數

在Python函數中,函數可以定義可變參數。顧名思義,可變參數就是傳入的參數個數是可變的,可以是1個、2個到任意個,這就直接給我們提供了一種思路。具體如下:

def multi_wrapper(args): return my_print(*args) def my_print(x, y): print(x + y)if __name__ == '__main__': # 多線程,多參數,可變參數版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.map(multi_wrapper, zip_args) pool.close() pool.join()

2.3 使用pathos提供的多進程庫

from pathos.multiprocessing import ProcessingPool as newPool if __name__ == ’__main__’:# 多線程,多參數,pathos版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] pool = newPool() pool.map(my_print, x, y) pool.close() pool.join()

在該庫的map函數下,可以看到,它允許多參數輸入,其實也就是使用了可變參數:

def map(self, f, *args, **kwds): AbstractWorkerPool._AbstractWorkerPool__map(self, f, *args, **kwds) _pool = self._serve() return _pool.map(star(f), zip(*args)) # chunksize

2.4 使用starmap函數

if __name__ == ’__main__’: # 多線程,多參數,starmap版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.starmap(my_print, zip_args) pool.close() pool.join()

3. 總結

其實在以上4種實現方法中 ,第1種方法的限制較多,如果該函數的其它參數都在變化的話,那么它就不能很好地工作,而剩下的方法從體驗上來講是依次遞增的,它們都可以接受任意多參數的輸入,但是第2種需要額外寫一個函數,扣分;第3種方法需要額外安裝pathos包,扣分;而最后一種方法不需要任何額外不擇就可以完成,所以,推薦大家選擇第4種方法!

以上這篇Python使用多進程運行含有任意個參數的函數就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 特级片免费看 | 国产精品线在线精品 | 俄罗斯美女在线观看一区 | 成年免费大片黄在线观看一 | 国产精品久久久久久网站 | 国产精品久久久久久免费 | 国内精品不卡一区二区三区 | 国产成人久久精品一区二区三区 | 亚洲一区二区三区四区在线观看 | 俄罗斯极品美女毛片免费播放 | 经典国产乱子伦精品视频 | 欧美亚洲在线 | 国产日韩一区二区三区在线播放 | 俄罗斯一级毛片免费播放 | 久久精品男人的天堂 | 亚洲 欧美 在线观看 | 在线观看日本免费视频大片一区 | 亚洲欧美一区二区三区国产精品 | 手机看片77v1| 看色网站| 在线免费公开视频 | 一级成人毛片免费观看 | 成人精品视频在线 | 99久久综合精品国产 | 美女被免费网站视频软件 | 欧美日韩在线播一区二区三区 | 中文字幕一区二区在线视频 | 亚洲国产人成中文幕一级二级 | 欧美视频一区二区专区 | 国产精品欧美日韩一区二区 | 拍真实国产伦偷精品 | 日韩在线欧美在线 | 国产欧美日韩图片一区二区 | 久久一级黄色片 | 亚洲欧美日韩精品高清 | 成人免费网址在线 | 一级a毛片免费观看 | 国产乱色在线观看 | 国产精品毛片一区二区三区 | 91精品久久久久亚洲国产 | 欧美大尺度aaa级毛片 |