日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

Python中運行并行任務技巧

系統 1780 0

示例

標準線程多進程,生產者/消費者示例:
Worker越多,問題越大

復制代碼 代碼如下:

# -*- coding: utf8 -*-

import os
import time
import Queue
import threading
from PIL import Image

def create_thumbnail(filename, size=(128, 128)):
??? try:
??????? fp, fmt = filename.rsplit('.', 1)
??????? im = Image.open(filename)
??????? im.thumbnail(size, Image.ANTIALIAS)
??????? im.save((fp + '_'+'x'.join(str(i) for i in size) + '.'+fmt), im.format)
??????? return '%s thumbnail success!' % filename
??? except Exception:
??????? return '%s thumbnail failed!' % filename


def get_image_paths(folder):
??? return [os.path.join(folder, f) for f in os.listdir(folder) if 'png' in f]


class Consumer(threading.Thread):
??? def __init__(self, queue):
??????? threading.Thread.__init__(self)
??????? self._queue = queue

??? def run(self):
??????? while True:
??????????? content = self._queue.get()
??????????? if isinstance(content, str) and content == 'quit':
??????????????? break
??????????? respone = create_thumbnail(content)
??????? print 'Bye bye!'


def Producer():
??? filenames = get_image_paths('images')
??? queue = Queue.Queue()
??? worker_threads = build_worker_pool(queue, 4)
??? start_time = time.time()

??? for filename in filenames:
??????? queue.put(filename)
??? for worker in worker_threads:
??????? queue.put('quit')
??? for worker in worker_threads:
??????? worker.join()

??? print time.time() - start_time


def build_worker_pool(queue, size):
??? workers = []
??? for _ in range(size):
??????? worker = Consumer(queue)
??????? worker.start()
??????? workers.append(worker)
??? return workers


if __name__ == '__main__':
??? Producer()

map

Map能夠處理集合按順序遍歷,最終將調用產生的結果保存在一個簡單的集合當中。

Python中運行并行任務技巧_第1張圖片

復制代碼 代碼如下:

# -*- coding: utf8 -*-

import os
import time
from multiprocessing import Pool
from PIL import Image

def create_thumbnail(filename, size=(128, 128)):
??? try:
??????? fp, fmt = filename.rsplit('.', 1)
??????? im = Image.open(filename)
??????? im.thumbnail(size, Image.ANTIALIAS)
??????? im.save((fp + '_'+'x'.join(str(i) for i in size) + '.'+fmt), im.format)
??????? return '%s thumbnail success!' % filename
??? except Exception:
??????? return '%s thumbnail failed!' % filename


def get_image_paths(folder):
??? return [os.path.join(folder, f) for f in os.listdir(folder) if 'png' in f]


def main():
??? filenames = get_image_paths('images')
??? start_time = time.time()
???
??? pool = Pool(4)
??? pool.map(create_thumbnail, filenames)
??? pool.close()
??? pool.join()

??? print time.time() - start_time


if __name__ == '__main__':
??? main()


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 乳山市| 新兴县| 宾川县| 曲松县| 西乌珠穆沁旗| 罗城| 商河县| 石台县| 河池市| 汉川市| 开平市| 黎川县| 天津市| 余庆县| 三门县| 福贡县| 清水河县| 吴旗县| 宜丰县| 富民县| 原平市| 江津市| 黄大仙区| 垦利县| 水城县| 深泽县| 饶河县| 韶关市| 兴仁县| 阿合奇县| 娄烦县| 伊川县| 衡南县| 娄底市| 常宁市| 大宁县| 疏勒县| 璧山县| 温州市| 西城区| 普宁市|