線程池

假設我們必須多線程任務創建大量線程。 由於線程太多,因此可能會有很多性能問題,這在計算上會是最昂貴的。 一個主要問題可能是吞吐量受限。 我們可以通過創建一個線程池來解決這個問題。 一個線程池可以被定義爲一組預先實例化和空閒的線程,它們隨時可以開始工作。 創建線程池比我們需要執行大量任務時爲每個任務實例化新線程更受歡迎。 線程池可以管理大量線程的併發執行,如下所示 -

  • 如果線程池中的線程完成其執行,那麼該線程可以被重用。
  • 如果一個線程被終止,另一個線程將被創建以替換該線程。

Python模塊 - Concurrent.futures

Python標準庫包含concurrent.futures模塊。 這個模塊是在Python 3.2中添加的,爲開發人員提供了啓動異步任務的高級接口。 它是Python的線程和多處理模塊的頂層的一個抽象層,用於提供使用線程或進程池運行任務的接口。

在後面的章節中,我們將學習concurrent.futures模塊中的類。

執行者類

Executor是一個 Python concurrent.futures模塊的抽象類。 它不能直接使用,我們需要使用以下具體子類之一 -

  • ThreadPoolExecutor
  • ProcessPoolExecutor

ThreadPoolExecutor - 一個具體的子類
它是Executor類的具體子類之一。 子類使用多線程,我們得到一個提交任務的線程池。 該池將任務分配給可用線程並安排它們運行。

如何創建一個ThreadPoolExecutor?
concurrent.futures模塊及其具體子類Executor的幫助下,可以很容易地創建一個線程池。 需要使用我們想要的池中的線程數構造一個ThreadPoolExecutor。 默認情況下,數字是5。然後可以提交一個任務到線程池。 當submit()任務時,會返回Future對象。 Future對象有一個名爲done()的方法,它告訴Future是否已經解決。 有了這個,爲這個特定的Future對象設定了一個值。 當任務完成時,線程池執行器將該值設置爲Future的對象。

示例代碼 -

from concurrent.futures import ThreadPoolExecutor
from time import sleep
def task(message):
   sleep(2)
   return message

def main():
   executor = ThreadPoolExecutor(5)
   future = executor.submit(task, ("Completed"))
   print(future.done())
   sleep(2)
   print(future.done())
   print(future.result())
if __name__ == '__main__':
main()

執行上面示例代碼,得到以下結果 -

False
True
Completed

在上面的例子中,一個ThreadPoolExecutor已經由5個線程構造而成。 然後,在提供消息之前等待2秒的任務被提交給線程池執行器。 從輸出中可以看出,任務直到2秒才完成,所以第一次調用done()將返回False2秒後,任務完成,我們通過調用result()方法得到future的結果。

實例化ThreadPoolExecutor - 上下文管理器
另一種實例化ThreadPoolExecutor的方法是在上下文管理器的幫助下完成的。 它的工作方式與上例中使用的方法類似。 使用上下文管理器的主要優點是它在語法上看起來不錯。 實例化可以在下面的代碼的幫助下完成 -

with ThreadPoolExecutor(max_workers = 5) as executor

示例

以下示例是從Python文檔借用的。 在這個例子中,首先必須導入concurrent.futures模塊。 然後創建一個名爲load_url()的函數,它將加載請求的url。 然後該函數用池中的5個線程創建ThreadPoolExecutorThreadPoolExecutor已被用作上下文管理器。 我們可以通過調用result()方法來獲得future的結果。

import concurrent.futures
import urllib.request

URLS = ['http://www.foxnews.com/',
   'https://www.yiibai.com/',
   'http://europe.wsj.com/',
   'http://www.bbc.co.uk/',
   'http://some-made-up-domain.com/']

def load_url(url, timeout):
   with urllib.request.urlopen(url, timeout = timeout) as conn:
      return conn.read()

with concurrent.futures.ThreadPoolExecutor(max_workers = 5) as executor:

   future_to_url = {executor.submit(load_url, url, 60): url for url in URLS}
   for future in concurrent.futures.as_completed(future_to_url):
      url = future_to_url[future]
      try:
         data = future.result()
      except Exception as exc:
         print('%r generated an exception: %s' % (url, exc))
      else:
         print('%r page is %d bytes' % (url, len(data)))

以下將是上面的Python腳本的輸出 -

'http://some-made-up-domain.com/' generated an exception: <urlopen error [Errno 11004] getaddrinfo failed>
'http://www.foxnews.com/' page is 229313 bytes
'http://www.yiibai.com/' page is 168933 bytes
'http://www.bbc.co.uk/' page is 283893 bytes
'http://europe.wsj.com/' page is 938109 bytes

使用Executor.map()函數
Python map()函數廣泛用於許多任務。 一個這樣的任務是對可迭代內的每個元素應用某個函數。 同樣,可以將迭代器的所有元素映射到一個函數,並將這些作爲獨立作業提交到ThreadPoolExecutor之外。 考慮下面的Python腳本示例來理解函數的工作原理。

示例
在下面的示例中,map函數用於將square()函數應用於values數組中的每個值。

from concurrent.futures import ThreadPoolExecutor
from concurrent.futures import as_completed
values = [2,3,4,5]
def square(n):
   return n * n
def main():
   with ThreadPoolExecutor(max_workers = 3) as executor:
      results = executor.map(square, values)
      for result in results:
         print(result)
if __name__ == '__main__':
   main()

以下將是上面的Python腳本的輸出 -

4
9
16
25
0 條評論,你可以發表評論,我們會進行改進
Comment author placeholder