Вопросы по теме 'process-pool'

Как завершить длительные вычисления (задача, связанная с процессором) в Python с помощью asyncio и concurrent.futures.ProcessPoolExecutor?
Аналогичный вопрос (но ответ у меня не работает): Как отменить длительные подпроцессы, выполняющиеся с помощью concurrent.futures.ProcessPoolExecutor? В отличие от связанного выше вопроса и предоставленного решения, в моем случае само...
1966 просмотров

Параллельная обработка с ProcessPoolExecutor
У меня есть огромный список элементов, которые нужно как-то обработать. Я знаю, что это можно сделать с помощью Process из многопроцессорности: pr1 = Process(calculation_function, (args, )) pr1.start() pr1.join() и поэтому я могу создать,...
1384 просмотров
schedule 20.08.2022

Python concurrent.futures с использованием подпроцесса, запускающего несколько скриптов Python
Я хочу запустить несколько скриптов Python одновременно, используя concurrent.futures. Серийная версия моего кода ищет определенный файл python в папке и выполняет его. import re import os import glob import re from glob import glob import...
1449 просмотров

`multiprocessing.Pool.map()` кажется, неправильно расписан
У меня есть функция, которая запрашивает сервер, извлекает некоторые данные, обрабатывает их и сохраняет файл csv. Эта функция должна быть запущена 20k раз. Каждая казнь длится по-разному: иногда она длится более 20 минут, а иногда менее секунды. Я...
481 просмотров

Проблема в apply_async в многопроцессорном пуле
Я использую многопроцессорный пул в Python и его метод .apply_async() для одновременного запуска нескольких рабочих процессов. Но есть проблема из-за использования with вместо создания произвольного экземпляра. Вот что я сделал до сих пор:...
283 просмотров

Как передать 2d-массив как multiprocessing.Array в multiprocessing.Pool?
Моя цель - передать родительский массив mp.Pool и заполнить его 2 , распределяя его по разным процессам. Это работает для массивов 1 измерения: import numpy as np import multiprocessing as mp import itertools def worker_function(i=None):...
321 просмотров

Как правильно запоминать при использовании ProcessPoolExecutor?
Я подозреваю, что что-то вроде: @memoize def foo(): return something_expensive def main(): with ProcessPoolExecutor(10) as pool: futures = {pool.submit(foo, arg): arg for arg in args} for future in...
183 просмотров