在windows尝试python multiprocessing时出现RuntimeError

我正在尝试我的第一个正式的python程序使用线程和多处理在windows机器上。但是我无法启动进程，python给出以下消息。问题是，我没有在主模块中启动线程。线程在类中的单独模块中处理。

编辑:顺便说一下，这段代码在ubuntu上运行良好。不完全是在窗户上

RuntimeError: 
            Attempt to start a new process before the current process
            has finished its bootstrapping phase.
            This probably means that you are on Windows and you have
            forgotten to use the proper idiom in the main module:
                if __name__ == '__main__':
                    freeze_support()
                    ...
            The "freeze_support()" line can be omitted if the program
            is not going to be frozen to produce a Windows executable.

我的原始代码相当长，但我能够在代码的删节版本中重现错误。它分为两个文件，第一个是主模块，除了导入处理进程/线程和调用方法的模块外，它做的很少。第二个模块是代码的主要部分。

testMain.py:

import parallelTestModule

extractor = parallelTestModule.ParallelExtractor()
extractor.runInParallel(numProcesses=2, numThreads=4)

parallelTestModule.py:

import multiprocessing
from multiprocessing import Process
import threading

class ThreadRunner(threading.Thread):
    """ This class represents a single instance of a running thread"""
    def __init__(self, name):
        threading.Thread.__init__(self)
        self.name = name
    def run(self):
        print self.name,'\n'

class ProcessRunner:
    """ This class represents a single instance of a running process """
    def runp(self, pid, numThreads):
        mythreads = []
        for tid in range(numThreads):
            name = "Proc-"+str(pid)+"-Thread-"+str(tid)
            th = ThreadRunner(name)
            mythreads.append(th) 
        for i in mythreads:
            i.start()
        for i in mythreads:
            i.join()

class ParallelExtractor:    
    def runInParallel(self, numProcesses, numThreads):
        myprocs = []
        prunner = ProcessRunner()
        for pid in range(numProcesses):
            pr = Process(target=prunner.runp, args=(pid, numThreads)) 
            myprocs.append(pr) 
#        if __name__ == 'parallelTestModule':    #This didnt work
#        if __name__ == '__main__':              #This obviously doesnt work
#        multiprocessing.freeze_support()        #added after seeing error to no avail
        for i in myprocs:
            i.start()

        for i in myprocs:
            i.join()

当前回答

我在下面这段非常简单的代码中尝试了上面提到的技巧。但我仍然无法阻止它在任何使用Python 3.8/3.10的windows机器上重置。如果你能告诉我哪里错了，我将非常感激。

print('script reset')

def do_something(inp):
    print('Done!')

if __name__ == '__main__':
    from multiprocessing import Process, get_start_method
    print('main reset')
    print(get_start_method())
    Process(target=do_something, args=[1]).start()
    print('Finished')

输出显示:

script reset
main reset
spawn
Finished
script reset
Done!

更新:

据我所知，你们并没有阻止包含__main__或.start()的脚本重置(这在Linux中不会发生)，而是建议解决方案，这样我们就不会看到重置。我们必须尽量减少所有的导入，并将它们分别放在每个函数中，但相对于Linux，它仍然很慢。

2022-11-02 03:06:03

其他回答

我也遇到了同样的问题。@ofter方法是正确的，因为有一些细节需要注意。以下是我修改成功的调试代码，请参考:


if __name__ == '__main__':
    import matplotlib.pyplot as plt
    import numpy as np
    def imgshow(img):
        img = img / 2 + 0.5
        np_img = img.numpy()
        plt.imshow(np.transpose(np_img, (1, 2, 0)))
        plt.show()

    dataiter = iter(train_loader)
    images, labels = dataiter.next()

    imgshow(torchvision.utils.make_grid(images))
    print(' '.join('%5s' % classes[labels[i]] for i in range(4)))

声明一下，我没有子程序，我只有一个主程序，但我遇到了和你一样的问题。这表明当在程序段中间导入Python库文件时，我们应该添加:

if __name__ == '__main__':

2022-05-16 03:34:51

正如@Ofer所说，当你使用其他库或模块时，你应该在if __name__ == '__main__'中导入它们:

所以，在我的例子中，结尾是这样的:

if __name__ == '__main__':       
    import librosa
    import os
    import pandas as pd
    run_my_program()

2019-12-19 05:32:19

虽然前面的答案是正确的，但有一个小问题需要说明。

如果你的主模块导入了另一个模块，其中的全局变量或类成员变量被定义并初始化为(或使用)一些新对象，你可能必须以相同的方式设置导入条件:

if __name__ ==  '__main__':
  import my_module

2016-07-13 07:20:55

你好，这是我的多进程结构

from multiprocessing import Process
import time


start = time.perf_counter()


def do_something(time_for_sleep):
    print(f'Sleeping {time_for_sleep} second...')
    time.sleep(time_for_sleep)
    print('Done Sleeping...')



p1 = Process(target=do_something, args=[1])
p2 = Process(target=do_something, args=[2])


if __name__ == '__main__':
    p1.start()
    p2.start()

    p1.join()
    p2.join()

    finish = time.perf_counter()
    print(f'Finished in {round(finish-start,2 )} second(s)')

你不必在if __name__ == '__main__':中导入，只需运行你希望在里面运行的程序

2020-08-25 22:52:12

print('script reset')

def do_something(inp):
    print('Done!')

if __name__ == '__main__':
    from multiprocessing import Process, get_start_method
    print('main reset')
    print(get_start_method())
    Process(target=do_something, args=[1]).start()
    print('Finished')

输出显示:

script reset
main reset
spawn
Finished
script reset
Done!

更新:

2022-11-02 03:06:03

在windows尝试python multiprocessing时出现RuntimeError

推荐文章

最新文章

标签