PyTorch固定随机数种子

转载请注明作者和出处： http://blog.csdn.net/john_bh/

1. 训练过程

在训练过程中，若相同的数据数据集，相同的训练集、测试集划分方式，相同的权重初始化，但是每次训练结果不同，可能有以下几个原因：

• Dropout的存在 ；
• PyTorch、Python、Numpy中的随机种子没有固定；
• 数据预处理、增强方式采用了概率，若没有设置固定的随机种子，结果可能不同。例如常用数据增强库albumentations就采用了Python的随机产生器；
• 训练数据集被随机打乱了顺序；
• 向上采样和插值函数/类的向后是不确定的(PyTorch的问题)

举个例子：

import numpy as np

def  no_set_seed():
    n = 0
    while (n < 3):
        n += 1
        print(np.random.random())

def set_seed():
    n = 0
    while (n < 3):
        np.random.seed(5)
        n += 1
        print(np.random.random(