pytorch1.1.0和1.3.1的版本之间一个小差异(torch.mean(output, axis=1))

最新推荐文章于 2026-06-19 09:45:07 发布

原创最新推荐文章于 2026-06-19 09:45:07 发布 · 1.2k 阅读

1 ·

本内容遵循CC 4.0 BY-SA版权协议

收录于

深度学习专栏收录该内容

255 篇文章

订阅专栏

博客提及了PyTorch 1.3.1，还指出PyTorch 1.1.0若使用相关代码需进行修改，体现了不同版本PyTorch在代码使用上存在差异。

pytorch1.3.1:

def compactness_loss(output):
    # dim: (batch, vector)
    _, n = output.size()
    avg = torch.mean(output, axis=1)
    std = torch.std(output, axis=1)
    zt = output.T - avg
    zt /= std
    corr = torch.matmul(zt.T, zt) / (n - 1)
    loss = torch.sum(torch.triu(corr, diagonal=1)**2)
    return loss

但是pytorch1.1.0如果想使用上述代码只能改成:

def compactness_loss(output):
    # dim: (batch, vector)
    _, n = output.size()

    avg = torch.mean(output, dim=1)
    std = torch.std(output, dim=1)
    #zt = output.T - avg
    zt = output.t() - avg
    zt /= std
    #corr = torch.matmul(zt.T, zt) / (n - 1)
    corr = torch.matmul(zt.t(), zt) / (n - 1)
    loss = torch.sum(torch.triu(corr, diagonal=1)**2)
    return loss