对pytorch的训练参数进行定点量化:
PS:只是模拟FPGA实现时的定点数量化计算过程(不支持反向传播训练)…
哪个大佬有好的量化方案,求给个连接,官网的pytorch量化训练教程看不懂,以后看懂了再更吧
1.建立模型
建立一个含有两个线性层的模型
import torch
import numpy as np
import torch.nn as nn
class FC(nn.Module):
def __init__(self, input_dim,hid_dim):
super().__init__()
self.fc1 = nn.Linear(input_dim, hid_dim)
self.fc2 = nn.Linear(input_dim, hid_dim)
def forward(self, input)

本文介绍了如何在PyTorch中对模型参数进行定点量化,以模拟FPGA实现时的计算过程。首先,建立了一个包含两个线性层的简单模型,然后查看并展示了模型的参数。接着,提供了两个转换公式,t1用于12位定点量化,t2用于2的幂次方量化。通过这两个函数,分别对fc1和fc2层的权重进行了量化处理。这有助于理解模型量化的基本步骤,尽管不支持反向传播训练。
:&spm=1001.2101.3001.5002&articleId=108905109&d=1&t=3&u=a3d8921daa8c4ad5a398a48de96a14c1)
2315

被折叠的 条评论
为什么被折叠?



