标签：optimizer 函数 自定义 梯度 模型 torch pytorch 线性 解惑
pytorch线性回归函数解惑
定义模型
class LinearRegression(nn.Module):
在pytorch中，不管是自定义层、自定义块、自定义模型，都是通过继承Module类完成的。
在定义网络的时候，需要重新构建 _ init _ 和 forward 函数
损失函数
criterion = nn.MSELoss()
优化函数
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)
损失函数和优化函数都是类
训练模型
模型输入得是变量形式
inputs = Variable(torch.from_numpy(x_train))
targets = Variable(torch.from_numpy(y_train))
优化函数
optimizer.zero_grad() 梯度归零
每次反向传播之前都要归零梯度，否则梯度会累加在一起。
outputs = model(inputs) 前向传播
loss = criterion(outputs, targets) 优化函数
loss.backward()反向传播，自动求导每个参数的梯度
optimizer.step()更新参数，即新的权重值
验证环节
model.eval()将训练模式变为测试模式
标签：optimizer,函数,自定义,梯度,模型,torch,pytorch,线性,解惑 来源： https://blog.csdn.net/weixin_42914004/article/details/120587930
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。