标签：入门 神经网络 损失 传播 pytorch 反向 import

1.pytorch的基本概念（Tensor和Variable)、自动微分和pyTorch的核心模块。

张量可以理解为一个多维数组，类似于Numpy 中的ndarray对象。

2.三维张量形如[W;H;C] [weight,height,channel]

3.四维张量形如[N,W,H,C] [batch,weight,height,channel]

from PIL import Image
import numpy as np
import torch
import matplotlib.pyplot as plt
pytorch=np.array(Image.open("panda.jpg").resize((224,224)))
print(pytorch.shape)
pytorch_tensor=torch.from_numpy(pytorch)
pytorch_tensor.size()
plt.imshow(pytorch)

5.神经网络计算优化的过程大体上可以分为前向传播计算损失和反向传播更新梯度。

6.pytorch可以自动微分更新梯度计算

7.reguires_grad默认是False,这个属性在迁移学习中进行模型微调的时候特别有用，因为在迁移学习中我们需要冻结好学习好的参数，而对于需要微调的参数则指定reguires_grad=True。

8.Pytorch中的Tensor对标的是Numpy科学计算库。

9.神经网络前向传播就是一层一层往下计算的意思。

10.神经网络的反向传播是指前向传播完后会得到一个输出结果向量a,通过与真实数据标签y进行对比可以构建损失函数，如常见的均方误差（MSE）损失，由损失函数反向对各层w和b进行求偏导数，进而更新权重参数w和b,完成训练和优化。

标签：入门,神经网络,损失,传播,pytorch,反向,import
来源： https://blog.csdn.net/ylycrp/article/details/122759860

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。