dir函数 dir()函数，可以让我们知道一个包里有什么py文件 import torch dir(torch) 输出： ['AVG', 'AggregationType', 'AliasDb', 'AnyType', 'Argument', 'ArgumentSpec', 'BFloat16Storage', 'BFloat16Tensor
本文为矩池云入门手册的补充：Pytorch训练MNIST数据集代码运行过程。 案例代码和对应数据集，以及在矩池云上的详细操作可以在矩池云入门手册中查看，本文基于矩池云入门手册，默认用户已经完成了机器租用，上传解压好了数据、代码，并使用jupyter lab进行代码运行。 在MATPool矩池云完成Pytor
Line_Model import torch import torch.nn as nn import math import random import numpy as np # 计算线性回归模型 梯度 def Cal_SGD_Linear(x, pred, label, lr, k, bias=0): g = 0 for (idx, item) in enumerate(pred): g += (item - label[idx]) * x[idx]
前言 这是学习视频中留下来的一个作业，我决定根据大佬的步骤来一步一步完成整个项目，项目的下载地址如下：https://www.kaggle.com/c/titanic/data 大佬的传送门：https://zhuanlan.zhihu.com/p/338974416 查看数据 首先我们打开训练集，看到的数据如下 我们可以看到这个数据集里面的特征
参考：https://blog.csdn.net/qq_38253797/article/details/116847588 import torch import torch.nn as nn import torch.nn.functional as F import numpy as np def _bn(): _batch = torch.randn(3, 4, 5, 5) aa = [] bb = [] for c in range(4):
原文：https://www.jianshu.com/p/5ae644748f21 要介绍Tensor这个数据类型，我觉得有必要扯一下数学。 我们都知道： 标量（Scalar）是只有大小，没有方向的量，如1，2，3等 向量（Vector）是有大小和方向的量，其实就是一串数字，如(1,2) 矩阵（Matrix）是好几个向量拍成一排合并而成的一堆数字，如[1,2;3,4]
1. 二维矩阵乘法 , 其中 , , 输出 的维度是。该函数一般只用来计算两个二维矩阵的矩阵乘法，而且不支持broadcast操作。 2. 三维带Batch矩阵乘法 由于神经网络训练一般采用mini-batch，经常输入的是三维带batch矩阵，所以提供 ,其中 , , 输出 的维度是 。该函数的两个
asr_model encoder input： speech（16，80，183）# 183属于batch中最大元素决定 speech_length text （16，6）# 6由batch最大值决定 text_length make_pad_mask mask ：（16,183） subsampling input(speech,mask) conv(speech) torch.nn.Conv2d(1, odim, 3, 2), torch.nn.ReLU(), torch.nn
使用PIL读取RBG图片 from PIL import Image image=Image.open("./xxx.png") #读取图片 img_data = np.array(image) #将图片转换为np对象 （此时img_data的大小为 [H,W,3]，其中W为图片的宽，H为图片的高，3为RGB通道数） 将三维的RGB图片增加一维成四维 为什么要增加成四维呢？ 因为p
torch.take() 把张量化为一个行向量，取其中的元素 广播机制中0维和1维的轴是可广播的 矩阵相乘 *和torch.mul()是对应位置相乘 @和torch.mm()是矩阵相乘 torch.bmm()相比mm增加了batch运算但不能广播 torch.matmul()相比bmm更是增加了广播，泛用性强 torch.full([3,3],10) 将数字10
视频指导：https://www.bilibili.com/video/BV1Y7411d7Ys?p=6 一些数据集 在pytorch框架下，里面面有配套的数据集，pytorch里面有一个torchversion的包，他可以提供相应的，比如MNIST这种很基础的数据集，但是安装的时候这些数据集不会包含在包里面，所以需要下载，具体代码以及解释如下： import t
LeNet 由 Yann LeCun 发明的著名的 LeNet. 原版中激活函数用的都是 $\mathrm{sigmoid}$, 现在看来用 $\mathrm{ReLU}$ 或 $\mathrm{tanh}$ 也许会更合适. Fashion - mnist 数据集的识别 数据下载 def gener(): trans = transforms.ToTensor() mnist_train =
Pytorch学习二阶段 一、自动求导 训练神经网络包含两步： 前向传播 后向传播：后向传播中，NN将调整他的参数，并通过loss_function来自计算误差，并通过优化器来优化参数。 import torch, torchvision model = torchvision.models.resnet18(pretrained=True) data = torch.rand(1, 3, 64,
https://blog.csdn.net/weixin_37935970/article/details/123238677 pip install transformers==3.0.2 pip install torch==1.3.1 pip install huggingface_hub tokenizer = torch.hub.load('huggingface/pytorch-transformers', 'tokenizer', 'be
repeat可以完成指定维度上的复制 import torch a = torch.randn(3, 2) a tensor([[ 1.4169, 0.2761], [ 1.2145, -2.0269], [ 1.1322, -0.7117]]) b = a.repeat(1,2) b,b.size() (tensor([[ 1.4169, 0.2761, 1.4169, 0.2761], [ 1.2145,
RuntimeError: CUDA error: no kernel image is available for execution on the device 安装适用于GeForce RTX 3090显卡的pytorch 卸载当前版本的pytorch, 重新按照以下安装 pip uninstall torch pip install torch==1.7.0+cu110 torchvision==0.8.1+cu110 torchaudio===0.7.0
来源 https://zhuanlan.zhihu.com/p/32190799 今天在看文档的时候，发现pytorch 的conv操作不是很明白，于是有了一下记录 首先提出两个问题： 1.输入图片是单通道情况下的filters是如何操作的？ 即一通道卷积核卷积过程 2.输入图片是多通道情况下的filters是如何操作的？ 即多通道多个
随机梯度下降法 $\theta_{t} \leftarrow \theta_{t-1}-\alpha g_{t}$ Code： optimzer = torch.optim.SGD(model.parameters(),lr = 0.001) 权重衰减 $\theta_{t} \leftarrow(1-\beta) \theta_{t-1}-\alpha \mathbf{g}_{t}$ 其中 $\mathrm{g}_{t}$ 为第
问题起因：笔者想把别人的torch的代码复制到笔者的代码框架下，从而引起的显存爆炸问题 该bug在困扰了笔者三天的情况下，和学长一同解决了该bug，故在此记录这次艰辛的debug之路。 尝试思路1：检查是否存在保留loss的情况下是否使用了 item() 取值，经检查，并没有 尝试思路2：按照网上的说法，添
import torch from torchvision import transforms toPIL = transforms.ToPILImage() #这个函数可以将张量转为PIL图片，由小数转为0-255之间的像素值 img = torch.randn(3,128,64) pic = toPIL(img) pic.save('random.jpg') 注意transforms.ToPILImage()的参数格式： 将形状为 C
import torch x = torch.tensor([3.0]) y = torch.tensor([2.0]) print(x + y, x * y, x/y, x**y) import torch x = torch.arange(4) print(x) # 可以将向量视为标量值组成的列表 print(x[3]) # 通过张量的索引来访问任一元素 print(len(x)) # 访问张量的
torch.flatten() torch.flatten(x) 等于 torch.flatten(x，0) 默认将张量拉成一维的向量，也就是说从第一维开始平坦化，torch.flatten(x，1) 代表从第二维开始平坦化。 Example： import torch x=torch.randn(2,4,2) print(x) z=torch.flatten(x) print(z) w=torch.flatten(x,1)
1、import from numpy / list 方法：torch.from_numpy(ndarray) 常见的初始化有torch.tensor和torch.Tensor 区别： tensor()：通过numpy 或 list 的现有数据初始化 Tensor()： 1、接收数据的维度（，）shape 2、接收现有的数据[,] Example： a = n
Import from numpy a = np.array([2, 3.3]) b = torch.from_numpy(a) a = np.ones([2, 3]) b = torch.from_numpy(a) Import from list # 接受data torch.tensor([2., 3.2]) torch.FloatTensor([2., 3.2]) # 接受shape torch.FloatTensor(2, 3) # 记得初始化! ra
问题1：conda使用clone克隆的环境，pip的torch不能进行修改版本 torch使用的是pip安装的，不能通过conda create -n new-envs --clone old-envs复制到新的环境。可以通过以下的代码查看torch的安装路径，发现新的环境和旧环境下的torch的安装路径一致。导致在一个环境下修改torch版本，老
