ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

Eight---pytorch学习---广播机制(broadcast)

2022-08-13 19:32:20  阅读:133  来源: 互联网

标签:broadcast 14 32 torch 矩阵 --- pytorch 维度


pytorch学习(5)

广播机制(broadcast)

矩阵运算往往都是在两个维度相同或者相匹配(前面矩阵的列数等于后一个矩阵的行数)的矩阵之间定义的,广播机制亦是如此。在机器学习的某些算法中会出现两个维度不相同也不匹配的矩阵进行运算,那么这时候就需要广播机制来解决。

broadcast的两个特点

  • 能够进行相同维度的扩展,相当于expand,但是是自动扩展
  • 扩展时不需要拷贝数据,节约内存
  • 注意:broadcast并不时函数,而是在不同size的tensor之间进行加减操作会自动进行的一种机制

broadcast的主要思想

  • 依次从最后一个维度开始匹配,若前面没有维度则插入一个新的维度,size为1
  • 自动调用expand函数使得维度size相同
eg:
    Feature maps: [4,32,14,14]
    Bias: [32,1,1] => [1,32,1,1] => [4,32,14,14]
import torch

a = torch.rand(4,32,8) #创建一个三维的tensor
bias = torch.tensor(5) #创建一个标量
score = a + bias #通过broadcast进行转换进行运算

print(a.shape)
print(bias.shape)
print(score.shape)
-------------------------------------------------------
torch.Size([4, 32, 8])
torch.Size([])
torch.Size([4, 32, 8])

文章推荐

标签:broadcast,14,32,torch,矩阵,---,pytorch,维度
来源: https://www.cnblogs.com/311dih/p/16583855.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有