ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

BatchN

2022-02-08 15:34:20  阅读:185  来源: 互联网

标签:obser torch BatchN cuda m3 var input


from torch import nn
import torch

torch.manual_seed(21)
input = torch.randn(1,3,3,3).cuda()
input[0][0] = 0
m3 = nn.BatchNorm2d(3, eps=0, momentum=0.5, affine=True, track_running_stats=True).cuda()
m3.running_mean = (torch.ones([3])*4).cuda()     # 设置模型的均值是4
m3.running_var = (torch.ones([3])*2).cuda()      # 设置模型的方差是2


BN_input = m3(input)
BN_output = BN_input[0][0]


obser_mean = torch.Tensor([input[0][i].mean() for i in range(3)]).cuda()
# 输入数据的方差
obser_var = torch.Tensor([input[0][i].var() for i in range(3)]).cuda()
# 编码归一化

output3_source = (input[0][0] - obser_mean[0])/(pow(obser_var[0] + m3.eps,0.5))
my_output = output3_source

在这里插入图片描述

标签:obser,torch,BatchN,cuda,m3,var,input
来源: https://blog.csdn.net/highoooo/article/details/122824868

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有