温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Pytorch优化器内部的各参数信息打印结果

发布时间:2021-09-18 15:33:07 来源:亿速云 阅读:396 作者:chen 栏目:大数据

这篇文章主要介绍“Pytorch优化器内部的各参数信息打印结果”,在日常操作中,相信很多人在Pytorch优化器内部的各参数信息打印结果问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Pytorch优化器内部的各参数信息打印结果”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

代码:

import timeimport torchimport torch.optim as optimclass Model(torch.nn.Module):def __init__(self):super(Model,self).__init__()self.conv1=torch.nn.Sequential(#输入torch.Size([64, 1, 28, 28])torch.nn.Conv2d(1,64,kernel_size=3,stride=1,padding=1),# 用于搭建卷积神经网络的卷积层,主要的输入参数有输入通道数、
                # 输出通道数、卷积核大小、卷积核移动步长和Padding值。
                # 输出维度 = 1+(输入维度-卷积核大小+2*padding)/卷积核步长 
                #输出torch.Size([64, 64, 28, 28])torch.nn.ReLU(),#输出torch.Size([64, 64, 28, 28])torch.nn.Conv2d(64,128,kernel_size=3,stride=1,padding=1),#输出torch.Size([64, 128, 28, 28])torch.nn.ReLU(),torch.nn.MaxPool2d(stride=2,kernel_size=2)# 主要的输入参数是池化窗口大小、池化窗口移动步长和Padding值
                #输出torch.Size([64, 128, 14, 14]))self.dense=torch.nn.Sequential(#输入torch.Size([64, 14*14*128])torch.nn.Linear(14*14*128,1024),#class torch.nn.Linear(in_features,out_features,bias = True)#输出torch.Size([64, 1024])torch.nn.ReLU(),torch.nn.Dropout(p=0.5),# torch.nn.Dropout类用于防止卷积神经网络在训练的过程中
                    # 发生过拟合,其工作原理简单来说就是在模型训练的过程中,
                    # 以一定的随机概率将卷积神经网络模型的部分参数归零,以达
                    # 到减少相邻两层神经连接的目的。这样做是为了让我们最后训
                    # 练出来的模型对各部分的权重参数不产生过度依赖,从而防止
                    # 过拟合。对于torch.nn.Dropout类,我们可以对随机概率值
                    # 的大小进行设置,如果不做任何设置,就使用默认的概率值0.5。
                    torch.nn.Linear(1024,10)#输出torch.Size([64, 10])        )
    def forward(self,x):#torch.Size([64, 1, 28, 28])x = self.conv1(x)#输出torch.Size([64, 128, 14, 14])x = x.view(-1,14*14*128)#view()函数作用是将一个多行的Tensor,拼接成一行,torch.Size([64, 14*14*128])x = self.dense(x)#输出torch.Size([64, 10])return x



model = Model() lr = 0.005optimizer = optim.Adam(model.parameters(), lr=lr)for param_group in optimizer.param_groups:print(param_group.keys())# print(type(param_group))print([type(value) for value in param_group.values()])print('查看学习率: ',param_group['lr'])

打印结果展示:

Windows PowerShell
版权所有 (C) Microsoft Corporation。保留所有权利。

尝试新的跨平台 PowerShell https://aka.ms/pscore6

加载个人及系统配置文件用了 925 毫秒。
(base) PS C:\Users\chenxuqi\Desktop\新建文件夹>  & 'D:\Anaconda3\envs\ssd4pytorch2_2_0\python.exe' 'c:\Users\chenxuqi\.vscode\extensions\ms-python.python-2020.11.371526539\pythonFiles\lib\python\debugpy\launcher' '60077' '--' 'c:\Users\chenxuqi\Desktop\新建文件夹\tt.py'        
dict_keys(['params', 'lr', 'betas', 'eps', 'weight_decay', 'amsgrad'])
[<class 'list'>, <class 'float'>, <class 'tuple'>, <class 'float'>, <class 'int'>, <class 'bool'>]
查看学习率:  0.005
(base) PS C:\Users\chenxuqi\Desktop\新建文件夹> conda activate ssd4pytorch2_2_0
(ssd4pytorch2_2_0) PS C:\Users\chenxuqi\Desktop\新建文件夹>

到此,关于“Pytorch优化器内部的各参数信息打印结果”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI