这篇文章主要讲解了“怎么使用pytorch和tensorflow计算Flops和params”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“怎么使用pytorch和tensorflow计算Flops和params”吧!
net = model() # 定义好的网络模型 total = sum([param.nelement() for param in net.parameters()]) print("Number of parameter: %.2fM" % total)
这是网上很常见的直接用自带方法计算params,基本不会出错。胜在简洁。
要计算flops,目前没见到用自带方法计算的,基本都是要安装别的库。
这边我们安装thop库。
pip install thop # 安装thop库
import torch from thop import profile net = model() # 定义好的网络模型 img1 = torch.randn(1, 3, 512, 512) img2 = torch.randn(1, 3, 512, 512) img3 = torch.randn(1, 3, 512, 512) macs, params = profile(net, (img1,img2,img3)) print('flops: ', 2*macs, 'params: ', params)
这边和其他网上教程的区别便是,他们macs和flops不分。因为macs表示乘加累积操作数,一个乘法加上一个加法才算一个macs。而flops表示浮点运算次数,每一个加、减、乘、除操作都算1FLOPs操作。所以很明显,在数值上,1flops=2macs。此外,(img1,img2,img3)就表示你如果有三个输入要输入模型,就这样写。
另外,要注意,params只和模型参数量相关,而和输入tensor大小无关。但flops和输入图片大小是相关的.
此处是我找到的一些用于tensorflow计算params和flops的方法,仅供参考,不保证效果。
def get_flops_params(): sess = tf.compat.v1.Session() graph = sess.graph flops = tf.compat.v1.profiler.profile(graph, options=tf.compat.v1.profiler.ProfileOptionBuilder.float_operation()) params = tf.compat.v1.profiler.profile(graph, options=tf.compat.v1.profiler.ProfileOptionBuilder.trainable_variables_parameter()) print('FLOPs: {}; Trainable params: {}'.format(flops.total_float_ops, params.total_parameters)) def count2(): print(np.sum([np.prod(v.get_shape().as_list()) for v in tf.trainable_variables()])) def get_nb_params_shape(shape): ''' Computes the total number of params for a given shap. Works for any number of shapes etc [D,F] or [W,H,C] computes D*F and W*H*C. ''' nb_params = 1 for dim in shape: nb_params = nb_params * int(dim) return nb_params def count3(): tot_nb_params = 0 for trainable_variable in tf.trainable_variables(): shape = trainable_variable.get_shape() # e.g [D,F] or [W,H,C] current_nb_params = get_nb_params_shape(shape) tot_nb_params = tot_nb_params + current_nb_params print(tot_nb_params) import tensorflow.compat.v1 as tf tf.compat.v1.disable_eager_execution() from model import Model import keras.backend as K def get_flops(model): run_meta = tf.RunMetadata() opts = tf.profiler.ProfileOptionBuilder.float_operation() # We use the Keras session graph in the call to the profiler. flops = tf.profiler.profile(graph=K.get_session().graph, run_meta=run_meta, cmd='op', options=opts) return flops.total_float_ops # Prints the "flops" of the model. # .... Define your model here .... M = Model(BATCH_SIZE=1, INPUT_H=268, INPUT_W=360, is_training=False) print(get_flops(M))
感谢各位的阅读,以上就是“怎么使用pytorch和tensorflow计算Flops和params”的内容了,经过本文的学习后,相信大家对怎么使用pytorch和tensorflow计算Flops和params这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。