今天就跟大家聊聊有关如何进行Keras中的神经网络模型超参数调优,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。
在目前神经网络超参数调整的研究中,tensorflow/keras社区开发出了一款自动化调参工具 keras-tuner,通过keras-tuner我们在使tensorflow/keras 进行工程实践时,在模型参数优化这一环节可以方便的帮助我们做一些工作。
首先我们安装keras-tuner
要求:
Python 3.6
TensorFlow 2.0
从pypi安装
pip install -U keras-tuner
使用很简单,上来先import
import kerastuner as kt
首先先来介绍一下keras-tuner的参数类 HyperParameters,非常重要。
hp = kt.HyperParameters()
HyperParameters类作为一个hyerparameter容器。一个HyperParameters实例包含有关搜索空间和每个超参数的当前值的信息。当然也可以与使用超参数的模型构建代码内联定义超参数。这使您不必编写样板代码,并有助于使代码更具可维护性。
我们来看一个非常简单的例子
import kerastuner as ktimport tensorflow as tf#初始化一个参数容器hp = kt.HyperParameters()#定义一个modeldef build_model(hp): model = tf.keras.Sequential() model.add(tf.keras.layers.Dense(units=hp.Int('units', min_value=32, max_value=512, step=32), activation='relu')) model.add(layers.Dense(10, activation='softmax')) model.compile(optimizer=tf.keras.optimizers.Adam(hp.Choice('learning_rate', values=[1e-2, 1e-3, 1e-4])), loss='sparse_categorical_crossentropy', metrics=['accuracy']) return model#包装一个随即搜索器tuner = kt.tuners.RandomSearch( build_model, objective='val_accuracy', max_trials=5, executions_per_trial=3, directory='my_dir', project_name='helloworld')#打印搜索空间的摘要 tuner.search_space_summary()#搜索最佳的超参数配置tuner.search(x, y, epochs=5, validation_data=(val_x, val_y)#检索最佳模型models = tuner.get_best_models(num_models=2)#打印结果摘要tuner.results_summary()
可以看出,kerastuner就是这么好用,简洁的api方法定义随机参数和训练模型。
看完上述内容,你们对如何进行Keras中的神经网络模型超参数调优有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注亿速云行业资讯频道,感谢大家的支持。
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
原文链接:https://my.oschina.net/u/4593030/blog/4418849