这篇文章给大家介绍如何使用tensorflow实现简单逻辑回归,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
逻辑回归是机器学习中很简答的一个栗子,这篇文章就是要介绍如何使用tensorflow实现一个简单的逻辑回归算法。
逻辑回归可以看作只有一层网络的前向神经网络,并且参数连接的权重只是一个值,而非矩阵。公式为:y_predict=logistic(X*W+b),其中X为输入,W为输入与隐含层之间的权重,b为隐含层神经元的偏置,而logistic为激活函数,一般为sigmoid或者tanh, y_predict为最终预测结果。
逻辑回归是一种分类器模型,需要木便函数不断的优化参数,这里目标函数为y_predict与真实标签Y之间的L2距离,使用随机梯度下降算法来更新权重和偏置。 废话不多说,贴代码:
# -*- coding:utf-8 -*- #功能: 使用tensorflow实现一个简单的逻辑回归 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt #创建占位符 X=tf.placeholder(tf.float32) Y=tf.placeholder(tf.float32) #创建变量 #tf.random_normal([1])返回一个符合正太分布的随机数 w=tf.Variable(tf.random_normal([1],name='weight')) b=tf.Variable(tf.random_normal([1],name='bias')) y_predict=tf.sigmoid(tf.add(tf.mul(X,w),b)) num_samples=400 cost=tf.reduce_sum(tf.pow(y_predict-Y,2.0))/num_samples #学习率 lr=0.01 optimizer=tf.train.AdamOptimizer().minimize(cost) #创建session 并初始化所有变量 num_epoch=500 cost_accum=[] cost_prev=0 #np.linspace()创建agiel等差数组,元素个素为num_samples xs=np.linspace(-5,5,num_samples) ys=np.sin(xs)+np.random.normal(0,0.01,num_samples) with tf.Session() as sess: #初始化所有变量 sess.run(tf.initialize_all_variables()) #开始训练 for epoch in range(num_epoch): for x,y in zip(xs,ys): sess.run(optimizer,feed_dict={X:x,Y:y}) train_cost=sess.run(cost,feed_dict={X:x,Y:y}) cost_accum.append(train_cost) print "train_cost is:",str(train_cost) #当误差小于10-6时 终止训练 if np.abs(cost_prev-train_cost)<1e-6: break #保存最终的误差 cost_prev=train_cost #画图 画出每一轮训练所有样本之后的误差 plt.plot(range(len(cost_accum)),cost_accum,'r') plt.title('Logic Regression Cost Curve') plt.xlabel('epoch') plt.ylabel('cost') plt.show()
关于如何使用tensorflow实现简单逻辑回归就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。