tensorflow实现简单逻辑回归


Posted in Python onSeptember 07, 2018

逻辑回归是机器学习中很简答的一个栗子,这篇文章就是要介绍如何使用tensorflow实现一个简单的逻辑回归算法。

逻辑回归可以看作只有一层网络的前向神经网络,并且参数连接的权重只是一个值,而非矩阵。公式为:y_predict=logistic(X*W+b),其中X为输入,W为输入与隐含层之间的权重,b为隐含层神经元的偏置,而logistic为激活函数,一般为sigmoid或者tanh, y_predict为最终预测结果。

逻辑回归是一种分类器模型,需要木便函数不断的优化参数,这里目标函数为y_predict与真实标签Y之间的L2距离,使用随机梯度下降算法来更新权重和偏置。 废话不多说,贴代码:

# -*- coding:utf-8 -*-
#功能: 使用tensorflow实现一个简单的逻辑回归
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
 
#创建占位符
X=tf.placeholder(tf.float32)
Y=tf.placeholder(tf.float32)
 
#创建变量
#tf.random_normal([1])返回一个符合正太分布的随机数
w=tf.Variable(tf.random_normal([1],name='weight'))
b=tf.Variable(tf.random_normal([1],name='bias'))
 
y_predict=tf.sigmoid(tf.add(tf.mul(X,w),b))
num_samples=400
cost=tf.reduce_sum(tf.pow(y_predict-Y,2.0))/num_samples
 
#学习率
lr=0.01
optimizer=tf.train.AdamOptimizer().minimize(cost)
 
#创建session 并初始化所有变量
num_epoch=500
cost_accum=[]
cost_prev=0
#np.linspace()创建agiel等差数组,元素个素为num_samples
xs=np.linspace(-5,5,num_samples)
ys=np.sin(xs)+np.random.normal(0,0.01,num_samples)
 
with tf.Session() as sess:
  #初始化所有变量
  sess.run(tf.initialize_all_variables())
  #开始训练
  for epoch in range(num_epoch):
    for x,y in zip(xs,ys):
      sess.run(optimizer,feed_dict={X:x,Y:y})
    train_cost=sess.run(cost,feed_dict={X:x,Y:y})
    cost_accum.append(train_cost)
    print "train_cost is:",str(train_cost)
 
    #当误差小于10-6时 终止训练
    if np.abs(cost_prev-train_cost)<1e-6:
      break
    #保存最终的误差
    cost_prev=train_cost
#画图 画出每一轮训练所有样本之后的误差
plt.plot(range(len(cost_accum)),cost_accum,'r')
plt.title('Logic Regression Cost Curve')
plt.xlabel('epoch')
plt.ylabel('cost')
plt.show()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
从零学Python之入门(五)缩进和选择
May 27 Python
如何解决django配置settings时遇到Could not import settings 'conf.local'
Nov 18 Python
详解python中 os._exit() 和 sys.exit(), exit(0)和exit(1) 的用法和区别
Jun 23 Python
python selenium UI自动化解决验证码的4种方法
Jan 05 Python
selenium+python 对输入框的输入处理方法
Oct 11 Python
搞清楚 Python traceback的具体使用方法
May 13 Python
详解Python 定时框架 Apscheduler原理及安装过程
Jun 14 Python
python GUI库图形界面开发之PyQt5开发环境配置与基础使用
Feb 25 Python
appium+python adb常用命令分享
Mar 06 Python
python 代码实现k-means聚类分析的思路(不使用现成聚类库)
Jun 01 Python
详解用Python调用百度地图正/逆地理编码API
Jul 02 Python
python/golang实现循环链表的示例代码
Sep 14 Python
Tensorflow使用支持向量机拟合线性回归
Sep 07 #Python
TensorFlow实现iris数据集线性回归
Sep 07 #Python
TensorFlow实现模型评估
Sep 07 #Python
使用tensorflow实现线性svm
Sep 07 #Python
Python多进程池 multiprocessing Pool用法示例
Sep 07 #Python
详解python while 函数及while和for的区别
Sep 07 #Python
使用TensorFlow实现SVM
Sep 06 #Python
You might like
PHP生成静态页面详解
2006/11/19 PHP
DISCUZ 分页代码
2007/01/02 PHP
php stripslashes和addslashes的区别
2014/02/03 PHP
实现WordPress主题侧边栏切换功能的PHP脚本详解
2015/12/14 PHP
php验证身份证号码正确性的函数
2016/07/20 PHP
同一个表单 根据要求递交到不同页面的实现方法小结
2009/08/05 Javascript
Javascript的一种模块模式
2010/09/08 Javascript
js当一个变量为函数时 应该注意的一点细节小结
2011/12/29 Javascript
javascript通过navigator.userAgent识别各种浏览器
2013/10/25 Javascript
Flex通过JS获取客户端IP和计算机名的实例代码
2013/11/21 Javascript
javascript比较两个日期的先后示例代码
2014/12/31 Javascript
javascript 常见功能汇总
2015/06/11 Javascript
Javascript控制div属性动态变化实例分析
2015/10/08 Javascript
AngularJS ng-bind 指令简单实现
2016/07/30 Javascript
Bootstrap基本组件学习笔记之面板(14)
2016/12/08 Javascript
Angular CLI 安装和使用教程
2017/09/13 Javascript
详解vue+vuex+koa2开发环境搭建及示例开发
2018/01/22 Javascript
解决 viewer.js 动态更新图片导致无法预览的问题
2019/05/14 Javascript
vue element-ui table组件动态生成表头和数据并修改单元格格式 父子组件通信
2019/08/15 Javascript
基于vue--key值的特殊用处详解
2020/07/31 Javascript
Python语言的12个基础知识点小结
2014/07/10 Python
详解Python中的文件操作
2016/08/28 Python
Python 的AES加密与解密实现
2019/07/09 Python
Python算法的时间复杂度和空间复杂度(实例解析)
2019/11/19 Python
pytorch中使用cuda扩展的实现示例
2020/02/12 Python
Python unittest装饰器实现原理及代码
2020/09/08 Python
python使用正则表达式匹配txt特定字符串(有换行)
2020/12/09 Python
Bench加拿大官方网站:英国城市服装品牌
2017/11/03 全球购物
英国女士和男士时尚服装网上购物:Top Labels Online
2018/03/25 全球购物
error和exception有什么区别
2012/10/02 面试题
美丽乡村建设实施方案
2014/03/23 职场文书
常务副总经理任命书
2014/06/05 职场文书
小学安全汇报材料
2014/08/14 职场文书
团代会闭幕词
2015/01/28 职场文书
新闻稿标题
2015/07/18 职场文书
解决numpy和torch数据类型转化的问题
2021/05/23 Python