sklearn-SVC实现与类参数详解


Posted in Python onDecember 10, 2019

sklearn-SVC实现与类参数

对应的API:http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm实现的。随着样本数量的增加,拟合时间的复杂度要高于二次,这就使得当样板数量超过一万个时,很难扩展到数据集中。

在多类处理时,是按照1对1的方案进行处理的。

函数的的定义为:

def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

参数的含义:

- C:float参数 默认值为1.0。错误项的惩罚系数。C越大,即对分错样本的惩罚程度越大,因此在训练样本中准确率越高,但是泛化能力降低,也就是对测试数据的分类准确率降低。相反,减小C的话,容许训练样本中有一些误分类错误样本,泛化能力强。对于训练样本带有噪声的情况,一般采用后者,把训练样本集中错误分类的样本作为噪声。

- kernel: str参数 默认为‘rbf‘,算法中采用的核函数类型,可选参数有:

linear:线性核函数

poly:多项式核函数

rbf:径像核函数/高斯核

sigmod:sigmod核函数

precomputed:核矩阵

- degree :int型参数 (default=3),这个参数只对多项式核函数(poly)有用,是指多项式核函数的阶数n,如果给的核函数参数是其他核函数,则会自动忽略该参数。

- gamma:float参数,默认为auto核函数系数,只对'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma为auto,代表其值为样本特征数的倒数,即1/n_features。

- coef0:float参数 默认为0.0

核函数中的独立项,只有对‘poly'和‘sigmod'核函数有用,是指其中的参数c

- probability:bool参数 默认为False

是否启用概率估计。 这必须在调用fit()之前启用,并且会fit()方法速度变慢。

- shrinking:bool参数 默认为True

是否采用启发式收缩方式。

- tol: float参数 默认为1e^-3

svm停止训练的误差精度。

- cache_size:float参数 默认为200

指定训练所需要的内存,以MB为单位,默认为200MB。 - class_weight:字典类型或者‘balance'字符串。默认为None

给每个类别分别设置不同的惩罚参数C,则该类别的惩罚系数为class_weight[i]*C,如果没有给,则会给所有类别都给C=1,即前面参数指出的参数C。

如果给定参数‘balance',则使用y的值自动调整与输入数据中的类频率成反比的权重。

- verbose :bool参数 默认为False

是否启用详细输出。 此设置利用libsvm中的每个进程运行时设置,如果启用,可能无法在多线程上下文中正常工作。一般情况都设为False,不用管它。

- max_iter :int参数 默认为-1

最大迭代次数,如果为-1,表示不限制

- random_state:int型参数 默认为None

伪随机数发生器的种子,在混洗数据时用于概率估计。

SVC的方法

1、fit()方法:用于训练SVM,具体参数已经在定义SVC对象的时候给出了,这时候只需要给出数据集X和X对应的标签y即可。

2、predict()方法:基于以上的训练,对预测样本T进行类别预测,因此只需要接收一个测试集T,该函数返回一个数组表示个测试样本的类别。

3、predict_proba():返回每个输入类别的概率,这与predict方法不同,predict方法返回的输入样本属于那个类别,但没有概率。使用此方法时,需要在初始化时,将 probability参数设置为True。

例如:

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化时不适用probability参数:

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#输出的结果为:[1,1]

属性有哪些:

svc.n_support_:各类各有多少个支持向量

svc.support_:各类的支持向量在训练样本中的索引

svc.support_vectors_:各类所有的支持向量

以上这篇sklearn-SVC实现与类参数详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python入门篇之字典
Oct 17 Python
Python中操作MySQL入门实例
Feb 08 Python
Python格式化压缩后的JS文件的方法
Mar 05 Python
Python实现字典依据value排序
Feb 24 Python
Python实现SSH远程登陆,并执行命令的方法(分享)
May 08 Python
浅谈Python由__dict__和dir()引发的一些思考
Oct 30 Python
python数字图像处理之高级滤波代码详解
Nov 23 Python
python数据类型之间怎么转换技巧分享
Aug 20 Python
sklearn-SVC实现与类参数详解
Dec 10 Python
Python 实现将大图切片成小图,将小图组合成大图的例子
Mar 14 Python
Python Pandas pandas.read_sql_query函数实例用法分析
Jun 21 Python
Python实现聚类K-means算法详解
Jul 15 Python
使用pandas 将DataFrame转化成dict
Dec 10 #Python
python基于TCP实现的文件下载器功能案例
Dec 10 #Python
使用pandas的box_plot去除异常值
Dec 10 #Python
Python 中如何实现参数化测试的方法示例
Dec 10 #Python
利用python读取YUV文件 转RGB 8bit/10bit通用
Dec 09 #Python
YUV转为jpg图像的实现
Dec 09 #Python
Pandas+Matplotlib 箱式图异常值分析示例
Dec 09 #Python
You might like
网站用php实现paypal整合方法
2010/11/28 PHP
laravel中命名路由的使用方法
2017/02/24 PHP
Thinkphp结合ajaxFileUpload实现异步图片传输示例
2017/03/13 PHP
thinkPHP5.0框架整体架构总览【应用,模块,MVC,驱动,行为,命名空间等】
2017/03/25 PHP
延时重复执行函数 lLoopRun.js
2007/05/08 Javascript
JQuery在光标位置插入内容的实现代码
2010/06/18 Javascript
$.get获取一个文件的内容示例代码
2013/09/11 Javascript
javascript中文本框中输入法切换的问题
2013/12/10 Javascript
详解AngularJS中的filter过滤器用法
2016/01/04 Javascript
利用原生js和jQuery实现单选框的勾选和取消操作的方法
2016/09/04 Javascript
jQuery简单实现中间浮窗效果
2016/09/04 Javascript
Node.js复制文件的方法示例
2016/12/29 Javascript
原生JS封装animate运动框架的实例
2017/10/12 Javascript
旺旺在线客服代码 旺旺客服代码生成器
2018/01/09 Javascript
vue.js响应式原理解析与实现
2020/06/22 Javascript
Bootstrap 实现表格样式、表单布局的实例代码
2018/12/09 Javascript
vue下axios拦截器token刷新机制的实例代码
2020/01/17 Javascript
jquery实现直播视频弹幕效果
2020/02/25 jQuery
[25:45]2018DOTA2亚洲邀请赛4.5SOLO赛 Sylar vs Paparazi
2018/04/06 DOTA
如何在Python函数执行前后增加额外的行为
2016/10/20 Python
Python爬虫基础之XPath语法与lxml库的用法详解
2018/09/13 Python
selenium python 实现基本自动化测试的示例代码
2019/02/25 Python
Python3实现的简单三级菜单功能示例
2019/03/12 Python
Python+Selenium+phantomjs实现网页模拟登录和截图功能(windows环境)
2019/12/11 Python
在tensorflow实现直接读取网络的参数(weight and bias)的值
2020/06/24 Python
深入了解Python 变量作用域
2020/07/24 Python
详解python metaclass(元类)
2020/08/13 Python
scrapy redis配置文件setting参数详解
2020/11/18 Python
IE10 Error.stack 让脚本调试更加方便快捷
2013/04/22 HTML / CSS
Giuseppe Zanotti美国官方网站:将鞋履视为高级时装般精心制作
2018/02/06 全球购物
Harrods英国:世界领先的奢侈品百货商店
2020/09/23 全球购物
C#实现对任一张表的数据进行增,删,改,查要求,运用Webservice,体现出三层架构
2014/07/11 面试题
高二政治教学反思
2014/02/01 职场文书
村主任群众路线教育实践活动个人对照检查材料思想汇报
2014/10/01 职场文书
2015年社区科普工作总结
2015/05/13 职场文书
2015年英语教师工作总结
2015/05/20 职场文书