Python实现KNN(K-近邻)算法的示例代码


Posted in Python onMarch 05, 2019

一、概述

KNN(K-最近邻)算法是相对比较简单的机器学习算法之一,它主要用于对事物进行分类。用比较官方的话来说就是:给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的K个实例, 这K个实例的多数属于某个类,就把该输入实例分类到这个类中。为了更好地理解,通过一个简单的例子说明。

我们有一组自拟的关于电影中镜头的数据:

Python实现KNN(K-近邻)算法的示例代码

那么问题来了,如果有一部电影 X,它的打戏为 3,吻戏为 2。那么这部电影应该属于哪一类?

我们把所有数据通过图表显示出来(圆点代表的是自拟的数据,也称训练集;三角形代表的是 X 电影的数据,称为测试数据):

Python实现KNN(K-近邻)算法的示例代码

计算测试数据到训练数据之间的距离,假设 k 为 3,那么我们就找到距离中最小的三个点,假如 3 个点中有 2 个属于动作片,1 个属于爱情片,那么把该电影 X 分类为动作片。这种通过计算距离总结 k 个最邻近的类,按照”少数服从多数“原则分类的算法就为 KNN(K-近邻)算法。

二、算法介绍

还是以上面的数据为例,打戏数为 x,吻戏数为 y,通过欧式距离公式计算测试数据到训练数据的距离,我上中学那会儿不知道这个叫做欧式距离公式,一直用”两点间的距离公式“来称呼这个公式: Python实现KNN(K-近邻)算法的示例代码 。但是现实中的很多数据都是多维的,即使如此,也还是按照这个思路进行计算,比如如果是三维的话,就在根号里面再加上 z 轴差的平方,即  Python实现KNN(K-近邻)算法的示例代码 ,以此类推。

知道了这个计算公式,就可以计算各个距离了。我们以到最上面的点的距离为例: Python实现KNN(K-近邻)算法的示例代码 ,那么从上到下的距离分别是: Python实现KNN(K-近邻)算法的示例代码Python实现KNN(K-近邻)算法的示例代码Python实现KNN(K-近邻)算法的示例代码Python实现KNN(K-近邻)算法的示例代码 。现在我们把 k 定为 3,那么距离最近的就是后面三个数了,在这三个数中,有两个属于动作片,因此,电影 X 就分类为动作片。

三、算法实现

知道了原理,那就可以用代码实现了,这里就不再赘述了,直接上带注释的 Python 代码:

'''
  trainData - 训练集
  testData - 测试集
  labels - 分类
'''
def knn(trainData, testData, labels, k):
  # 计算训练样本的行数
  rowSize = trainData.shape[0]
  # 计算训练样本和测试样本的差值
  diff = np.tile(testData, (rowSize, 1)) - trainData
  # 计算差值的平方和
  sqrDiff = diff ** 2
  sqrDiffSum = sqrDiff.sum(axis=1)
  # 计算距离
  distances = sqrDiffSum ** 0.5
  # 对所得的距离从低到高进行排序
  sortDistance = distances.argsort()
  
  count = {}
  
  for i in range(k):
    vote = labels[sortDistance[i]]
    count[vote] = count.get(vote, 0) + 1
  # 对类别出现的频数从高到低进行排序
  sortCount = sorted(count.items(), key=operator.itemgetter(1), reverse=True)
  
  # 返回出现频数最高的类别
  return sortCount[0][0]

ps:np.tile(testData, (rowSize, 1)) 是将 testData 这个数据扩展为 rowSize 列,这样能避免运算错误;

sorted(count.items(), key=operator.itemgetter(1), reverse=True) 排序函数,里面的参数 key=operator.itemgetter(1), reverse=True 表示按照 count 这个字典的值(value)从高到低排序,如果把 1 换成 0,则是按字典的键(key)从高到低排序。把 True 换成 False 则是从低到高排序。

四、测试与总结

用 Python 实现了算法之后,我们用上面的数据进行测试,看一下结果是否和我们预测的一样为动作片:

trainData = np.array([[5, 1], [4, 0], [1, 3], [0, 4]])
labels = ['动作片', '动作片', '爱情片', '爱情片']
testData = [3, 2]
X = knn(trainData, testData, labels, 3)
print(X)

执行这段代码后输出的结果为:动作片 。和预测的一样。当然通过这个算法分类的正确率不可能为 100%,可以通过增加修改数据测试,如果有大量多维的数据就更好了。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python在linux中输出带颜色的文字的方法
Jun 19 Python
详解python3百度指数抓取实例
Dec 12 Python
Python 逐行分割大txt文件的方法
Oct 10 Python
DataFrame 将某列数据转为数组的方法
Apr 13 Python
详解python多线程、锁、event事件机制的简单使用
Apr 27 Python
Python使用matplotlib绘制三维图形示例
Aug 25 Python
python pandas写入excel文件的方法示例
Jun 25 Python
用Python实现校园通知更新提醒功能
Nov 23 Python
python列表推导式入门学习解析
Dec 02 Python
Python加密模块的hashlib,hmac模块使用解析
Jan 02 Python
Python 实现判断图片格式并转换,将转换的图像存到生成的文件夹中
Jan 13 Python
Python第三方库安装缓慢的解决方法
Feb 06 Python
Python按钮的响应事件详解
Mar 04 #Python
Python中三元表达式的几种写法介绍
Mar 04 #Python
Python生成器的使用方法和示例代码
Mar 04 #Python
Python去除字符串前后空格的几种方法
Mar 04 #Python
python调用外部程序的实操步骤
Mar 04 #Python
Python实现的合并两个有序数组算法示例
Mar 04 #Python
python创造虚拟环境方法总结
Mar 04 #Python
You might like
php的ajax简单实例
2014/02/27 PHP
访问编码后的中文URL返回404错误的解决方法
2014/08/20 PHP
使用PHP生成PDF方法详解
2015/01/23 PHP
php获取linux命令结果的实例
2017/03/13 PHP
JS 实现点击a标签的时候让其背景更换
2013/10/15 Javascript
window.location.href的用法(动态输出跳转)
2014/08/09 Javascript
JS实现可缩放、拖动、关闭和最小化的浮动窗口完整实例
2015/03/04 Javascript
JavaScript数组随机排列实现随机洗牌功能
2015/03/19 Javascript
jQuery菜单插件superfish使用指南
2015/04/21 Javascript
JQuery中DOM实现事件移除的方法
2015/06/13 Javascript
TypeScript 中接口详解
2015/06/19 Javascript
每天一篇javascript学习小结(Boolean对象)
2015/11/12 Javascript
JavaScript解析JSON格式数据的方法示例
2017/01/24 Javascript
node.js 抓取代理ip实例代码
2017/04/30 Javascript
实例详解JSON取值(key是中文或者数字)方式
2017/08/24 Javascript
vue.js实现带日期星期的数字时钟功能示例
2018/08/28 Javascript
超轻量级的js时间库miment使用解析
2019/08/02 Javascript
[02:51]DOTA2英雄基础教程 风暴之灵
2013/12/23 DOTA
跟老齐学Python之dict()的操作方法
2014/09/24 Python
python实现多线程暴力破解登陆路由器功能代码分享
2015/01/04 Python
Django框架中render_to_response()函数的使用方法
2015/07/16 Python
树莓派实现移动拍照
2019/06/22 Python
python之信息加密题目详解
2019/06/26 Python
python+opencv像素的加减和加权操作的实现
2019/07/14 Python
python 经典数字滤波实例
2019/12/16 Python
Python 将json序列化后的字符串转换成字典(推荐)
2020/01/06 Python
Python装饰器如何实现修复过程解析
2020/09/05 Python
捷克移动配件网上商店:ProMobily.cz
2019/03/15 全球购物
The Outnet亚太地区:折扣设计师时装店
2019/12/05 全球购物
迎八一活动主题
2014/01/31 职场文书
安全大检查实施方案
2014/02/22 职场文书
综合素质评价思想道德自我评价
2015/03/09 职场文书
学校党支部公开承诺书
2015/04/30 职场文书
react中props 的使用及进行限制的方法
2021/04/28 Javascript
linux中nohup和后台运行进程查看及终止
2021/06/24 Python
Python集合set()使用的方法详解
2022/03/18 Python