概述
K最近邻（k-Nearest Neighbor，KNN）分类算法可以说是最简单的机器学习算法了。它采用测量不同特征值之间的距离方法进行分类。它的思想很简单：如果一个样本在特征空间中的k个最相似（即特征空间中最邻近）的样本中的大多数属于某一个类别，则该样本也属于这个类别。
算法总结
k-邻近算法是分类数据最简单有效的算法。k-邻近算法是基于实例的学习，使用算法时我们必须有接近实际数据的训练样本数据。k-邻近算法必须保存全部数据集，如果训练数据集很大，必须使用大量的存储空间。此外，由于必须对数据集中的每个数据计算距离值，实际使用时可能非常耗时。
原文：http://www.cnblogs.com/xiongyuesen/p/4415997.html