我们当今社会科技的确日新月异地在飞速进步，对于我们职场人员，不是光光讲“活到老，学到老”就行，如果你想要再某个行业深耕，必须从上至下将原理弄清。否则就是光会讲的假把式，返回到问题本质，就是“将问题解决掉”
我们常说“物以类聚”，但当机器如何来对事物进行分别呢？例如给计算机一堆的书，它是如何对这些书进行分类的呢？今天我记录一下基本的分类方法——K近邻算法。
K近邻算法，即是给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例，这K个实例的多数属于某个类，就把该输入实例分类到这个类中。（这就类似于现实生活中少数服从多数的思想）根据这个说法，咱们来看下引自维基百科上的一幅图：
image.png
如上图所示，有两类不同的样本数据，分别用蓝色的小正方形和红色的小三角形表示，而图正中间的那个绿色的圆所标示的数据则是待分类的数据。这也就是我们的目的，来了一个新的数据点，我要得到它的类别是什么？好的，下面我们根据k近邻的思想来给绿色圆点进行分类。
* 如果K=3，绿色圆点的最邻近的3个点是2个红色小三角形和1个蓝色小正方形，少数从属于多数，基于统计的方法，判定绿色的这个待分类点属于红色的三角形一类。
* 如果K=5，绿色圆点的最邻近的5个邻居是2个红色三角形和3个蓝色的正方形，还是少数从属于多数，基于统计的方法，判定绿色的这个待分类点属于蓝色的正方形一类。
从上面例子我们可以看出，k近邻的算法思想非常的简单，也非常的容易理解，那么我们是不是就到此结束了，该算法的原理我们也已经懂了，也知道怎么给新来的点如何进行归类，只要找到离它最近的k个实例，哪个类别最多即可。 那么如何进行k值的选择呢？我们一般选取一个较小的数值，通常采取 交叉验证法来选取最优的k值。
网友评论