利用python实现KNN分类器

最新推荐文章于 2026-04-25 11:43:23 发布

原创

最新推荐文章于 2026-04-25 11:43:23 发布 · 2.4k 阅读

收录于

本文介绍了如何使用Python实现KNN(K-Nearest Neighbors)分类器，详细讲解了代码实现过程，包括计算样本间距离、选取最近邻、计票和确定分类结果等步骤。通过一个简单的例子展示了KNN分类器的运用。

虽然已经熟悉掌握了KNN分类器，但是关键还是要实现一遍，参考一些资料之后，实现如下代码（加了注释）：

#该程序实现了kNN算法
import numpy
import operator

def kNNClassifier(inX, dataSet, labels, k):
    '''
    inX: 被分类的测试样本（向量形式）；
    dataSet: 训练样本集，每个样本为一行，则行数=样本个数
    labels：每个样本的标记，list形式
    k：近邻个数
   
    sortedClassCount：返回字典，key是排名，value是标记
    '''
    dataSetSize=dataSet.shape[0]  #shape函数返回行数，也就是训练样本个数
    diffMat=numpy.tile(inX, (dataSetSize, 1))-dataSet   #tile复制测试向量，dataSetSize行，1列，为了相减
    sqDiffMat=diffMat**2  #差值求平方
    sqDistances=sqDiffMat.sum(axis=1)  #按每行求和
    distances=sqDistances**0.5  #开方，得到测试样本和每个训练样本（每行）的距离
    sortedDistIndices=distances.argsort()  #距离排序