总结sklearn中常用的机器学习算法

最新推荐文章于 2024-05-22 17:02:55 发布

原创

最新推荐文章于 2024-05-22 17:02:55 发布 · 3.9k 阅读

标签

#sklearn

收录于

本文通过鸢尾花数据集，演示了多种机器学习算法的应用，包括随机森林、梯度提升树、逻辑斯谛回归和支持向量机等有监督学习方法，以及K-means聚类这一无监督学习方法。

监督学习算法

随机森林(RF)

随机森林算法，是bagging集成学习方式中的一种最具有特色的机器学习方法。它是以决策树为基本分类器，如果为分类问题，则最终采用投票法来决定类别；若为回归问题，则采用平均值的方法决定最终预测值。决策树算法带有剪枝过程，但RF算法没有此步骤。根据回归问题和分类问题，sklearn将RF算法分为：分类RF和回归RF。主要是依据样本特征而确定。可以直接利用RF进行多分类问题。一般情况下，RF做分类用CART决策树中的gini指数来选择最优特征。

利用纸鸢花数据集，进行预测分析，前4列为属性，第五列为类别。共150条数据，三个类别，每个类别50条数据。

def open_file(file_address):
    data = pd.read_csv(file_address,encoding='utf-8')
    #类别做标签
    data.loc[data.species == 'Iris-setosa', 'species'] = 0
    data.loc[data.species == 'Iris-versicolor', 'species'] = 1
    data.loc[data.species == 'Iris-virginica', 'species'] = 2
    dataset = data.loc[:,("sepal_length","sepal_width",\
                       "petal_length","petal_width")]
    label = data.loc[:,("species")]
    dataset = np.array(dataset) #转成numpy
    label = np.array(label)
    Num = len(dataset)
    ret