机器学习：基于PCA对人脸识别数据降维并建立KNN模型检验

原创 已于 2023-05-01 07:22:24 修改 · 3.6k 阅读 · 50
标签
#机器学习 #python #KNN #PCA
于 2023-04-28 10:20:40 首次发布
本文介绍了PCA算法的基本原理及其在人脸识别数据降维中的应用。通过PCA进行数据处理，然后使用KNN模型进行建模与预测，展示了PCA如何帮助减少特征维度同时保持数据信息。

在这里插入图片描述

基于PCA对人脸识别数据降维并建立KNN模型检验

作者：i阿极

作者简介：Python领域新星作者、多项比赛获奖者：博主个人首页

😊😊😊如果觉得文章不错或能帮助到你学习，可以点赞👍收藏📁评论📒+关注哦！👍👍👍

📜📜📜如果有小伙伴需要数据集和学习交流，文章下方有交流学习区！一起学习进步！💪

大家好，我i阿极。喜欢本专栏的小伙伴，请多多支持

专栏案例：机器学习案例
机器学习(一)：线性回归之最小二乘法
机器学习(二)：线性回归之梯度下降法
机器学习(三)：基于线性回归对波士顿房价预测
机器学习(四)：基于KNN算法对鸢尾花类别进行分类预测
机器学习(五)：基于KNN模型对高炉发电量进行回归预测分析
机器学习(六)：基于高斯贝叶斯对面部皮肤进行预测分析
机器学习(七)：基于多项式贝叶斯对蘑菇毒性分类预测分析
机器学习(十四)：基于逻辑回归对超市销售活动预测分析
机器学习(十五)：基于神经网络对用户评论情感分析预测
机器学习(十六)：线性回归分析女性身高与体重之间的关系
机器学习(十七)：基于支持向量机（SVM）进行人脸识别预测
机器学习(十八)：基于逻辑回归对优惠券使用情况预测分析
机器学习(十九）：基于逻辑回归对某银行客户违约预测分析
机器学习(二十)：LightGBM算法原理（附案例实战）
机器学习(二十一)：基于朴素贝叶斯对花瓣花萼的宽度和长度分类预测
机器学习(二十二)：基于逻辑回归（Logistic Regression）对股票客户流失预测分析

文章目录

1、PCA算法简介

PCA（Principal Component Analysis）是一种常用的数据降维方法，通过线性变换将高维数据映射到低维空间，同时尽量保留原始数据的信息。PCA的主要思想是将原始数据的各个特征进行线性组合，使得新特征能够最大程度地保留原始数据的方差，从而达到降维的目的。

PCA的具体步骤如下：

  • 数据预处理：对数据进行标准化处理，使得每个特征的均值为0，方差为1。

  • 计算协方差矩阵：将标准化后的数据按列组成n维列向量，计算其协方差矩阵。

  • 计算特征值和特征向量：对协方差矩阵进行特征值分解，得到n个特征值和n个特征向量。

  • 选择主成分：将特征值按大小排列，选择前k个特征值对应的特征向量，这些特征向量组成的矩阵即为转换矩阵。通常只选择特征值较大的几个特征向量，将高维数据映射到低维空间中，从而实现数据降维。

  • 映射数据：将原始数据与转换矩阵相乘，得到新的低维数据。

PCA算法的主要优点是可以在不丢失太多信息的情况下降低数据的维度，从而减少计算量和存储空间。

2、数学原理

PCA（Principal Component Analysis）是一种线性降维技术，其数学原理涉及到线性代数中的特征值和特征向量。

给定一个数据矩阵

了解本专栏 订阅专栏 解锁全文 超级会员免费看
使用主成分分析(PCA)进行人脸识别数据降维并构建KNN模型进行验证
HnrzLinux的博客
09-25 363
请注意，本文只是提供了一个基本的示例，实际应用中可能需要进行更多的数据预处理和模型调优来获得更好的结果。在处理大规模的人脸数据时，降维是一个常见的技术，可以帮助我们减少数据的维度，提高模型的效率和准确性。这里我们假设我们已经有了一个包含多个人脸图像的数据集，每个图像都有一个对应的标签，表示该图像属于哪个人物。我们要做的是根据这些图像数据训练一个模型，能够准确地识别新的人脸图像属于哪个人物。然后，我们加载人脸数据集。通过降维，我们可以减少数据的维度，提高模型的效率，并在保留重要信息的同时实现准确的人脸识别。
机器学习：基于主成分分析（PCA）对数据降维
阿极的博客
02-25 1万+
主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，确切说这些特征的方差跟整体方差没有多大差距，这样的特征也被称为主成分。这也就意味着，借助这种方法，就能通过更少的特征捕获到数据集的大部分信息。
PCA降维后KNN分类
weixin_44736049的博客
03-23 1631
PCA降维后KNN分类
Python实现PCA降维和KNN人脸识别模型(PCA和KNeighborsClassifier算法)项目实战
张陈亚的博客
09-27 7011
Python实现PCA降维和KNN人脸识别模型(PCA和KNeighborsClassifier算法)项目实战
基于kNN+PCA或LDA的脸部识别
weixin_44863781的博客
08-21 1037
一、基于SVD的图像压缩 图像压缩用于降低图像或视频的存储和传输成本。一种有损压缩的方法是利用奇异值分解，只保留最大的nnn个奇异值。 我们知道对于一个m×nm×nm×n的矩阵XXX，我们可以利用SVD可以将其写成以下形式 X=UΣVTX=U\Sigma V^TX=UΣVT UUU和VVV分别为m×mm×mm×m和n×nn×nn×n的酉矩阵；Σ\SigmaΣ为m×nm×nm×n的对角矩阵，对角线上的元素为XXX的奇异值。进一步，可以写成: X=∑σiu⃗v⃗TX=\sum \sigma_i \vec{u}
基于PCA主成分分析应用于数据的降维处理及python代码实现
weixin_71894495的博客
07-28 1464
通过PCA对数据进行预处理，不仅能有效见少数据集特征维度从而提高模型训练和运行效率，而且还能通过去除一部分噪声提高模型精度。
机器学习——经典降维算法与框架综述
转载请标明出处，完整项目/代码详见github：https://github.com/yiru1225
11-08 6983
在本文中，我们总结了机器学习和模式识别领域的经典降维算法和降维框架。降维算法部分包括各种经典算法的原理、公式推导和算法过程，以及它们在线性降维、流形学习、核方法（监督、无监督和半监督）中的优化算法。 降维框架部分将各经典降维方法分别统一在图嵌入框架和半监督框架这两个经典降维框架的视角下，并以此探讨和分析了降维框架的设计和构建方法，分析了以降维框架为平台开发新算法的步骤。 此外，通过降维算法和降维框架在不同任务的数据集实验中的应用以及实验结果的统计分析比较，说明了各算法和框架之间的联系和区别。
机器学习——PCA（主成分分析）与人脸识别
热门推荐
转载请标明出处，完整项目/代码详见github：https://github.com/yiru1225
03-30 3万+
本篇博客主要介绍PCA（主成分分析）算法并将PCA用于人脸的重构、识别、图像降维可视化（内附数据集与matlab代码）
PCA/LDA实现降维+KNN分类
CynicalRat的博客
12-01 4374
1.pca.py import numpy as np from matplotlib import pyplot as plt from sklearn import datasets from sklearn.model_selection import train_test_split from sklearn.decomposition import PCA class pca(object): def __init__(self, x, components=0.9):
【机器学习】降维与度量学习（KNN、PCA、KPCA、流形学习、度量学习）
weixin_63062756的博客
02-06 1169
降维与度量学习（KNN、PCA、KPCA、流形学习、度量学习）
机器学习实战教程（⑤）：使用PCA实战人脸降维
liaomin416100569的专栏
02-07 2527
在互联网大数据场景下，我们经常需要面对高维数据，在对这些数据做分析和可视化的时候，我们通常会面对「高维」这个障碍。在数据挖掘和建模的过程中，高维数据也同样带来大的计算量，占据更多的资源，而且许多变量之间可能存在相关性，从而增加了分析与建模的复杂性。我们希望找到一种方法，在对数据完成降维「压缩」的同时，尽量减少信息损失。由于各变量之间存在一定的相关关系，因此可以考虑将关系紧密的变量变成尽可能少的新变量，使这些新变量是两两不相关的，那么就可以用较少的综合指标分别代表存在于各个变量中的各类信息。
【机器学习】PCA主成分分析与人脸识别的简单实现
m0_63567560的博客
01-02 750
PCA（主成分分析）为主流的一种算法。以”“为目标导向，通过降维（投影），用数据中相对重要（最主要）的信息表达（代替）原数据，从而达到降维的目的。
Python数据降维之PCA主成分分析【附代码】
weixin_60476982的博客
03-17 3059
其实是根据每张人脸不同像素点的颜色不同来进行数据建模与判断，人脸的每个像素点的颜色都有不同的值，这些值可以组成人脸的特征向量们，不过因为人脸上的像素点过多，所以特征变量过多，因此需要利用。在根据已有的信用卡持有人信息及其违约数据来建立信用卡违约评判模型时，数据可能包含申请人的收入，年龄，性别，婚姻状况，工作单位等数百个维度的数据。这里处理人脸的方式和第七章处理手写数字图片的方式非常类似，都是根据人脸各个地方颜色的不同，获取其地方颜色的数值（颜色是有数值的，不同颜色的值不同），从而将图片转换为数字。
PCA、NMF、KNN在实战中的算法解析
weixin_34055787的博客
12-18 662
我们用一些工具对数据进行降维，看看结果会怎样。PCA（主成分分析—对高维数据降维）会解决这个问题。NMF（非负矩阵分析—对高维数据降维，并且对事物的局部特性有很好的解释）在分解图像时经常会发现有用的“部分”来表达整体，并且在MNIST数据集或人脸识别数据集中会产生有趣的结果。本文着重探索这三种算法如何处理数据集。 In[1]: import num...
机器学习-降维与度量学习
hackerlee
11-07 2817
10.1近邻学习k近邻（k-Nearest Neighbor，简称kNN）学习是一种常用的监督学习方法，其原理是:给定测试样本，找出训练集中与其最靠近的k个训练样本（基于距离度量方式），然后基于这K个“邻居”的信息来进行预测。是一种常用的监督学习方法。 在分类任务中，使用“投票法”，即选择k个样本中出现最多的类别标记作为预测结果。 在回归任务中，使用“平均法”，将这k个样本的实值输出标记的平均值作为
AI 学习路线 04：机器学习到底在学什么？从分类、回归到模型评估
qq_40600379的博客
06-16 609
机器学习到底在学什么？ 监督学习、无监督学习、强化学习有什么区别？ 为什么要划分训练集、验证集、测试集？ 什么是过拟合、欠拟合、泛化能力？ 回归、分类、聚类分别解决什么问题？ 怎么选择常见算法？ 为什么不能只看准确率？ 这篇文章会尽量用图、例子和实战代码，把机器学习的基础框架讲清楚。
浅谈机器学习与神经网络
weixin_70221721的博客
06-15 556
简要介绍ML的分类方法以及神经网络
机器学习周报五十
weixin_60864619的博客
06-21 198
本周复现上周提到的论文3DGA的实验，并且阅读了论文SplattingAvatar。通过SplattingAvatar，补充了对之前的改进的不足，法线插值和重心插值可以得到一个非线性连续场，解决3dga只有重心插值，在三角面片内只有线形关系的问题。在之前也尝试过建立一个非线性连续人体场，缺乏理论指导，SplattingAvatar提供了思路。
神经网络入门教程：前向传播与反向传播详解（附NumPy/PyTorch代码）
最新发布
m0_73593563的博客
06-22 635
神经网络（简称：ANN）是一种受人脑神经元连接方式启发而设计的机器学习模型，它通过大量相互连接的“神经元”来处理数据、提取特征并完成预测或判断。简单来说，神经网络会接收输入数据，例如图片、文字、声音或数字信息，然后经过一层或多层隐藏层的计算，把原始数据逐步转换成更有意义的特征，最后在输出层给出结果。它并不是依靠人手动编写固定规则来解决问题，而是通过大量样本数据进行训练，在不断比较预测结果和真实答案的差距后，自动调整内部的权重和偏置，使模型的预测越来越准确。
基于机器学习的设备故障预测分析方法
技术日常
06-15 858
数据准备（ation数据处理（Mergings——特征工程（Featureengineering:lagfeaturestatic feature——建模（Modeling:Bin-class, regression,multi-class）——训练、仿真（Training,Simulation——决策（Decision++Binaryc。
评论 74
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

i阿极

你的鼓励是我创作最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值