Machine Learning 3 - 主成分(PCA)算法分析

最新推荐文章于 2026-05-15 07:04:59 发布
原创 最新推荐文章于 2026-05-15 07:04:59 发布 · 1.3k 阅读 · 0
标签
#AI #机器学习 #人工智能 #算法
本文介绍了主成分分析（PCA）的基本原理、数学实现及其在机器学习中的作用。PCA是一种用于降维的方法，通过线性变换减少数据集的复杂性，同时保持关键信息。它在数据压缩、图像处理、特征选择等方面有广泛应用。

AI

机器学习第三篇 - 主成分分析（Principal Compoent Analysis, PCA）。



今天趁下班后看了一会主成分分析算法介绍，其实之前有参加TK同事Machine Learning的系列分享，正好今天看到，现学现卖。


我们机器学习的系列介绍，以较为基础的基本理论为开始，逐步深入算法，以及过多到更多实际应用；

相信开始是比较枯燥和基础的，万丈高楼平地起，地基的牢固与否是决定你未来能走多高多远。


目录

  • PCA定义

  • 分析目标

  • 基本原理

  • 数学实现

  • PCA作用

  • 实际案例

  • 小结


1

 主成分分析（PCA）

最低0.47元/天 解锁文章
【machine learning】徒手实现PCA——训练篇
donnydcy的专栏
08-04 1511
最近在休假，没事儿写写总结。年龄大了，本来以前用的很熟，理解很到位的东西，现在一时半会儿却想不出来了。索性有时间做做总结，方便自己，也惠及大家~ 这篇文章主要介绍PCA的训练。在百度文库、百科里看到许多相关的词条，但是有些方法细节写的并不是很清楚，如果读者需要代码实现，要走很多弯路。结合我的理解，以及在CMU的课程学习和实践，把一些细节详细记述一下。这里主要使用了矩阵的描述，其实是将很长很长的公
机器学习实验：主成分分析PCA
匿名用户
11-06 1862
实验 4：主成分分析 （Principal Component Analysis） 介绍（Introduction） 在本次实验中，将实现主成分分析方法，并使用它获得人脸图像的低维表示。 本次实验需要用到的数据集包括： ex4data1.mat -2D 仿真数据集 ex4data2.mat -LFW人脸数据集 评分标准如下： 要点1：数据标准化--------------------（10分） 要点2：实现PCA算法-----------------（30分） 要点3：降维仿真数据----------
机器学习PCA——实验报告
weixin_51128278的博客
06-20 5090
机器学习实验报告1：PCA
#机器学习--实例--主成分分析
投笔丶从戎的博客
08-08 507
主成分分析（principal components analysis，PCA）是一个简单的机器学习算法，能够在损失精度尽可能少的前提下，对数据进行有损压缩。
机器学习---主成分分析（PCA）
yhx_jmdx的博客
04-06 372
主成分分析是一种统计方法，通过正交变换将一组可能存在相关性的变量转换成一组线性不相关的变量，转换后的这组变量叫主成分。 1、PCA sklearn.decomposition.PCA pca=PCA(n_components=1) newData=pca.fit_transform(data) n_components: PCA算法中所要保留的主成分个数n，也即保留下来的特征个数n 适用于数...
机器学习其他技术
w3222371135的博客
08-31 510
决策树（Decision Tree） 一种对实例进行分类的树形结构，通过多层判断区分目标所属类别 本质：通过多层判断，从训练数据集中归纳出一组分类规则 优点： 计算量小，运算速度快 易于理解，可清晰查看各属性的重要性 缺点： 忽略属性间的相关性 样本类别分布不均匀时，容易影响模型表现 目标： 根据训练数据集构建一个决策树模型，使它能够对实例进行正确的分类 问题核心： 特征选择，每一个节点，应该选用哪个特征。 决策树求解 信息熵是度量随机变量不确定性的指标，熵越大，变量的不确定性越大。 假设当
机器学习（MACHINE LEARNING）主成分分析（PCA降维）
NJU phd 在读。
08-22 1241
文章目录1 概述2 spss实现3 输出4 EXCEL权重计算(不接上面内容) 1 概述 主成分分析是一种统计学方法，它主要通过降维来简化数据结构，将多个变量转化成少数的几个综合变量，而综合变量能很好地表达原来多个变量的大部分信息，变量之间需要要具备相关性，而经过分析后的变量之间没有相关性。 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 在许多领域的研究与应用中
Andrew Ng Machine Learning 专题【PCA】
IronYoung_不惧未来
10-15 3410
此文是斯坦福大学，机器学习界 superstar — Andrew Ng 所开设的 Coursera 课程：Machine Learning 的课程笔记。力求简洁，仅代表本人观点，不足之处希望大家探讨。 课程网址：https://www.coursera.org/learn/machine-learning/home/welcomeWeek 8 前半部分 K-Means：http://blog.c
Machine Learning Refined无监督学习：PCA与K-means算法详解
最新发布
gitblog_00701的博客
05-15 928
Machine Learning Refined项目是一个通过Python从零构建核心概念和模型，帮助学习者掌握机器学习、深度学习和数学优化基础知识的开源项目。本文将详细介绍该项目中两种重要的无监督学习算法：主成分分析（PCA）和K-means聚类算法，为初学者提供简单易懂的理论解析和实际应用指南。 ## 无监督学习基础：探索数据的隐藏结构 🧩 无监督学习是机器学习的重要分支，它不需要人工标
机器学习-主成分分析（PCA）
cax1165
09-03 280
【机器学习】实验一 实验报告
最简示例破局！基础用法秒会，深层原理不绕弯。
11-12 9921
一、 参数说明 1、在开始贝叶斯判定前，先要设置上面几个参数。 第一个是样本数据所在文件名。 第二个是设置有多少个类别 第三个是每个类别有多少个样本数据 第三个是每个样本数据的维度 设置完这些，还有一项没设置就是先验概率。 先验概率在“sample.txt”文件中进行设置，具体sample.txt文件格式要求如下： 2、样例文件格式说明 文件开头是各个类的先验概率，有多少个类就应该有多少个先验概...
主成分分析PCA个人使用记录与总结
miemieyang999的博客
11-23 1460
在介绍 PCA 之前，不妨先考虑这样一个问题:对于正交属性空间中的样本点，如何用一个超平面(直线的高维推广)对所有样本进行恰当的表达? 容易想到，若存在这样的超平面，那么它大概应具有这样的性质: **最近重构性**:样本点到这个超平面的距离都足够近; **最大可分性**.样本点在这个超平面上的投影能尽可能分开. 内积、基、协方差矩阵相关介绍可参考https://zhuanlan.zhihu.com/p/77151308 **PCA流程：**（假设m条n维数据） n行m列矩阵X，一列是一个样本，将X的每.
【机器学习】主成分分析详解
热门推荐
lyl771857509的博客
03-04 6万+
一、PCA简介 1. 相关背景 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 上完陈恩红老师的《机器学习与知识发现》和季海波老师的《矩阵代数》两门课之后，颇有体会。最近在做主成分分析和奇异值分解方面的项目，所以记录一下心得体会。 在许多领域的...
PCA(Principle Compents Analysis)主成分分析 机器学习实战报告
qq_34034442的博客
07-13 530
一、概述在处理高维数据时，常常数据间有相关性造成一定冗余，这样不仅降低了计算效率浪费了计算资源也可能是问题更复杂得到更加不精确的结果，所以我们要对数据进行降维，降维的目的：1.减少预测变量的个数2.确保这些变量是相互独立的3.提供一个框架来解释结果降维的方法有：主成分分析、因子分析、用户自定义复合等。这里讨论主成分分析，其好处还在于能除去部分噪声。二、用Numpy执行PCA其步骤：1. 均值归一化...
ML常用资料链接
waeceo的专栏
10-08 481
ML常用资料链接 1.1000题 https://blog.csdn.net/v_JULY_v/article/details/78121924 2.
【机器学习】主成分分析
HerosOfEarth的博客
08-07 1728
PCA方法把数据从原来的坐标系转换到一个新的坐标系，坐标系的方向要根据数据的方差决定。
机器学习 - 主成分分析法 PCA
weixin_41332009的博客
01-23 364
一、背景 在机器学习中，处理成千上万甚至几十万维特征的情况也并不罕见。在这种情况下，机器学习的资源消耗是不可接受的，因此我们必须对数据进行降维。 降维当然意味着信息的丢失，不过鉴于实际数据本身常常存在的相关性，我们可以想办法在降维的同时将信息的损失尽量降低。 那么如何降维呢？例如京东店铺的数据中，“浏览量”和“访客数”往往具有较强的相关关系，而“下单数”和“成交数”也具有较强的相关关系。这时，如果我们删除浏览量或访客数其中一个指标，我们应该并不会丢失太多信息。因此我们可以删除一个，以降低机器学习算法的复
机器学习理论《统计学习方法》学习笔记：主成分分析（PCA）
紫芝的博客
11-20 3792
第十六章 主成分分析（PCA）摘要1 总体主成分分析1.1 基本思想1.2 总体主成分分析定义1.3 主成分的个数1.4 规范化变量的总体主成分分析2 样本主成分分析2.1 样本主成分的定义和性质 摘要 主成分分析（Principal component analysis, PCA）是一种常用的无监督学习方法。这一方法利用正交变换，把由线性相关变量表示的观测数据，转换为少数几个由线性无关变量表示的数据，线性无关的变量称为主成分。主成分的个数通常小于原始变量的个数，所以主成分分析属于降维方法。主成分分析主要用
机器学习笔记-主成分分析（PCA）
小刘同学要努力的博客
12-16 427
机器学习 主成分分析 PCA
基于OpenCV的人脸识别算法之一---理论基础
LIT_Elric的博客
04-12 3435
摘 要：人脸识别几乎是所有刚入门机器视觉方面的同学最感兴趣的一个方面，当然我也不例外。利用OpenCV，我们可以很方便的就实现人脸识别算法，当然精度有待提高，所以就要求我们必须掌握其原理才能更进一步的提升自己的能力。这里给出利用OpenCV实现人脸识别程序的整个流程，一来巩固自己所学的知识，二来也能帮助刚入门的同学们。本文首先介绍了OpenCV中FaceRecognizer类的理论基础，然后结合具...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值