【SVD】奇异值分解 -- 学习笔记

最新推荐文章于 2024-06-13 10:53:39 发布
原创 最新推荐文章于 2024-06-13 10:53:39 发布 · 2.1k 阅读 · 14
标签
#机器学习 #矩阵
本文深入探讨奇异值分解(SVD)的原理与应用，包括不同类型的SVD分解，如完全奇异值分解(FULLSVD)和经济型奇异值分解(economicsvd)，以及SVD在低秩逼近、矩阵特征值和特征向量计算中的作用。通过实例解析，帮助读者理解如何通过SVD求解矩阵的奇异值和奇异向量。

参考资料：数值分析

  • 若A为Hermite阵，
    可用-酉相似变换-将其化为对角形式： Q ∗ A Q = Λ Q^{*}AQ=\Lambda Q∗AQ=Λ，即得到谱分解，也就是特征值分解；
    谱分解保持矩阵的秩和特征值不变。
  • 若A非Hermite阵，
  1. 可用-初等变换-化为比较简单的对角形式，
    A = P [ I 0 0 0 ] Q A=P\begin{bmatrix}I&0\\0&0\end{bmatrix}Q A=P[I0​00​]Q
    即满秩分解,保持矩阵的秩不变；
  2. 可用-相似变换-将其化为Jordan形，即Jordan分解， A = P J P − 1 A=PJP^{-1} A=PJP−1，保持矩阵的秩和特征值不变。
  3. 可用-酉相似变换-将其化为上三角形式，即Schur分解 A = Q R Q ∗ A = QRQ^{*} A=QRQ∗，保持秩和特征值不变。
  4. 可用-酉变换-（不要求相似）j将其化为对角形式，即奇异值分解 A = U Σ V ∗ A=U\Sigma V^{*} A=
最低0.47元/天 解锁文章
图片压缩：SVD（奇异值分解）之近似矩阵
u010720150的博客
02-02 2541
写这篇博客的初衷的是想让读者浅尝一下SVD的魅力。 处于大数据时代，真的是，“SVD在手，天下我有”。最关键的是，SVD很容易理解，简单的线性代数知识就够了。
奇异值分解（SVD）（Singular Value Decomposition）
热门推荐
大风车
10-01 2万+
奇异值分解在机器学习中经常碰到，今天详细讲讲。本文章中说的"矩阵" / "向量" 都指的是实数矩阵/实数向量，我们只说实数域内的情况。 整数有质因子分解，比如12=2*2*3。分解成2*2*3后，比单单研究12这个数，我们会容易得到一些信息，比如，12这个数不能整除5；一个数 n 乘12后，会整除 2 和 3；等等。 那么矩阵呢，我们是否可以对矩阵进行分解以获取一些有用的信息呢？答案是任何一个矩阵都可以进行奇异值分解。 我们在说奇异值分解之前，需要先说说特征值分解。 特征分解（Eigendecom.
线性代数高级--矩阵的秩--SVD分解定义--SVD分解的应用
m0_67093160的博客
06-28 2308
线性代数高级--矩阵的秩--SVD分解定义--SVD分解的应用
利用相关性进行SVD计算
qq_49277759的博客
05-15 858
利用相关性进行SVD计算 首先在说SVD之前回忆一波特征值分解： 特征值分解 特征值分解简单来说就是把矩阵A\mathbf{A}A分解成特征向量矩阵×\times×特征值形成的对角矩阵×\times×特征向量矩阵的逆的形式,即 A=VΛV−1(1) \tag{1} \mathbf{A = V\Lambda V^{-1}} A=VΛV−1(1) 其中 V\mathbf{V}V 是 A\mathbf{A}A 的特征向量 上式还可以写成这样，即原矩阵 ×\times× 特征向量矩阵 = 特征向量矩阵 ×\tim
奇异值分解
孟凡驰的博客
03-23 1985
奇异值分解 定理：设A为m*n阶复矩阵，则存在m阶酉阵U和n阶酉阵V，使得： A = U*S*V’ 其中S=diag(σi,σ2,……,σr)，σi>0(i=1,…,r)，r=rank(A)。 推论：设A为m*n阶实矩阵，则存在m阶正交阵U和n阶正交阵V，使得 A = U*S*V’ 其中S=diag(σi,σ2,……,σr)，σi>0(i=1,…,r)，r=rank(A)。 说明：
奇异值分解（SVD）学习笔记
m0_72410588的博客
05-05 690
本篇文章主要介绍了奇异值分解（SVD）的基本原理、计算方法以及应用，包括数据降维、数据压缩、推荐系统等。SVD作为一种经典的线性代数技术，在实际应用中有着广泛的应用前景。
SVD（奇异值分解）学习笔记
weixin_41690997的博客
03-06 818
奇异值分解物理意义 从几何上，SVD分解就是通过M将一组正交基映射到另一组正交基。 记映射后的向量Mv1为u1,Mv2为u2,Mv1的模为σ1，Mv2的模为σ2。 接下来我们就可以推导了： （类似于特征值特征向量的表达式） 这时候λ就被称为特征向量v对应的特征值，一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个矩阵分解成下面的形式： 其中Q是这个矩阵A的特征向量组成的矩阵，...
线性代数学习笔记10-1：奇异值分解SVD（SVD的由来和推导、SVD与极分解、SVD的应用）
Insomnia_X的博客
09-12 2391
回顾：当对角化（特征值分解）不可用时，我们转而寻求奇异值分解SVD，可将其视为“广义的特征值分解”下面将看到，奇异值分解是矩阵最终的、最好的分解 ps.本文主要从数学上的“广义特征值分解”角度来介绍奇异值分，实际上也可从几何意义上理解奇异值分解SVD（Singular value decomposition）：任意矩阵可分解为Am×n=Um×mΣm×nVn×nT\boldsymbol{A}_{m\times n} =\boldsymbol{U}_{m\times m} \boldsymbol{\Sigma}
奇异值分解（SVD）学习笔记（python）
Chelseady的博客
09-19 1445
一.原理 SVD的性质： SVD计算举例： 二. SVD（奇异值分解）： 优点：简化数据，去除噪声点，提高算法的结果； 缺点：数据的转换可能难以理解； 适用于数据类型：数值型。 通过SVD对数据的处理，我们可以使用小得多的数据集来表示原始数据集，从有噪声的数据中抽取相关特征，这样做实际上是去除了噪声和冗余信息，以此达到了优化数据、提高结果的目的。 最早...
SVD奇异值分解
胖胖熊的专栏
09-20 2286
zz: http://foreveralbum.yo2.cn/articles/singular-value-decomposition-svd.html Posted on 2009-08-02 by SVD分解 SVD分解是LSA的数学基
SVD在餐馆菜肴推荐系统中的应用
anqiu4023的博客
01-12 941
SVD在餐馆菜肴推荐系统中的应用 摘要：餐馆可以分为很多类别，比如中式、美式、日式等等。但是这些类别不一定够用，有的人喜欢混合类别。对用户对菜肴的点评数据进行分析，可以提取出区分菜品的真正因素，利用这些因素我们可以估计人们对没去过的餐厅的看法。提取这些信息的方法就是SVD（Singular Value Decomposition）。本文首先介绍SVD的数学原理，然后简单介绍推荐系...
深入理解SVD
gaoxueyi551的专栏
11-07 1473
本篇文章不会对SVD、PCA的相关理论过于深入的讲解，因为相关的优秀文章太多了。本文仅仅是对SVD以及PCA进行提纲挈领的一些介绍，忽略一些细节上的讲解。 一、SVD概要 首先，SVD要干什么？它的作用是把任何一个实矩阵分解为三个子矩阵的乘积： ...
〖矩阵论笔记一〗奇异值分解（SVD）
地中海の养成记
01-12 9713
奇异值分解(singular value decomposition, SVD)是一种矩阵因子分解方法，是线性代数的概念，它在优化问题、最小二乘问题、广义逆矩阵及统计学习中被广泛使用，成为其重要工具。 奇异值分解1 定义与性质2 奇异值分解的算法2.1 算法一2.2 算法二3 奇异值分解代码 1 定义与性质 奇异值分解是指任意一个mxn矩阵，都可以表示为三个矩阵的乘积(因子分解)形式，分别是m阶正交矩阵、由降序排列的非负的对角线元素组成的mxn矩形对角矩阵和n阶正交矩阵。 奇异值：设A∈Crm∗nC^{m
SVD分解
utopia的专栏
11-26 5278
 定义：设A为m*n阶矩阵，AHA的n个特征值的非负平方根叫作A的奇异值。记为σi(A)。>如果把AHA的特征值记为λi(A)，则σi(A)＝λi(AHA)^(1/2)。>>奇异值分解是线性代数中一种重要的矩阵分解，在信号处理、统计学等领域有重要应用。定理（奇异值分解）设A为m*n阶复矩阵，则存在m阶酉阵U和n阶酉阵V，使得：>>A = U*S*V’>>其中S=diag(σi,σ2
奇异值分解（Singular Value Decomposition SVD）浅说
weixin_54729407的博客
06-13 1225
奇异值分解(SVD)是计算时代最为重耍的矩阵分解方式之、提供了一种数值稳定的矩阵分解结果，可用于多种应用目的并保证矩阵分解的存在性。
奇异值分解(SVD)原理详解及推导
Luoyingfeng的博客
04-10 978
    在网上看到有很多文章介绍SVD的，讲的也都不错，但是感觉还是有需要补充的，特别是关于矩阵和映射之间的对应关系。前段时间看了国外的一篇文章，叫A Singularly Valuable Decomposition The SVD of a Matrix，觉得分析的特别好，把矩阵和空间关系对应了起来。本文就参考了该文并结合矩阵的相关知识把SVD原理梳理一下。   ...
全面理解奇异值分解
nstarLDS的博客
05-20 1万+
本篇笔记主要参考《统计学习方法》 奇异值分解的定义与性质 奇异值分解又叫做SVD，是一种矩阵因子分解方法，是统计学习中的重要工具。 任意一个m x n矩阵，都可以表示为三个矩阵的乘积形式，分别是m阶标准正交矩阵、由降序排列的非负对角线元素组成的m x n矩形对角矩阵和n阶标准正交矩阵，这就称为该矩阵的奇异值分解。 奇异值分解可以看作矩阵数据压缩的一种方法，即用因子分解的方式近似地表示原始矩阵，这种近似是在平方损失意义下的最优近似。 统计学习方法中对奇异值分解定义如下 其中 UUT=IVVT=IΣ=diag
奇异值分解（SVD）的之低秩近似和特征降维
u013571243的专栏
03-12 1万+
http://www.linuxidc.com/Linux/2014-06/103495.htm     我们在这一篇《模式识别、推荐系统中常用的两种矩阵分解-----奇异值分解和非负矩阵分解 》中详细介绍了矩阵奇异值分解的数学证明，我们沿用这一篇的博文的符号，继续讨论这一章的内容。 矩阵的奇异值分解定理： 设矩阵，秩为，，则该矩阵可以分解为： 也可以表示为： 。 其中：为
java 矩阵题目_一个利用矩阵打洞技巧的题目（抛砖引玉）
weixin_39605191的博客
10-26 744
这是一个关于辛矩阵的题目，我们通过这个题目引出后面的技巧。设 且满足 求证 下面我们开始分析这个题目。首先观察表达式，我们很自然的想到矩阵分块，对 进行如下的分块 并带入题目中的等式，我们有如下的方程成立 提取其中的关键信息： 从这两条信息入手来求解本题。第二条信息看起来对本题的结果十分契合，因为从第二个式子可以得到： 我们不妨试着去寻找 和 的关系，看到这里，见过矩阵打洞求行列式这类题...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值