深入理解张量第二章张量分解与降维 (Tensor Decompositions & Dimensionality Reduction)

原创于 2026-02-28 07:47:30 发布 · 71 阅读

·

0

·

人工智能技术白皮书专栏收录该内容

251 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

目录

第二章张量分解与降维 (Tensor Decompositions & Dimensionality Reduction)

2.1 经典矩阵分解的张量推广

2.1.1 奇异值分解（SVD）与张量SVD（t-SVD）意矩阵分解为左奇异向量、奇异值矩阵与右奇异向量的乘积，提供了最优低秩逼近的理论框架。向张量的推广面临根本困难：高阶张量的"秩"定义不唯一，导致存在多种SVD推广路径。

2.1.1.1 矩阵SVD的最优低秩逼近理论

2.1.1.2 离散傅里叶变换下的张量SVD与循环嵌入

2.1.2 主成分分析（PCA）与多线性PCA（MPCA）

2.1.2.1 方差最大化的张量推广

2.1.2.2 人脸识别的张量子空间学习方法（TensorFaces）

2.2 CANDECOMP/PARAFAC (CP) 分解

2.2.1 CP分解的数学模型与可识别性

2.2.1.1 秩-R CP分解的唯一性条件（Kruskal-Rank）

2.2.1.2 交替最小二乘（ALS）算法与收敛性分析

2.2.2 非负CP分解与概率解释

2.2.2.1 非负性约束与潜在语义分析

2.2.2.2 贝叶斯CP分解与变分推断

2.2.3 深度学习中的CP分解应用

2.2.3.1 卷积核的CP分解与模型压缩（MobileNet设计原理）

2.2.3.2 知识图谱的Neural Tensor Network（NTN）实现

2.3 Tucker分解与高阶SVD (HOSVD)

2.3.1 Tucker分解的核心张量与因子矩阵

2.3.1.1 多线性秩与截断Tucker逼近

2.3.1.2 高阶正交迭代（HOOI）算法

2.3.2 张量链（Tensor Train, TT）与层次Tucker（HT）分解

2.3.2.1 TT分解的链式结构与O(dr²)参数复杂度

2.3.2.2 层次Tucker的树结构与维度灾难破解

2.3.3 张量环（Tensor Ring, TR）分解

2.3.3.1 TR分解的循环结构特性

2.3.3.2 深度神经网络权重的TR压缩（Compressing Deep Nets）

2.4 深度张量分解（Deep Tensor Decomposition）

2.4.1 线性深度TD：分层递归分解结构

2.4.1.1 深度CP分解的多层因子矩阵级联

2.4.1.2 深度Tucker分解的核心张量递归

2.4.2 非线性深度TD：神经网络增强的张量模型

2.4.2.1 MLP-based非线性映射与因子学习

2.4.2.2 CNN-based张量补全与时空特征提取

2.4.3 神经张量分解（Neural Tensor Factorization）

2.4.3.1 Neural Tensor Factorization（NTF）框架

2.4.3.2 图神经网络与张量分解融合（GNTD）

第二章张量分解与降维 (Tensor Decompositions & Dimensionality Reduction)

张量分解将高阶张量表示为若干低维因子的组合，在保持数据内在结构的同时实现维数约减。与矩阵分解相比，张量分解能够捕获多线性关系，避免向量化导致的高阶结构损失，在信号处理、计算机视觉与深度学习领域展现出独特优势。

标签

#人工智能 #机器学习 #深度学习

了解本专栏

超级会员免费看

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

VectorShift 你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。