线性代数（核心基础）
-
核心概念：
-
向量与矩阵运算（加法、乘法、转置）
-
矩阵的秩、行列式、迹、逆矩阵
-
特征值与特征向量（用于主成分分析/PCA）
-
奇异值分解（SVD）与特征分解
-
张量基础（多维数组，在深度学习中广泛应用）
-
向量空间与线性变换
-
-
应用场景：
-
神经网络权重矩阵、图像处理、自然语言处理中的词向量表示（如Word2Vec）。
-
概率与统计（建模不确定性）
-
核心概念：
-
概率基础：条件概率、贝叶斯定理
-
常见分布：高斯分布、伯努利分布、泊松分布、指数族分布
-
期望、方差、协方差与相关系数
-
大数定律与中心极限定理
-
统计推断：假设检验、置信区间、最大似然估计（MLE）、最大后验估计（MAP）
-
贝叶斯统计与朴素贝叶斯分类器
-
马尔可夫链与蒙特卡洛方法（MCMC）
-
-
应用场景：
-
机器学习模型（如贝叶斯网络、隐马尔可夫模型）、数据分布分析、模型评估。
-
微积分（优化与模型训练的核心）
-
核心概念：
-
导数与偏导数（梯度计算）
-
链式法则（反向传播的基础）
-
泰勒展开（近似优化）
-
多元函数的极值与拉格朗日乘数法（约束优化）
-
积分与概率密度函数
-
梯度下降法（SGD、Adam等优化算法）
-
-
应用场景：
-
神经网络参数优化、损失函数的最小化。
-
优化理论（模型训练的核心数学工具）
-
核心概念：
-
凸优化与非凸优化（全局最优与局部最优）
-
梯度下降法及其变体（动量法、自适应学习率）
-
约束优化（如KKT条件）
-
拉格朗日对偶性
-
随机优化与批量优化
-
牛顿法、拟牛顿法（如L-BFGS）
-
-
应用场景：
-
机器学习模型的参数优化、损失函数设计。
-
信息论（理解数据与模型复杂性）
-
核心概念：
-
信息熵、联合熵、条件熵
-
交叉熵与KL散度（模型损失函数，如分类任务）
-
互信息与特征选择
-
编码理论基础（如压缩与生成模型）
-
-
应用场景：
-
决策树（ID3算法）、模型复杂度控制、生成对抗网络（GAN）。
-
离散数学（算法与逻辑基础）
-
核心概念：
-
图论：图结构、最短路径算法、树结构（如决策树）
-
组合数学：排列组合、动态规划
-
逻辑与布尔代数（符号AI的基础）
-
-
应用场景：
-
知识图谱、强化学习中的状态转移、算法设计。
-
数值分析（实现稳定性与效率）
-
核心概念：
-
数值稳定性（如梯度消失/爆炸）
-
矩阵分解的数值方法（LU分解、QR分解）
-
迭代法与收敛性分析
-
浮点数误差与条件数
-
-
应用场景：
-
深度学习框架底层实现、矩阵运算加速。
-
1691
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
