43、核岭回归学习模型的时间自适应更新算法及相关统计分析

核岭回归学习模型的时间自适应更新算法及相关统计分析

1. 内蕴空间递归核岭回归算法

在核岭回归（KRR）学习模型中，内蕴空间递归KRR算法是一个重要的组成部分。首先，我们定义 $\varGamma_t \equiv [P_t]^{-1}$，其中 $P_i$ 在线性估计中被称为“精度矩阵”。那么，$\varGamma_{t + 1} = [P_t + \vec{\varphi} {t + 1}\vec{\varphi} {t + 1}^T]^{-1}$。

基于截至当前的观测值，即 $\varPhi_t$、$y_t$ 和 $\vec{\varphi} {t + 1}$，对于新输入 $x {t + 1}$ 在时间 $t + 1$ 的响应预测为：
$\hat{y} {t + 1} = \hat{u}_t^T\vec{\varphi}(x {t + 1})$

当时间 $t + 1$ 的真实响应 $y_{t + 1}$ 已知时，估计器可以进一步更新为：
$\hat{u}’ = \hat{u} {t + 1} = \varGamma {t + 1}\varPhi’\varGamma_{\varepsilon}’^{-1}y’ = \varGamma_{t + 1}[\varPhi\varGamma_{\varepsilon}^{-1}y + y_{t + 1}\sigma_{\varepsilon}^{-1}\varphi_{t + 1}]$

零创新特性（ZIP）

直观地说，如果新观测到的响应恰好与预测值完全相同，那么更新后的系数应该与之前相同