交叉验证(Cross validation)

本文详细介绍了交叉验证的概念及其在预防模型过拟合中的作用,并重点讲解了K折交叉验证的具体实施步骤,包括数据集划分、模型训练及测试错误计算等。

交叉验证(Cross validation)

交叉验证用于防止模型过于复杂而引起的过拟合(作用)


如何交叉验证:
我这里主要介绍K交叉验证
1 将数据集分成K份
2 对于每一个模型(拿多项式回归举例, m=2为一个模型,m=3为一个模型。。。我们主要就是寻找最好的m){也就是m每次取一个值的时候}
  for j=1,2,...,k
      将除第j份的所有数据作为训练集用于训练,得到训练参数。
      将训练参数在第j份数据上进行测试,得到测试错误E(j);
3 经过第二步就得到了K个模型,和K个测试错误,将这K个错误求平均,就是该模型的estimated generalization error。
estimated generalization error最小的模型即为我们最优的模型,(例如发现m=3时平均错误最小)我们取这个模型再对所有数据进行训练,得到一个模型参数即为所求。
这样就避免了数据浪费,所有数据都有用于过训练。



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值