过拟合VS欠拟合、偏差VS方差
2024-08-24 15:16:04
1. 过拟合 欠拟合
过拟合：在训练集（training set）上表现好，但是在测试集上效果差，也就是说在已知的数据集合中非常好，但是在添加一些新的数据进来训练效果就会差很多，造成这样的原因是考虑影响因素太多，超出自变量的维度过于多了；
欠拟合：模型拟合不够，在训练集（training set）上表现效果差，没有充分的利用数据，预测的准确度低；
高阶多项式回归的过拟合与欠拟合
逻辑回归的过拟合与欠拟合
2. 偏差 方差
偏差：首先error=bias+variance；bias反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精确度；
方差：Variance反映的是模型每一次输出结果与模型输出期望之间的误差，即模型的稳定性；
- 低偏差低方差时，是我们所追求的效果，此时预测值正中靶心(最接近真实值)，且比较集中(方差小)。
- 低偏差高方差时，预测值基本落在真实值周围，但很分散，此时方差较大，说明模型的稳定性不够好。
- 高偏差低方差时，预测值与真实值有较大距离，但此时值很集中，方差小；模型的稳定性较好，但预测准确率不高，处于"一如既往地预测不准"的状态。
- 高偏差高方差时，是我们最不想看到的结果，此时模型不仅预测不准确，而且还不稳定，每次预测的值都差别比较大。
最新文章
- 转：serialVersionUID作用
- 【完全开源】知乎日报UWP版（下篇）：商店APP、github源码、功能说明。Windows APP 良心出品。
- 文本选择问题： css & js
- MongoDB安装及配置成服务
- freeCodeCamp:Chunky Monkey
- mysql-1
- 洛谷 P1262 间谍网络 Label: Kosarajn强联通
- unity3d 基于物理渲染的问题解决
- Redis persistence demystified - part 1
- 简约的单页应用引擎：sonnyJS
- Java中常见数据结构List之ArrayList
- Git常用命令（二）------ 远程库操作
- TensorFlow框架（一） 张量、计算图、会话
- 最小生成树 prime+heap
- Spring Boot读取配置的几种方式
- 创建spark_读取数据
- HTML的简介
- Eclipse安装ModelGoon控件（ModelGoon控件反向生成UML）
- 【题解】 bzoj1055: [HAOI2008]玩具取名 （动态规划）
- 【mNOIP模拟赛Day 1】 T2 数颜色