线性回归核心 —— 误差项为什么必须服从高斯分布

一句话精华线性回归的所有数学推导都建立在 误差项独立同分布且服从高斯分布 这个假设之上。一、一元线性回归模型基础公式yβ0β1xε→β0、β1模型参数待求→ε误差项除线性因素外的随机因素产生的误差关键问题误差项能省略吗→ 不能。正是因为有误差项我们才能基于误差的特点来估计参数。二、误差项三大假设假设1独立每个样本点相互独立。例贷款场景中每个人贷多少钱只基于自己的工资互不影响。假设2同分布所有样本都服从同一套分布体系。例人民银行的评估体系对每个人都一样不会因人而异。假设3高斯分布正态分布误差项服从均值为 0、方差为σ2的正态分布三、为什么必须是高斯分布因为只有误差服从高斯分布才能用极大似然估计推导出最小二乘损失函数整个参数求解才有数学依据。推导链路误差项满足高斯分布 →将代入得到y的条件概率分布用极大似然估计 → 最终推导出最小二乘损失函数结论高斯分布假设不是随便选的它是 最小二乘法 的数学根基。