Ridge回归如何缓解多重共线性？
请解释**Ridge回归(L2正则化)如何处理特征间的多重共线性(Multicollinearity)**问题。
回答
专业代码师
当特征间存在强相关（多重共线性）时，普通最小二乘法（OLS）的(XᵀX)矩阵接近奇异，导致权重估计极不稳定、方差很大。Ridge回归加入L2惩罚项（λI）后，求解变为 ŵ = (XᵀX + λI)⁻¹Xᵀy。(XᵀX + λI) 始终可逆，解决了奇异性问题。λ越大，权重越小但越稳定。Ridge在偏差和方差之间折中：增加少量偏差（权重略小），但大幅降低方差，使总预测误差降低。