以下是关于最小二乘法(Ordinary Least Squares, OLS)估计的理论推导与证明的详细解析,内容涵盖基本假设、一元/多元线性回归的推导、统计性质及几何解释等内容。 1. 最小二乘法的核心思想与基本假设 核心思想:通过最小化残差平方和(RSS)求解模型参数: ``` \begin{equation} \operatorname{RSS}(\boldsymbol{\beta})=\sum_{i=1}^n\left(y_i-\hat{y}_i\right)^2=(\mathbf{y}-\mathbf{X…