习题¶
Ex 2.3¶
-
题目:
-
求解:
-
数据点与原点的距离看成随机变量X,因为数据点均匀分布,则 X 的分布函数正比于
-
则次序统计量的分布满足
-
解得
Ex 2.5¶
- 题目:
-
求解:
-
第一问:需要利用条件期望,使得内部固定,从而推出固定情况下最小二乘参数的方差。
-
第二问:
Ex 2.6¶
-
题目:
-
题目大意:最小二乘法中若存在重复数据,则普通最小二乘可以看成是 (样本量)减少的加权最小二乘 (reduced weighted least squares).
-
知识补充:见加权最小二乘法
-
解:设是去重之后的矩阵
-
假设 假设的含义为:其中是每行只要1一个为1,其他全为0的矩阵;是对角阵,且是的重复数,;取重复的均值
-
对于普通的最小二乘法,其结果和的加权最小二乘一致
-
即下述两个公式优化目标相同
-
其他的证明方法
如果对于, 有个解,则最小二乘优化目标为 通过进行展开可以得到 可见原始数据最小二乘相当于相当于使用均值,进行加权后的优化目标
Ex 2.9¶
-
题目:
-
题目大意:考虑维的线性回归,对训练集进行最小二乘。让是最小二乘估计,假设有测试数据也是从相同分布随机取的,证明训练数据的均方误差的期望一定小于等于测试数据的均方误差的期望
-
证明: