van der Vaart渐进统计之半参：1. 初探

半参模型指的是，参数并不是Euclidean Vector，而是包含在（range over）一个无穷维的参数集合里。观测数据来自于P分布，这里的模型说白了就是，P的集合，样本空间的一系列测度集合。

最简单的无穷维模型就是非参模型，我们观测到的随机样本来自于完全不知道的分布。这样就样本空间的所有概率测度。跟你的直觉一样，经验分布是这些分布里渐进有效的估计（asymptotically efficient estimator）。

半参是折中的模型，既不是被Euclidean parameter很好地参数化，但也会把分布做一些限制。比如，会被无穷维参数（cdf、pdf等）所参数化，有一些结构在里面，可能形如，其中是Euclidean参数，可以跑遍一族非参分布或者其他无穷维集合。我们的目标是估计，称为nuisance parameter。

举个例子，异方差回归

传统异方差回归会让服从一个参数分布，比如正态分布（你把Z当成一个常数就行）。半参版本的话就会让在实数轴上跑，或者在所有分布上跑，只要它均值为0就行。