数学模型
如果12(x ,x ,,x ;y ),i 1,2,,n i i ip i =是变量12(x ,x ,
,x ;y)p 的一组观测值,则线性回归模型可表示为 01122,1,2,,n i i i p ip i y x x x i ββββε=+++
++= 为了估计模型参数的需要,古典线性回归模型通常应满足以下几个基本假设。
1.随机误差项具有零均值和等方差,即
2()0,(i 1,2,,n),i j cov(,)(i,j 1,2,,n)0,i i j E i j εσεε==⎧⎪⎧=⎨==⎨⎪≠⎩⎩
这个假定称为高斯—马尔科夫条件。
2.正态分布假设条件
212~(0,)i 1,2,,n ,,i n N εσεεε⎧=⎨⎩相互独立
由上述假定和多元正态分布的性质可知,随机变量y 遵从n 维正太分布。
为了书写的方便,通常采用矩阵形式,记
12n y y Y y ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ 013ββββ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ 2112222111p p n
pn x x x x X x x ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦ 12n εεεε⎧⎫⎪⎪⎪⎪=⎨⎬⎪⎪⎪⎪⎩⎭ 则多元线性回归模型可表示为:Y X βε=+
上述的正态分布假定条件可表示为:2~(0,I )n N εσ
n I 为n 阶单位阵,0表示分量全为零的向量。
有多元正态分布的性质可知,随机向量Y 遵从n 为正态分布,回归模型式的数学期望为:(Y)X E β=。