17
第八章 因子分析
(3) 主成分分析是将主成分表示为原变量的线 性组合,而因子分析是将原始变量表示为公因子 和特殊因子的线性组合,用假设的公因子来“解 释”相关阵的内部依赖关系.
这两种分析方法又有一定的联系.当估计方法 采用主成分法,因子载荷阵A与主成分的系数相 差一个倍数;因子得分与主成分得分也仅相差一 个常数.这种情况下可把因子分析看成主成分分 析的推广和发展.
(D AA)1 D 1 D 1 A(I m AD 1 A)1 AD 1 (2) A(D AA)1 (I m AD 1 A)1 AD 1 (3) I m A(D AA)1 A (I m AD 1 A)1
由第三式和第二式即得 Im (Im AD1A)1 A(D AA)1 A
I
mA
p m
记B22•1 Im AD1 A, B11•2 D AA,
利用附录中分块求逆的二个公式(4.1)和(4.2)有：
11
第八章 因子分析
B 1
D A
I
A
m
1
B11 B 21
B12 B 22
D 1
D
1A
B1 22•1
AD
1
B 1 22•1
AD
1
D
1A
B1 22•1
B 1 22•1
则 D diag(BB)
E S (AA D) BB D,即BB E D.
15
第八章 因子分析
因
BB
m1lm 1
(
p lp
m1lm1, ,
p
l
p
)
m1
0
0
p
p
故 2j tr(BB BB) tr(BB BB)
j m 1
tr[(E D)(E D)] tr[EE ED DE DD]
解 : m 2的因子模型的主成分解为:
0.8757 0.1802
A(
1l1,
2
l2
)
0.8312
0.4048,
0.7111 0.6950
7
第八章 因子分析
D
0.2007 0 0
0 0.1452
0
0.0100131
则m 2的正交因子模型为
X1 0.8757F1 0.1802F2 1 X 2 0.8312F1 0.4048F2 2 X 3 0.7111F1 0.6950F2 3
是通常的变量变换,而因子分析需要构造因子模型; (2) 主成分分析中主成分的个数和变量个数p相
同,它是将一组具有相关关系的变量变换为一组互 不相关的变量(注意应用主成分分析解决实际问题 时,一般只选取前m(m<p)个主成分),而因子分析的 目的是要用尽可能少的公共因子,以便构造一个结 构简单的因子模型;
(1)取公因子个数m 1时,求因子模型的主成分解,
并计算误差平方和Q(1).
解 : m 1的因子模型的主成分解为:
0.8757 0.2331 0
0
A(
1
l1
)
0.8312 0.7111
,
D
0 0
0.3091 0
0.40943
5
第八章 因子分析
记 E1 R (AA D)
1
0.63 1
这两种方法都是降维的统计方法,它们都可用 来对样品或变量进行分类.
18
D
0.0019
0 0.51 0
0.0075
4
第八章 因子分析
8 2 已知8 1中R的特征值和特征向量为
1 1.9633 l1 (0.6250,0.5932,0.5075), 2 0.6795 l2 (0.2186,0.4911,0.8432), 3 0.3672 l3 (0.7494,0.6379,0.1772).
(Im AD1A)1 AD1A (1)
13
第八章 因子分析
8-4 证明公因子个数为m的主成分解，其误差平方
和Q(m)满足以下不等式
pp
p
Q(m)
2 ij
2j ,
i1 j1
j m1
其中E＝S-(AA′+D)=(εij),A,D是因子模型的主成分估计.
解：设样本协差阵S有以下谱分解式：
p
m
p
00..13455
1
0.7279 1
00..651292171
0
0.0979 0
00..102742171
6
第八章 因子分析
33
故 Q(1)
2 ij
2 (0.09792
0.17272
0.24112 )
i1 j1
0.1951
(2)取公因子个数m 2时,求因子模型的主成分解,
并计算误差平方和Q(2).
a31 0.5, a21 0.7, a11 0.9,
2 1
1
a121
1
0.81
0.19,
2 2
1
a221
0.51,
2 3
1
a321
0.75
3
第八章 因子分析
故 m 0.7F1 2 X 3 0.5F1 3
特殊因子ε＝(ε1, ε2,…,εp)'的协差阵D为：
应用多元统计分析
第八章习题解答
第八章 因子分析
2
第八章 因子分析
a121
2 1
1
a221
2 2
1
a321
2 3
1
a11a21 0.63
a11a31 0.45
a21 a31
0.63 0.45
7 5
, a21
7 5
a31
a31
7 5
a31
0.35,
a321
0.35 7
5
0.25
a31a21 0.35
9
第八章 因子分析
或者利用习题8-4的结果:
pp
p
p
p
Q(m)
2 ij
2j
(
2 i
)2
2j ,
i1 j1
j m1
i1
j m1
Q(1)
(22
32 )
[(
2 1
)
2
(
2 2
)2
(
2 3
)2 ]
0.67952 0.36722 [0.23312 0.30912 0.49432 ]
0.5966 0.3943 0.2023
8-3 验证下列矩阵关系式(A为p×m阵)
(1) (I AD1A)1 AD1A I (I AD1A)1;
(2) ( AA D)1 D1 D1A(I AD1A)1 A1D1;
(3) A( AA D)1 (Im AD1A)1 AD1.
解：利用分块矩阵求逆公式求以下分块矩阵的逆：
B
D A
S ilili ilili ilili
i 1
i 1
i m 1
其中1 2 p 0 为S的特征值，li为相应的
标准特征向量。
14
第八章 因子分析
设A,D是因子模型的主成分估计,即
A 1l1 mlm ,
若记 B l m1 m1 p lp , 有
S (A | B) BA AA BB
p
Q(m) 0 0
(
2 i
)2
所以 Q(m) p
p
i 1p
p
2 ij
2j
(
2 i
)
2
p
2j ,
i1 j1
j m1
i1
j m1
16
第八章 因子分析
8-5 试比较主成分分析和因子分析的相同之处
与不同点. 因子分析与主成分分析的不同点有: (1) 主成分分析不能作为一个模型来描述,它只
B 1 11•2
AB111•2
Im
B 1 11•2
A
AB111•2
A
由逆矩阵的对应块相等，即得：
12
第八章 因子分析
B 1 11•2
D 1
D1 AB221•1 AD 1
B11
AB111•2
B 1 22•1
AD
1
B 21
Im
AB111•2 A
B 1 22•1
B 22
把B22·1和B11·2式代入以上各式，可得：
Q(2)
32
[(
2 1
)2
(
2 2
)2
(
2 3
)
2
]
0.36722 [0.20072 0.14522 0.011312 ]
0.1348 0.06149 0.07331
(3) 试求误差平方和Q(m)＜0.1的主成分解. 因Q(2)=0.07331＜0.1，故m=2的主成分解满足要求.
10
第八章 因子分析
E2
R
( AA
D)
1
0.63 1
00..13455 ( AA D)
8
第八章 因子分析
AA
D
1
0.8008 1
00..341099775
E2
0
0.1708 0
00.0.00440735
故
33
Q(2)
2 ij
2 (0.17082
0.04752
0.04032 )
i1 j1
0.06611