一组空气污染数据的主成分分析【说明】下面的多元统计分析练习题摘自R.A. Johnson等编写的《应用多元统计分析（第五版）》，原书为：Richard A. Johnson and Dean W. Wichern. Applied Multivariate Statistical Analysis(5th Ed). Pearson Education, Inc. 2003。
我看的是中国统计出版社（China Statistics Press）2003年发行的影印本。
第一题为原书第1.6题，即第1章的第6题，第二题为原书第8.12题，即第8章的第12题。
第二题用的是第一题的数据。
1 习题1.6. The data in Table 1.5 are 42 measurements on air-pollution variables recorded at 12:00 noon in the Los Angeles area on different days.(a)Plot the marginal dot diagrams for all the variables.(b)Construct the x, S n, and R arrays, and interpret the entries in R.TABLE 1.5 AIR-POLLUTION DATAWind (x1)Solarradiation (x2)CO (x3)NO (x4)NO2 (x5)O3 (x6)HC (x7)8 98 7 2 12 8 2 7 107 4 3 9 5 3 7 103 4 3 5 6 3 10 88 5 2 8 15 4 6 91 4 2 8 10 38 90 5 2 12 12 49 84 7 4 12 15 5 5 72 6 4 21 14 47 82 5 1 11 11 38 64 5 2 13 9 4 6 71 5 4 10 3 36 91 4 2 127 37 72 7 4 18 10 3 10 70 4 2 11 7 3 10 72 4 1 8 10 3 9 77 4 1 9 10 3 8 76 4 1 7 7 38 71 5 3 16 4 49 67 4 2 13 2 3 9 69 3 3 9 5 39 88 4 2 7 6 38 80 4 2 13 11 45 30 3 3 5 2 36 83 5 1 10 23 48 84 3 2 7 6 36 78 4 2 11 11 38 79 2 1 7 10 36 62 4 3 9 8 310 37 3 1 7 2 38 71 4 1 10 7 37 52 4 1 12 8 45 486 5 8 4 36 75 4 1 10 24 310 35 4 1 6 9 28 85 4 1 9 10 25 86 3 1 6 12 25 867 2 13 18 27 79 7 4 9 25 37 79 5 2 8 6 26 68 6 2 11 14 38 40 4 3 6 5 2Source: Data courtesy of Professor G.C. Tiao.8.12. Consider the air-pollution data listed in Table 1.5. Your job is to summarize these data in fewer than p=7 dimensions if possible. Conduct a principal component analysis of the data using both the covariance matrix S and the correlation matrix R. What have you learned? Does it make any difference which matrix is chosen for analysis? Can the data be summarized in three or fewer dimensions? Can you interpret the principal components?2 部分解答2.1 部分统计参数利用Excel计算的平均值（x）和标准差Wind Solar radiation CO NO NO2O3HC Average 7.5 73.857143 4.547619 2.1904762 10.047619 9.4047619 3.0952381 Stdev 1.5811388 17.335388 1.2337209 1.0873574 3.3709837 5.5658345 0.6917466Excel给出的协方差矩阵SWindSolarradiation CO NO NO2O3HCWind 2.4404762Solarradiation -2.714286 293.36054CO -0.369048 3.8163265 1.4858277NO -0.452381 -1.353741 0.6575964 1.154195NO2-0.571429 6.6020408 2.2596372 1.0623583 11.092971O3-2.178571 30.057823 2.7545351 -0.791383 3.0521542 30.24093HC 0.1666667 0.6088435 0.138322 0.1723356 1.0192744 0.5804989 0.4671202 Excel给出相关系数矩阵RWind radiation CO NO NO2O3HC Wind 1Solar radiation -0.101442 1CO -0.193803 0.1827934 1NO -0.269543 -0.073569 0.5021525 1NO2-0.109825 0.115732 0.5565838 0.2968981 1O3-0.253593 0.3191237 0.4109288 -0.133952 0.1666422 1从相关系数矩阵可以看出，CO与NO、NO2相关性明显，O3与Solar radiation、CO相关性明显。
后面的主成分分析将CO与NO、NO2归并到一个主成分，将O3与Solar radiation 归并到一个主成分，将HC、Wind归并到一个主成分。
HC与Wind的相关系数并不高，但从正相关的角度看，二者的数值倒是最高的。
方差极大正交旋转之后，HC与CO、NO、NO2归并到一个因子，因为HC与NO2的相关系数较高，与CO、NO的相关系数高于其他变量。
2.2 主成分分析之一——数据未经标准化下面是从相关矩阵R出发，SPSS给出的结果。
原始数据未经标准化。
所谓从R出发，就是在SPSS的Factor Analysis: Extraction—Analysis选项中选中Correlation Matrix。
SPSS给出的相关系数矩阵（Correlation Matrix），与Excel计算的结果一样。
公因子方差（Communalities）表如下。
公因子方差变化于0.544～0.795之间，相差不是很大。
但是，公因子方差值没有达到0.8以上的，可见每一个变量体现在三个主成分中的信息都不超过80%。
特征根与方差贡献（Total Variance Explained）如下表。
可见提取三个主成分可以解释原来7格变量的70.384%。
E i g e n v a l u e主成分载荷矩阵（Component Matrix ）见下表。
将上表从SPSS 中复制到Excel 中，进行涂色分类，结果如下表所示。
主成分分类如下：⏹第一主成分的主要相关变量：CO、NO、NO2。
⏹第二主成分的主要相关变量：Solar radiation、O3。
⏹第三主成分的主要相关变量：Wind、HC。
在主成分载荷图（Component Plot）中，三个变量分别落入三个不同的主成分代表的区域。
主成分得分表如下。
最后一栏对几个典型的样本给出了简单的解释。
注意解释的时候看清主成分载荷矩阵中载荷值的正负号。
Cases f1 f2 f3 典型的说明S1 0.61591 -0.8186 -0.38418S2 0.03194 -0.36015 -0.26343S3 -0.34752 -0.54481 -0.49701S4 0.2425 -0.30293 1.80367 样本4代表的区域Wind、HC污染严重S5 -0.12729 -0.91941 -0.4042S6 0.72612 -0.19278 1.21954S7 2.03686 0.89982 1.4607 样本7和8代表的区域与CO、NO、NO2污染有明显的关系S8 2.57309 0.77732 -0.34124S9 0.09802 -0.81736 0.30334S10 0.50664 0.78803 0.88735S11 0.3904 0.97744 -1.48345S12 0.14485 -0.45848 -0.27016S13 1.92477 0.88883 -0.66029S14 -0.50662 0.63139 0.91242S15 -0.89378 -0.17036 1.19632S16 -0.66037 -0.39862 0.937582.3 主成分分析之二——数据未经标准化下面是从协方差矩阵S出发，SPSS给出的结果。
原始数据未经标准化。
所谓从S出发，就是在SPSS的Factor Analysis: Extraction—Analysis选项中选中Covariance Matrix。
公因子方差（Communalities）表如下。
在未经处理的（Raw）公因子方差一栏，其Initial 数值都是原始数据的方差。
不过与前面Excel给出的协方差矩阵有所不同，Excel给出的是总体方差，SPSS给出的是抽样方差。
例如以Wind的Initial值为例，2.4404762×42/41=2.5，或者2.5×41/42=2.4404762（对照前面的协方差矩阵）。
重标的（Rescaled）结果是Extraction值与Initial值之比。
公因子方差的合计结果如下：Raw RescaledInitial Extraction Initial ExtractionWIND 2.5 0.0306651 1 0.012266Solar radiation 300.51568 300.13367 1 0.9987288CO 1.5220674 0.0601666 1 0.0395295NO 1.1823461 0.0067502 1 0.0057091NO2 11.363531 0.1790059 1 0.0157527O3 30.978513 3.8459428 1 0.1241487HC 0.4785134 0.0016671 1 0.0034839合计348.54065 304.25786 7 1.1996188特征根与方差贡献（Total Variance Explained）如下表。