一组空气污染数据的主成分分析【说明】下面的多元统计分析练习题摘自. Johnson等编写的《应用多元统计分析(第五版)》,原书为:Richard A. Johnson and Dean W. Wichern. Applied Multivariate Statistical Analysis(5th Ed). Pearson Education, Inc. 2003。
我看的是中国统计出版社(China Statistics Press)2003年发行的影印本。
第一题为原书第题,即第1章的第6题,第二题为原书第题,即第8章的第12题。
第二题用的是第一题的数据。
1 习题. The data in Table are 42 measurements on air-pollution variables recorded at 12:00 noon in the Los Angeles area on different days.(a)Plot the marginal dot diagrams for all the variables.(b)Construct the x, S n, and R arrays, and interpret the entries in R.TABLE AIR-POLLUTION DA TAWind (x1)Solarradiation (x2)CO (x3)NO (x4)NO2 (x5)O3 (x6)HC (x7)8 98 7 2 12 8 2 7 107 4 3 9 5 3 7 103 4 3 5 6 3 10 88 5 2 8 15 4 6 91 4 2 8 10 38 90 5 2 12 12 49 84 7 4 12 15 5 5 72 6 4 21 14 47 82 5 1 11 11 38 64 5 2 13 9 4 6 71 5 4 10 3 36 91 4 2 127 37 72 7 4 18 10 3 10 70 4 2 11 7 3 10 72 4 1 8 10 3 9 77 4 1 9 10 3 8 76 4 1 7 7 38 71 5 3 16 4 49 67 4 2 13 2 39 69 3 3 9 5 310 62 5 3 14 4 4 9 88 4 2 7 6 35 30 3 3 5 2 36 83 5 1 10 23 48 84 3 2 7 6 36 78 4 2 11 11 38 79 2 1 7 10 36 62 4 3 9 8 310 37 3 1 7 2 38 71 4 1 10 7 37 52 4 1 12 8 45 486 5 8 4 36 75 4 1 10 24 310 35 4 1 6 9 28 85 4 1 9 10 25 86 3 1 6 12 25 867 2 13 18 27 79 7 4 9 25 37 79 5 2 8 6 26 68 6 2 11 14 38 40 4 3 6 5 2Source: Data courtesy of Professor . Tiao.. Consider the air-pollution data listed in Table . Your job is to summarize these data in fewer than p=7 dimensions if possible. Conduct a principal component analysis of the data using both the covariance matrix S and the correlation matrix R. What have you learned Does it make any difference which matrix is chosen for analysis Can the data be summarized in three or fewer dimensions Can you interpret the principal components2 部分解答部分统计参数利用Excel计算的平均值(x)和标准差Wind Solar radiation CO NO NO2O3HC AverageStdevWindSolarradiation CO NO NO2O3HCWind Solar radiation CONONO2O3HCExcel给出相关系数矩阵RWindSolarradiation CO NO NO2O3HCWind 1Solar radiation 1CO 1NO 1NO2 1O3 1HC 1 从相关系数矩阵可以看出,CO与NO、NO2相关性明显,O3与Solar radiation、CO相关性明显。
后面的主成分分析将CO与NO、NO2归并到一个主成分,将O3与Solar radiation 归并到一个主成分,将HC、Wind归并到一个主成分。
HC与Wind的相关系数并不高,但从正相关的角度看,二者的数值倒是最高的。
方差极大正交旋转之后,HC与CO、NO、NO2归并到一个因子,因为HC与NO2的相关系数较高,与CO、NO的相关系数高于其他变量。
主成分分析之一——数据未经标准化下面是从相关矩阵R出发,SPSS给出的结果。
原始数据未经标准化。
所谓从R出发,就是在SPSS的Factor Analysis: Extraction—Analysis选项中选中Correlation Matrix。
SPSS给出的相关系数矩阵(Correlation Matrix),与Excel计算的结果一样。
公因子方差(Communalities)表如下。
公因子方差变化于~之间,相差不是很大。
但是,公因子方差值没有达到以上的,可见每一个变量体现在三个主成分中的信息都不超过80%。
特征根与方差贡献(Total Variance Explained)如下表。
可见提取三个主成分可以解释原来7格变量的%。
主成分载荷矩阵(Component Matrix)见下表。
将上表从SPSS中复制到Excel中,进行涂色分类,结果如下表所示。
主成分分类如下:⏹第一主成分的主要相关变量:CO、NO、NO2。
⏹第二主成分的主要相关变量:Solar radiation、O3。
⏹第三主成分的主要相关变量:Wind、HC。
在主成分载荷图(Component Plot)中,三个变量分别落入三个不同的主成分代表的区域。
主成分得分表如下。
最后一栏对几个典型的样本给出了简单的解释。
注意解释的时候看主成分分析之二——数据未经标准化下面是从协方差矩阵S出发,SPSS给出的结果。
原始数据未经标准化。
所谓从S出发,就是在SPSS的Factor Analysis: Extraction—Analysis选项中选中Covariance Matrix。
公因子方差(Communalities)表如下。
在未经处理的(Raw)公因子方差一栏,其Initial 数值都是原始数据的方差。
不过与前面Excel给出的协方差矩阵有所不同,Excel给出的是总体方差,SPSS给出的是抽样方差。
例如以Wind的Initial值为例,×42/41=,或者×41/42=(对照前面的协方差矩阵)。
重标的(Rescaled)结果是Extraction值与Initial值之比。
公因子方差的合计结果如下:Raw RescaledInitial Extraction Initial ExtractionWIND 1Solar radiation 1CO 1NO 1NO2 1O3 1HC 1合计7特征根与方差贡献(Total Variance Explained)如下表。
在Raw一栏中显示,提取一个主成分似乎可以解释原来7格变量的%。
但重标之后显示的数值却是%。
根据公因子方差表和合计结果,重标之前,全部的方差解释为*100=%;重标之后,全部的方差解释为7*100=%。
主成分载荷矩阵(Component Matrix)见下表。
可以看来,由于变量Solar radiation 的方差很大,它绝对地控制了第一主成分。
主成分分析之三——数据经过标准化下面是从协方差矩阵S出发,SPSS给出的结果。
原始数据经过标准化。
可以看到所有的结果重标前后一样,并且与从相关矩阵R出发计算的结果一样。
公因子方差(Communalities)表如下,重标前后的结果一样。
特征根与方差贡献(Total Variance Explained)如下表。
重标前后结果一样。
主成分载荷矩阵(Component Matrix)见下表,重标前后一样。
可以看到,第一主成分的相对重要性受到标准化的极大影响。
结论自然是:如果在极其不同的范围内测量变量,或者测量单位的量纲不同,变量必须经过标准化。
否则,应该从相关系数矩阵出发开展主成分分析。
因子分析——方差极大旋转数据经过标准化,从任意矩阵出发,在因子分析中进行方差极大旋转(Varimax),载荷矩阵如下。
可以看到,旋转之后三个因子的方差贡献差别缩小了。
回答问题⏹What have you learned⏹Does it make any difference which matrix is chosen for analysis⏹Can the data be summarized in three or fewer dimensions⏹Can you interpret the principal components。