薛凌云 刘洋洋
(河南师范大学计算机与信息工程学院 河南 新乡 453007)
主成分分析是一种通过降维技术把多个变量化为少数几个主成分(即综合变量)的多元统计方法,这些主成分能够反映原始变量的大部分信息,通常表示为原始变量的线性组合[1]主成分分析的基本原理为:
假定有样本,每个样本共有p个特征,构成一个n×p阶的数据矩阵:

当p较大时,在p维空间中考察问题比较麻烦。为了克服这一困难,就需要进行降维处理,即用较少的几个综合指标代替原来较多的变量指标,而且使这些较少的综合指标既能尽量多地反映原来较多变量指标所反映的信息,同时它们之间又是彼此独立的。
记 x1,x2,…,xp为原变量指标,z1,z2,…,zm(m≤p)为新变量指标:

从以上的分析可以看出,主成分分析的实质就是确定原来变量xj(j=1,2,…,p)在诸主成分 zi(i=1,2,…,m)上的荷载 lij(i=1,2,…,m;j=1,2,…,p)。从数学上可以证明,它们分别是相关矩阵m个较大的特征值所对应的特征向量。主成分分析的步骤为:
步骤一:计算相关系数矩阵:

rij(i,j=1,2,…,p)为原变量 xi与 xj的相关系数,rij=rji,其计算公式为:

步骤二:计算特征值与特征向量:
分别求出对应于特征值 λi的特征向量 ei(i=1,2,…,p)i,要求‖ei‖=1,即,其中eij表示向量ei的第j个分量。
计算主成分贡献率及累计贡献率:
贡献率:

累计贡献率:

一般取累计贡献率达85%~95%的特征值 λ1,λ2,…,λm所对应的第 1、第 2、…、第 m(m≤p)个主成分。
计算主成分载荷:

各主成分的得分:

典型相关分析就是利用综合变量对之间的相关关系来反映两组指标之间的整体相关性的多元统计分析方法。……