齐次多项式变量的随机分布

2020-04-13 06:12林泽榕张子明徐常青
关键词:张量三阶正态分布

林泽榕, 张子明, 徐常青

(苏州科技大学 数理学院,江苏 苏州215009)

18 世纪初,de Moivre 首次提出正态分布,随后Laplace 和Gauss 对正态分布的性质进行了研究,并将其应用于天文学。 19 世纪初,Robert Adrian 定义了二元正态分布,随后Laplace 和Gauss 分别给出了二元正态分布的密度函数。19 世纪末,Francis Galton 提出并研究了二元正态随机变量相关性;Karl Pearson 在20 世纪初进一步研究了二元正态随机变量的相关性(包括多元相关性)和回归分析。 之后,Yule 等人将二元正态随机变量的相关性推广至列联表中,从而开始了统计数据的多元发展。

多元随机分析研究多个随机变量的总体分布属性,而随机向量是指元素为随机变量的一类向量,它广泛应用于投资组合理论[1]、回归模型[2]、时间序列[3]等。 正态随机向量是其中应用最为广泛的一类随机向量,它是研究随机矩阵、随机过程等的基础。 关于正态随机向量的研究已有很长的历史,20 世纪初,Cosset 为小样本分布做出了开创性的工作,这也为Fisher 提出多重相关系数的分布提供了理论条件。 1928 年,Wishart[4]推导出了小样本情况下多元正态分布的样本方差和协方差的联合分布。 1958 年,Roy[5]等人的研究涉及多元问题中某些特征根和向量的分布,尤其是典型相关和多元方差分析。 而随机矩阵是指元素为随机变量的一类矩阵,它在物理学、数理统计、数值分析、数论等中都有广泛应用[6-8],1928 年,Wishart[4]首次运用随机矩阵对样本协方差进行了估计。 1947 年,John von Neumann 和Herman Goldstine[9]将随机矩阵运用到数值分析中。 目前,关于随机矩阵研究最多的是高斯随机矩阵[10-11],而 Wishart 矩阵[4]和半圆定律[12]等均为高斯随机矩阵分布的推广形式。

二次型的研究始于18 世纪,它起源于对二次曲线和二次曲面分类问题的讨论。18 世纪初,Gauss 首次引入了二次型正定、负定、半正定、半负定等术语。 18 世纪中叶,为了解决同时将两个二次型化成平方和的问题,Weierstras 给出了一个一般的方法,比较系统地完善了二次型理论。

为了引入随机张量的概念,先来介绍张量理论的发展。19 世纪,Gaussi、Riemann、Christoffel[13]等人在发展微分几何过程中引入张量。 1887—1901 年,Ricci 和Levi Givita[14]创立了张量分析的基本框架。 1916 年,爱因斯坦用张量分析作为工具引入广义相对论,极大地推动了张量分析的发展。 张量分析也开始被重视起来,成为强有力的数学工具,在分析力学、弹性力学、几何学等方面发挥了重要作用。

1927 年,Hitchcock[15]首次提出了张量分解,后来由 Cattelin[16]于 1944 年和 Tucker[17]于 1966 年进行拓展,而这些概念和方法得到广泛关注是在Carroll 和Chang[18]提出典型分解(CANDECOMP),以及1970 年Harsh-man[19-21]提出了一个称为PARAFAC 的等价模型之后。 现在,高阶张量分解已被应用于心理测量学、化学计量学、图像分析、图形分析、信号处理、大数据(统计)分析[22]等领域。

笔者将二次型变量的部分结论推广到三阶齐次多项式变量中,运用对称张量的对称分解,得出三阶齐次多项式变量的数学期望。 在此基础上,得到该多项式变量与随机变量的协方差,并给出了三阶齐次多项式变量与随机变量相互独立的充要条件。

1 二次型变量

在这一部分,将给出二次型变量的定义及基本性质。

定义 1[23]给定随机向量 y~(S)Nn(μ,∑)和对称常数矩阵 A∈Rn×n,称变量 q=y′Ay 为高斯二次型变量。

注意到,若随机向量y 的分量为iid(独立同分布)且服从标准正态分布,即yi~N(0,1),那么当矩阵A 为单位矩阵时,q 服从卡方分布。 因此,二次型变量为卡方变量的推广。

性质 1[23]若随机向量 y~(S)Nn(μy,∑),rank(∑)=n1≤n,给定常数矩阵 A=A′∈Rn×n,满足 0<rank(A)=n1≤n,则存在相互独立的随机变量 x1,x2,…,xn2,满足

证明对∑进行分解,有∑=ΦΦ′,其中 Φ∈Rn×n1列向量为正交向量组,rank(Φ)=n1,令μy=Φμz,则 y=Φ(z+μz),μz=Φ+μy,故

令 B=Φ′AΦ∈Rn1×n1,设 rank(B)=n2≤n1,对 B 进行谱分解,有

式中 V=[v1,v2,…,vn2]∈Rn1×n2为正交矩阵,Dg(λ)=diag(λ1,λ2,…,λn2)是由 B 的 n2个非零特征值构成的对角矩阵,则

令向量 u=V′(z+μz)∈Rn2,则故元素 uk,k=1,2,…,n2相互独立,且 uk~那么

性质1 将二次型与卡方分布结合,由此可借助卡方分布得出二次型随机变量的有关性质。 下面给出卡方分布的数学期望和方差。

性质 2[24]若 Z~χ2(v,ω),其中 v 为自由度,ω 为非中心参数,则 Z 的数学期望和方差为

特别,若 ω=0,则 Z 服从中心卡方分布,自由度为 v,记作 Z~χ2(v),此时,Z 的数学期望和方差分别为 E(Z)=v,Var(Z)=2v。

推论1[23]给定性质1 中的条件,二次型变量q=y′Ay 的数学期望和方差为

性质 3[23]若随机向量 y~Nn(μy,∑),rank(∑)=n,给定常数矩阵 A=A′∈Rn×n,B∈Rm×n,则

特别,若 y 服从标准正态分布,即 y~Nn(0,In),则 Cov(By,y′Ay)=0。

性质 4[24]若随机向量 y~Nn(0,∑),rank(∑)=n1≤n,给定常数矩阵 A=A′∈Rn×n,常数向量 a,b∈Rn,则:

(1)y′Ay 与 b′y 独立⇔∑A∑b=0;

(2)a′y 与 b′y 独立⇔a′∑b=0。

性质 5[23]若随机向量 y~Nn(μ,∑),rank(∑)=n1≤n,给定常数矩阵 A=A′∈Rn×n,B∈Rm×n,则 y′Ay 与 By独立⇔B∑A∑=0,B∑Aμ=0。

2 齐次多项式变量及其张量表示

下面将二次型变量中的部分结果推广至一般高次(包括二次)齐次多项式变量的情形。

定义 2[26]设 A=(ai1i2…im)为 m 阶 n 维实张量,若将元素 ai1i2…im,ij=1,2,…,n,j=1,2,…,m 的下标进行任意置换后,仍与原来的元素相等,则称A 为对称张量。

定义 3[27]张量与向量a∈RIn沿模-n 方向上的乘积记为

式中, y 的元素为

故张量 g∈RI1×I2×…×IN在其每个方向上与向量 an∈RIn,n=1,2,…,N 相乘的乘积为

若给定张量 g∈Rm,n和向量 a,b∈Rn,j,k 表示两个不同的方向,则

式(10)说明张量在不同方向上与向量相乘,相乘的顺序是可以交换的。

下面给出m 阶齐次多项式变量的定义。

定义4给定张量A∈Sm,n和向量x∈Rn,定义m 阶齐次多项式变量为

引理1[28]若张量X∈Sm,n,则X 的对称分解为

称最小的 R 为 X 的对称秩,记作 ranks(X)=R。

定理 1若张量 X∈Sm,n,则 X 可以分解为 X=I ×1A×2A×…×mA,其中 I =(Ii1i2…im)∈Sm,R,且

证明由引理1 知令 y=I ×A×A×…×A,则

下面运用对称张量分解得出多项式变量的部分性质,以三阶齐次多项式变量fA(x)=Ax3来展开讨论。

定理 2若张量 A∈S3,n,随机向量 x~Nn(μ,∑),其中 rank(∑)=n,则三阶齐次多项式变量 fA(x)=Ax3的数学期望为

证明对∑进行分解,有∑=ΦΦ′,rank(Φ)=n,令 z~Nn(0,In),μz=Φ-1μ,则 x=(μz+z),故

令 A×1Φ′×2Φ′×3Φ′=B,而 B 可以分解为 B=I ×B×B×B,则

令 y=B′(μz+z)~NR(B′μz,B′B),则其中故因此

式中

所以,E[fA(x)]=Aμ3+3tr(Aμ∑)。

定理 3若随机向量 x~Nn(μ,In),给定常数矩阵 B∈Rm×n,设 fA(x)=Ax3,则

证明

令 y=x-μ,则 y~Nn(0,In),元素 yl~N(0,1),l=1,2,…,n

下面分情况进行讨论:

定理 4若随机向量 x~Nn(μ,∑),其中 rank(∑)=n,给定常数矩阵 B∈Rm×n,设 fA(x)=Ax3,则

证明

式中 E[(x-μ)·A(x-μ)3]=Cov[(x-μ),A(x-μ)3],对∑进行分解,有∑=ΦΦ′,其中 rank(Φ)=n,令 z~Nn(0,In),则 x-μ=Φz,故

定理 5若随机向量 x~Nn(μ,In),给定常数向量 b∈Rn,则对∀μ,b′x 与 fA(x)=Ax3独立⇔A×b=0,m′b=0,其中 m=[tr(Ae(1)) tr(Ae(2)) …tr(Ae(n))]′。

证明(⇒)由定理 4 可知

下面分情况进行讨论:

所以

故,若 A×b=0,m′b=0,则 Cov[b′x,Ax3]=0,b′x 与 Ax3独立。

定理 6若随机向量 x~Nn(0,∑),其中 rank(∑)=n1≤n,给定常数向量 b∈Rn,则 b′x 与 fA(x)=Ax3独立⇔∑(A∑b)∑=0,tr(∑⊗Ab∑)=0。

证明对∑进行分解,有∑=ΦΦ′,其中Φ∈Rn×n1,rank(Φ)=n1,令 z~Nn1(0,I),则 x=Φz,由定理 5 知,

定理 7若随机向量 x~Nn(μ,∑),其中 rank(∑)=n1≤n,给定常数向量 B∈Rn,则 b′x 与 fA(x)=Ax3独立⇔(Aμ2)′∑b=0, ∑(Aμ)∑b=0, ∑(A∑b)∑=0, tr(A∑b∑)=0。

证明对∑进行分解,有∑=ΦΦ′,其中Φ∈Rn×n1,rank(Φ)=n1,令 z~Nn1(0,I),则

由性质4 知

由定理6 知

即∑A∑b∑=0。

3 结语

将二次型变量的部分结果推广到一般高次齐次多项式变量的情形,主要对三阶齐次多项式变量fA(x)=Ax3进行了研究。 首先,给出一般齐次多项式变量的定义;接着,以三阶齐次多项式变量展开讨论,利用对称张量的对称分解得出fA(x)的数学期望,进而得出fA(x)与随机向量的协方差;最后,给出fA(x)与随机变量相互独立的充要条件。

猜你喜欢
张量三阶正态分布
浅谈张量的通俗解释
关于n维正态分布线性函数服从正态分布的证明*
四元数张量方程A*NX=B 超对称极小范数最小二乘解2
严格对角占优张量的子直和
非负张量谱半径上下界的估计不等式
生活常态模式
三阶行列式计算的新方法
巧填三阶幻方
三阶幻方有妙用
三阶微分方程理论