次序L1 惩罚估计在高维数据分析中的应用

2020-10-21 07:27:56郭依菏訾雪旻
天津职业技术师范大学学报 2020年3期
关键词:惩罚方法模型

郭依菏,訾雪旻

(天津职业技术师范大学理学院,天津300222)

随着生物信息学、生物医学、计量经济学和机器学习等领域的迅猛发展,高维数据在实际应用中越来越受到关注。为了能够全面地分析数据,研究者总是尽可能地收集与研究问题相关的变量。如医学研究人员在研究哪些基因变异会导致某种病变时,需要同时追踪成千上万的基因序列的表达。但是基于检测成本等客观因素,研究人员往往只能得到很小的样本量。对于变量的数量远远大于观测值的数量这种情况,寻找合适的变量选择方法,提高变量筛选的效率及正确率,成为近年来统计学界的热点问题之一。Foster 等[1]提出风险膨胀准则(risk inflation criterion,RIC),使用L0范数作为惩罚项,但对于高维情况,此方法通常会导致模型中包含很多不相关的变量,特别是在稀疏情况下,预测能力表现相当差。Tibshirani[2]提出套索算法(least absolute shrinkage and selection operator,LASSO),其通过使用L1范数作为惩罚项,克服了传统方法在变量选择上的不足,成为较流行的处理高维模型中变量选择的方法。Bogdan 等[3]受 Benjamini-Hochberg 多重检验校正方法的启发,在LASSO 方法的基础上,提出了一种新的变量选择方法——次序L1惩罚估计(Sorted L1Penalized Estimation,SLOPE)方法[4]。本文利用数值模拟方法分析比较了SLOPE 和LASSO 方法,结果表明SLOPE 方法对一般稀疏回归模型有很好的筛选效果,同时利用实证分析研究了SLOPE 方法的有效性。

1 次序L1 惩罚估计算法

设n 维响应向量y 是由一个简单的线性模型生成的

式中:Xn×p为设计阵;β 为 p 维向量回归系数;Z 为 n×1的随机误差项。

首先考虑在正交设计下,令X′X=Ip,且随机误差项Z 独立同分布于正态分布即N(0,σ2In)。……

登录APP查看全文

猜你喜欢
惩罚方法模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
神的惩罚
小读者(2020年2期)2020-03-12 10:34:06
惩罚
趣味(语文)(2018年1期)2018-05-25 03:09:58
3D打印中的模型分割与打包
用对方法才能瘦
Coco薇(2016年2期)2016-03-22 02:42:52
四大方法 教你不再“坐以待病”!
Coco薇(2015年1期)2015-08-13 02:47:34
真正的惩罚等
捕鱼
如此惩罚
英语学习(2007年8期)2007-12-31 00:00:00