Logistic回归的双层变量选择研究.PDF

31 9 Vol． 31 ，No. 9 第 卷第 期 统计研究 2014 9 Statistical Ｒesearch Sep． 2014 年 月 * Logistic 回归的双层变量选择研究 王小燕 方 匡南 谢邦昌 : ， 、 。 内容提要 变量选择是统计建模的重要环节 选择合适的变量可以建立结构简单 预测精准的稳健模型 本文 logistic ———adaptive Sparse Group Lasso (adSGL)， 在 回归下提出了新的双层变量选择惩罚方法 其独特之处在于基于 ， 。 变量的分组结构进行筛选 实现了组内和组间双层选择 该方法的优点是对各单个系数和组系数采取不同程度的 ， ， 。 ， 惩罚 避免了过度惩罚大系数 从而提高了模型的估计和预测精度 求解的难点是惩罚似然函数不是严格凸出的 ， 。 ， Sparse 因此本文基于组坐标下降法求解模型 并建立了调整参数的选取准则 模拟分析表明 对比现有代表性方法 Group Lasso 、Group Lasso Lasso ，adSGL ， 。 ， adSGL 及 法不仅提高了双层选择精度 而且降低了模型误差 最后 本文将 ， logistic ， 。 法应用于信用卡信用评分研究 与 回归相比 其具有更高的分类精度和稳健性 : ; ; ; 关键词 变量选择 群组变量 惩罚似然 信用评分 中图分类号:F222. 3 文献标识码:A 文章编号:1002 － 4565 (2014)09 － 0107 － 06 Ｒesearch on Bi-level Variable Selection for Logistic Ｒegression Wang Xiaoyan Fang Kuangnan Xie Bangchang Abstract :Variable selection is of great importance in statistical modeling． Suitable variables can make the model simple and have favorite performance of prediction． We propose a novel penalized bi-level variable selection method——— adaptive Sparse