基于主曲线不均衡贯序.pdfVIP

基于主曲线的不均衡 贯序 极限学习机研究 汇 ： 师范大学计算机与信息 汇报内容 一．研究背景和意义 二．国内外研究现状 三．研究内容和创新 四．PCI-OSELM算法 五．实验结果与分析 六．总结与展望 研究背景和意义 ❖实际工程应用中，存在大量严重类别不均 衡的问题：医疗诊断、故障检测 ❖少类样本的错分代价要远远大于多类样本 ❖ 特点 研究背景和意义 ➢ 不均衡 贯序分类算法的研究目前正处于起步阶段 ➢ 传统的分类算法容易导致 “虚假”的分类效果，无法 有效解决该类问题 “undo” effect ➢ 具有重要的理论和工程意义 国内外研究现状 ➢ 基于数据的策略：过采样和欠采样 缺点：1)未考虑数据的分布特性，均衡后样本缺乏可信度 2)欠采样造成样本信息的有损压缩 3)过采样增加模型训练时间 ➢ 基于算法的策略：提出新算法和改进现有算法 缺点：1)容易出现过学习现象 2) 速度慢、泛化性有待提高 ➢ 数据策略和算法策略相结合：目前对这方面问题的研究较少， 也没有重要的突破 研究内容和创新 有必要同时从数据层面和算法层面进行改进，重点 提高不均衡 贯序数据中少类样本的分类精度。  提高不均衡 贯序数据中少类样本分类精度的关键： 1. 为 贯序数据的分类问题选择一个合适的基本算法； 2. 提取 贯序数据的分布特性，进而构建符合样本分布特性 的样本集； 3. 挑选最具价值的样本进行模型更新； 研究内容和创新 极限学习机 （Extreme Learning Machine, ELM） ➢ 优点：速度快，泛化性好、结构简单、易扩展 ➢ Liang等提出 贯序ELM算法 （OSELM ），将ELM推广到 增量学习、 学习，更快更准确 ➢ 基础形式上具备了解决此类问题的可行性 研究内容和创新 OS-ELM 算法： Step1 初始离线阶段: 从样本集 中选择M M 0 ={(x ,t ), i =1,2,..., N } , 其中 N0 ‡ L i i 0 w H ① 随机选取 和 ，计算 i bi 0 0 T -1 T b =D H T T ，T = t ,t ,,t  ，其中 (  ② 计算 0 0 0 D = H H 0 1 2 0 0 0  N0  ③ 置 k =0 Step 2 学习阶段： ① 学习第 k +1 个数据：dk+1 =(xN +k+1,tN +k+1) 0 0 H =[g (w x +b ) g(wL xN +b )] T ② 计算 k +1 1 N 0 +k +1 1 0 +k +1 L 1 ·L ，令