基于U-Net网络的单细胞RNA测序数据插补算法研究.pdf

天津师范大学硕士学位论文 摘 要 近年来，随着生物信息技术的发展，单细胞测序技术应用在越来越多的场景 中，并随之产生了大量单细胞RNA测序数据。然而由于单细胞测序技术的限制， 单细胞RNA测序数据表现出很大的缺失性，其表现为RNA测序数据中存在超过70% 的缺失值（零值）。这些缺失值可能真的是未表达的“真零”，同时也有大量计数 在细胞中本应具有低、中表达，但由于测序失败导致了这种“假零”计数现象。 后一种由测序失败导致的零被称作“漏失” （dropout ） 现象。针对“dropout” 现象， 基于不同的原理和模型，已经存在几种不同的数据插补算法，但普遍效果并不理 想，甚至一些基于深度学习的插补算法准确度低于非深度学习算法。 本文通过对图像修复技术和单细胞插补算法的综合研究和分析，提出一种具 有较高插补精确度且运算速度较快的基于深度学习的单细胞插补算法。由于单细 胞下游分析（包括细胞分型、轨迹推断、差异表达等）都是基于高可变基因的， 算法首先将基因表达矩阵进行标准化，随后进行基因过滤，保留高可变基因，这 一过程可以使基因表达矩阵规模减小，进而提升后续算法的执行效率；接着将矩 阵每个含有全部高可变基因的细胞转化为图像；同时，我们使用Numpy类库批量 随机生成大量掩码（mask ）数据集，用以覆盖基因表达矩阵部分数据，创造对照 组以方便后续数据训练；而后将细胞图像送入U-Net架构的部分卷积神经网络进行 训练，U-Net架构中的全卷积神经网络改良成带有mask更新的部分卷积神经网络， 每一层网络都会对mask 区域进行更新填充， mask 区域最终会被全部赋值；训练 结束后对原始细胞图像进行修复，这一过程中只对原始数据中的dropout区域进行 修复，而没有发生dropout事件的区域不再进行修复；最后，将所有图像重塑成表 达向量并整合在一起完成修复。为了提升算法效率，我们使用PyTorch进行了GPU 的并行化编程，极大地优化了算法的运行时间。 相比于基于概率统计的经典插补算法和深度学习插补算法，通过实验分析， 本文算法针对单细胞RNA测序的基因表达矩阵的插补具有更高的准确度及速度， 可以很好的针对dropout事件进行修复，并且可以有效地提升下游分析的结果。 关键词：插补算法；单细胞RNA 测序；基因表达数据；U-Net 网络；深度学习 I 天津师范大学硕士学位论文 目 录 第一章 绪论 1 1.1 研究背景及意义 1 1.2 国内外研究现状2 1.3 本文研究内容与创新点3 1.4 本文章节安排4 第二章 单细胞RNA测序与相关插补算法6 2.1 单细胞RNA测序技术6 2.1.1 细胞捕获技术6 2.2.2 定量方法7 2.2.3 测序平台7 2.2.4 单细胞RNA测序的基因表达矩阵8 2.2 单细胞插补方法介绍8 2.2.2 非深度学习插补方法9 2.2.3 深度学习插补方法 10 2.2.4 插补方法之间的比较 11 2.3 本章小结 12 第三章 U-Net网络架构及应用 13 3.1 U-Net框架的概念 13 3.2 U-Net 网络的经典模型及其变体 14 3.2.1 U-Net 14 3.2.2 Res-UNet 14 3.3 本章小结 15 第四章 基于U-Net的单细胞RNA测序数据插补算法 17 4.1 算法设计思路 17 4.2 算法核心步骤 17 4.2.1 数据预处理 17 4.2.2 分割基因表达矩阵重塑成灰度图 18 4.2.3 生成随机mask掩码图像 19 4.2.4