《DNN系统与芯片》课件.pptVIP

*************************************第六部分：新兴DNN芯片技术随着传统CMOS技术逐渐接近物理极限，研究人员开始探索各种创新计算范式，以突破现有DNN芯片的性能和能效瓶颈。第六部分将介绍四类前沿技术：模拟计算、存内计算、光学神经网络和量子神经网络。这些新兴技术各有特点：模拟计算利用电路的物理特性直接执行计算，绕过数字逻辑；存内计算将计算功能集成到存储单元中，消除数据移动开销；光学神经网络利用光子器件进行超高速低功耗计算；量子神经网络则探索量子计算原理以实现指数级加速。这些技术虽然大多处于实验室阶段，但代表了未来DNN芯片的可能发展方向。模拟计算电流域计算基于电流叠加原理实现模拟乘加运算。电流模式神经网络利用晶体管的非线性特性或电阻网络直接执行矩阵运算，将数字值转换为电流，通过基尔霍夫定律自然实现加法。特点：高并行度、低功耗、高集成度。单个模拟乘法器面积和功耗可比数字实现小100倍。但面临信噪比、温度漂移、器件不匹配等精度挑战，通常精度有限（4-8位）。电荷域计算利用电荷存储和转移实现计算，如开关电容电路和电荷耦合器件(CCD)。电荷域模拟计算可实现高精度的乘加和卷积运算，同时保持较低功耗。特点：噪声抑制能力强、动态范围大、能效高。MIT的原型芯片展示了电荷域CNN加速器可实现10-100倍能效提升。挑战包括电荷泄漏、开关噪声和复杂的时序控制。混合信号处理结合模拟和数字电路的优势，前端使用模拟计算核心，后端采用数字处理。典型架构包括：模拟矩阵乘法单元、数字控制逻辑、ADC/DAC接口电路等组件。IBM的模拟存算一体芯片将8位精度提升至时钟周期内300TOPS/W。混合信号架构是当前最实用的模拟计算方案，但ADC/DAC转换开销和设计复杂性仍是主要挑战。存内计算SRAM基础存内计算利用SRAM位单元的结构特性直接在存储阵列内执行布尔逻辑和简单算术运算。通过激活多行并利用位线上的电流叠加效应，可以实现并行的按位运算。例如，IBM的真北芯片将神经元权重存储在SRAM中并直接进行计算，消除了数据搬运开销。SRAM存内计算的优势在于与传统CMOS工艺完全兼容，能够实现高度并行的低精度矩阵运算，但面临着面积效率低、能耗较高的问题。新型非易失性存储器基于ReRAM、MRAM、PCM等新型存储器件的存内计算提供了更高的集成度和能效。ReRAM通过物理器件的电阻变化直接实现矩阵乘法，每个交叉点的电导率表示权重值。理论上，ReRAM存内计算可实现TB/s带宽和TOPS/W级能效。必威体育精装版研究如清华大学的Thinker系列芯片已展示了ReRAM在DNN加速中的实用性。然而，器件变异性、写入能耗、有限的耐久性和精度是主要挑战。3D存储技术通过3D集成技术将计算逻辑与存储单元紧密结合，如通过硅通孔(TSV)连接的3D堆叠结构。三星和SK海力士的HBM-PIM（处理器内存中处理）原型展示了在内存芯片内集成简单计算逻辑的可行性。英特尔的3DXPoint和Foveros技术为异构集成提供了平台。3D存储计算结合了高带宽、大容量和低访问延迟，但散热问题、制造复杂性和成本仍然是商业化的障碍。光学神经网络光学矩阵乘法利用光的叠加性质自然实现矩阵乘法运算。通过将电信号转换为光强度，使用空间光调制器(SLM)或微镜阵列(DMD)编码输入矩阵，然后利用光束通过透镜系统实现傅里叶变换，最终通过光电探测器阵列读取结果。光学矩阵乘法的理论速度可达电子实现的数千倍，且能耗显著降低。MIT、斯坦福等机构已展示了原型系统，如Lightmatter公司的Envise光学AI加速器。光学非线性激活实现全光学神经网络的关键挑战是光学非线性激活函数。当前解决方案包括：电光混合方法（将光信号转换为电信号，执行非线性激活后再转回光信号）；非线性光学材料（利用材料本身的非线性光学效应）；以及可饱和吸收体等特殊器件。理想的光学非线性需要高响应速度、低功耗和良好的集成性，这方面的研究仍处于早期阶段。全光学神经网络集成光信号处理、传输和计算功能的完整神经网络系统。理论上，全光学神经网络可以实现亚皮秒级的响应时间和极低的能耗。硅光子学技术使得在标准芯片上集成光波导、分束器、调制器等关键组件成为可能。挑战包括器件尺寸缩小、系统稳定性、光电接口效率和制造工艺成熟度等。欧普托(Optalysys)和光明(Lightmatter)等初创公司正积极推动这一技术的商业化。量子神经网络量子比特量子计算的基本单位，与经典比特不同，量子比特可以处于状态|0?、|1?或两者的叠加态。这种叠加特性使得n个量子比特可以表示2^n个经典状态，理论上为指数级加