- 1、本文档共13页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
?
?
基于多模型的混合架构情感分析
?
?
苗小爱冷雪亮邵婉露
摘?要:情感分析是自然语言处理(NLP)中十分重要的环节,随着网络发展人们在网络生活中留下的大量情感评论信息。已有的研究大量使用循环神经网络(RNN)和卷积神经网络(CNN)做情感分析。近期注意力机制在NLP领域被广泛使用,并取得突破性进展。为了改善传统模型,充分利用网络评论数据,结合长短时记忆网络(biLSTM),CNN,并使用Transformer机制构建新模型。新模型中,biLSTM编码双上上下文信息,然后CNN部分模拟Text-CNN使用三个不同大小的窗口进行卷积获取句子间的双向信息,最后使用没有前馈操作的Transformer编码器代替传统Max-pooling操作避免信息损失。该模型简称为Multi-ModelStackNeuralNetwork(MMSNN)。与传统biLSTM基线模型和Text-CNN模型在IMDE数据集上进行对比,MMSNN在准确率和损失上均获得最好的效果。
关键词:自然语言处理;情感分析;transformer;Text-CNN;BiGRU
:TP183???:A???DOI:10.3969/j.issn.1003-6970.2020.09.036
【Abstract】:Sentimentanalysisisaveryimportantpartofnaturallanguageprocessing(NLP).WiththeInternet,peoplesendalotofsentimentcommentinformationinonlinelife.Existingresearchesmakeextensiveuseofrecurrentneuralnetworks(RNN)andconvolutionalneuralnetworks(CNN)forsensoryanalysis.TheattentionmechanismhasbeenwidelyusedintheNLPfieldrecently,andhasachievedbreakthroughdevelopment.Inordertoimprovethetraditionalmodel,makefulluseofnetworkcommentdata,combinedwithlongandshorttimememorynetwork(biLSTM),CNN,andusetheTransformermechanismtobuildanewmodel.Inthenewmodel,biLSTMencodesdouble-upcontextinformation,thenCNNpartiallysimulatesText-CNNtoconvolvewiththreewindowsofdifferentsizestoobtainbidirectionalinformationbetweensentences,andfinallyusesaTransformerencoderwithoutfeedforwardoperationinsteadoftraditionalMax-poolingOperationtoavoidlossofinformation.ThemodelisreferredtoasMulti-modelStackNeuralNetwork(MMSNN)forshort.ComparedwiththetraditionalbiLSTMbaselinemodelandText-CNNmodelontheIMDEdataset,MMSNNachievesthebestresultsinbothaccuracyandloss.
【Keywords】:Naturallanguageprocessing;Sentimentanalysis;Transformer;Text-CNN;BiGRU
0?引言
隨着社交软件的多样化,网络上的情感数据规模迅速增加,这些文本在各种研究科开发中广泛使用,因此情感分析任务在自然语言处理中的一个重要方向。现有基本模型的问题是:(1)使用RNN模型容易出现梯度爆炸或梯度消失问题。(2)虽然在序列问题上CNN模型(Kim等人[1])能取得很好的效
您可能关注的文档
- 《单杠简单技术及组合》在技术·体能·运用维度下的单元练习方法.docx
- 关于建筑暖通空调安装施工技术要点.docx
- 孔子学院和歌德学院在文化传播方面的对比研究.docx
- 对外汉语课堂教学案例分析.docx
- 大数据环境下高校图书馆信息服务转型研究.docx
- 互联网+时代背景下高校思想政治课教学模式改革探究.docx
- 宫腔镜诊治43例幼女阴道异物及阴道炎的临床观察.docx
- 2024年江西省瑞安市六校联盟九年级数学第一学期开学调研试题【含答案】.doc
- 2024年江西省上饶县九年级数学第一学期开学学业质量监测模拟试题【含答案】.doc
- 2024年江西省瑞金市瑞金四中学数学九上开学学业水平测试模拟试题【含答案】.doc
- 2024年江西省寻乌县九上数学开学复习检测模拟试题【含答案】.doc
- 2024年江西省省宜春市袁州区数学九上开学学业水平测试模拟试题【含答案】.doc
- 《GB/T 44275.2-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第2部分:术语》.pdf
- 中国国家标准 GB/T 44275.2-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第2部分:术语.pdf
- GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构.pdf
- 《GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构》.pdf
- 中国国家标准 GB/T 44285.1-2024卡及身份识别安全设备 通过移动设备进行身份管理的构件 第1部分:移动电子身份系统的通用系统架构.pdf
- GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南.pdf
- 中国国家标准 GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南.pdf
- 《GB/T 44275.11-2024工业自动化系统与集成 开放技术字典及其在主数据中的应用 第11部分:术语制定指南》.pdf
最近下载
- 小学一年级家长会语文老师PPT课件1_图文.ppt
- 奥鹏云南开放大学 小学语文案例教学(20秋)形考作业4(客观).doc VIP
- 沅陵大曲酒厂续建项目(重大变更) 环境影响报告书.pdf
- SH∕T 1541.1-2019 塑料颗粒外观试验方法 第1部分:目测法.pdf
- 泳池清洁机器人.pdf VIP
- 中职高考语文二轮复习写作技巧专项突破专题01 应用文写作-技巧与练习(含详解).docx VIP
- (人教版)数学三年级上册计算题“天天练”习题卡,含100份题组,附参考答案.doc
- 【新教材】人教PEP版(2024)三年级上册英语Unit 1 Making friends单元整体教学设计.docx
- 乡村学校德育工作实践.docx VIP
- “国家中小学智慧教育平台”培训方案(2).doc
文档评论(0)