AI在数字出版内容审核中的应用研究.pdfVIP

AI在数字出版内容审核中的应用研究

作者：陈奎莲

来源：《出版广角》2020年第10期

【摘要】在富媒体背景下，数字出版商不断开发精品内容，创新产品形式，优化用户的

“多感官刺激”和“交互式体验”，但与此同时，其内容审核工作也面临严峻挑战。将人工智能技

术引进出版行业，充分发挥其深度学习、自然语言处理、语音转写、图像识别等内容审核相关

技术优势，为数字出版作品把好质量关，推动数字出版事业转型升级，实现高质量发展。

【关键词】富媒体;数字出版;人工智能;深度学习

【作者单位】陈奎莲，地质出版社，富媒体数字出版内容组织与知识服务重点实验室。

【中图分类号】TP391.41;TP391.1【文献标识码】A【DOI】10.16491/45-

1216/g2.2020.10.003

“池水清不清，不仅取决于注入了多少清水，还取决于截断了多少浊水流入，开辟了多少

污水治理方式。”[1]在“建”好新闻出版行业内容质量把控的同时，也要把“管”好提上日程。长

期以来，内容风险管控都是传媒行业实现可持续发展的“生命线”。在大数据、云计算、人工智

能、5G蓬勃发展的时代，相对于传统图书出版行业，数字出版作品的内容把关面临诸多挑

战。那么，数字出版企业如何在“牢固树立质量意识和精品意识”的同时，将人工智能等技术转

化为产业发展的内生动力，做好内容审核工作？这是一个值得关注和讨论的问题。

一、富媒体数字出版与AI内容审核

富媒体与数字出版1.

富媒体（RichMedia），通常来说指的是包含文本、音视频等丰富形式和技术的信息传播

方式。相对于多媒体而言，富媒体的突出特性是交互性更强，用户使用过程中需要调动多重感

官，产品体验更为直观和生动。

借助5G网络的逐步覆盖和规模化商用，富媒体也将融合超高清视频、VR/AR、3D动画

和互动视频等多种内容形态和多元技术手段，在广告、网页设计、传媒出版等领域不断创新业

务模式，推动产学研一体化成果转化。2020年初，新华网和中国移动咪咕公司合作建立5G富

媒体实验室，“聚焦XR沉浸式体验技术应用、互动融视频技术产品、短视频智能化生产技术

应用、富媒体通信产品及大数据精准分发技术等具有前沿性和实用性的领域开展研究工作，打

造优质内容产品”[2]。

根据相关数据研究机构发布的报告显示，在2019年度，我国数字阅读的用户有7.4亿

人，同比增长了1.4%[3]。而作为国内数字阅读行业的“领头羊”，掌阅APP凭借内容资源优

质、阅读体验良好等产品优势，月活用户已超出1.2亿[4]。毫无疑问，我们已经进入一个“全

民阅读、数字阅读”的时代，读者所面临的阅读对象、阅读介质、阅读环境和体验都发生了前

所未有的改变，类似于“纸质图书的单纯电子化”这种传统的数字出版样式已经无法满足读者的

个性化需求。而富媒体这种集合文字、图片、声音、视频甚至沉浸式VR/AR体验于一身的信

息传播方式，将会助力数字出版商不断开发精品内容、创新产品形式，进而提高受众阅读中的

“多感官刺激”和“交互式体验”。

但与此同时，将富媒体应用于数字出版，在5G时代来临之后，相关出版商的内容安全把

控工作将会面临巨大的挑战。目前，国内大多数数字出版企业仍采用传统图书的人工审核模

式，富媒体数字出版逐步发展，信息和知识的体量呈现爆炸式增长，人工审核成本随之攀升，

审核精准度也相对将大幅下滑。

2.AI与内容审核

近年来，人工智能技术逐步成熟，实现了广泛应用和落地。早在2016年，AlphaGo战胜

李世石，人工智能技术逐步深入社会基础领域;2017年，国务院印发《新一代人工智能发展规

划》，把人工智能提升到国家战略层面，让其成为新的产业发展风口。具体在新闻出版行业，

除了“机器人新闻”“智能出版流程再造”等内容生产环节的实践应用，人工智能技术对内容审核

工作也有所优化和赋能。

审核模式，通常是指内容生产商AI引入人工智能技术，从事安全审核工作，针对文本、

图像、语音、视频等各类型内容，从多重维度识别和计算，为内容把关，确保守住底线，不碰

红线。现阶段，虽然数字出版企业引入AI审核模式的情况不甚理想，但诸如百度、阿里巴

巴、今日头条等互联网巨擘，凭借超强的技术实力和商业思维，逐步在内容审核领域采用“AI

主导+人工辅助”的模式进行风险防控。这种内容审核模式具有卓越的优势。首先，AI审核模

式能够大幅提升审