基于人工智能的5G消息内容安全检测方法研究.pdf

网信安全

（2022年江苏省通信学会“华苏杯”论文征集评优三等奖）

基于人工智能的5G消息内容

安全检测方法研究

董陵解锦明朱艳杰金灿

中国移动通信集团江苏有限公司

摘    要： 传统人工审核在5G消息内容合规审核中面临人力投入和产能不足、学习门槛高等诸多痛点。因此基于人工

智能的5G消息内容安全检测方法应运而生，通过结合人工智能和人工审核，能有效降低人力投入。本文

提出通过整合基于内容的图像检索技术，基于区块链的可信溯源方法及系统、存储介质和基于workflow的

内容安全检测能力调度方法，研究搭建应用框架，实现了5G消息全生命周期内容合规、内容可控、审核

结果可溯源。该方法所研究的5G消息内容安全检测能力，将以生产穿插的形式接入到5G消息的生产、传

输和发送过程。

关键词：内容安全检测；人工智能；区块链；5G消息

0引言像检索技术、基于肤色的图像识别方法、基于图像描述符的图

像识别方法、基于神经网络的图像识别方法，实现涉政、违禁、

对比4G消息内容，5G消息内容在文本基础上，拓展出

广告等多类型不合规检测。如图1所示。

图片、语音、视频等，有信息量大、传播途径多、传播范围广、

（2）基于区块链技术，确保检测结果可信可溯源

传播影响深等诸多特性。在消息内容安全检测上，传统的人

借助于区块链的分散式云存储技术，能使得数据的保存

工检测方式已无法满足海量的5G消息内容传播需求，仅江苏

和传输更加安全，在此基础上，可实现5G消息生产接收过程、

省内企业5G消息日发送量需求已超过10万。依托人工智能

安全合规审核过程、5G消息发送过程全过程可信。本方案中

的5G消息内容安全检测应需而生，可通过人工智能技术手段

技术可信逻辑如下：

实时检测多类型5G消息内容合规性，确保运营安全；利用区

①5G消息平台在接收企业用户的每一条5G消息时，通

块链技术手段保存内容检测结果，实现检测结果防篡改与可

过统一接口将消息内容上传区块链进行分布式存储，每条消

溯源。

息上链后生成防伪溯源码。

②监管方接收5G消息平台提交的审核请求时，将消息内

1研究思路

容安全检测结果上传区块链进行分布式存储，每条消息审核

1.1研究方案结果上链后生成防伪溯源码。

（1）整合人工智能技术，作为内容安全检测核心算法③5G消息平台在接收监管方的审核结果后，上链校验，

在文本检测算法方面：整合AI技术，借助“词向量”的将经过审核后的5G消息推送5G终端用户。

深度学习技术能大大减少特征工程部分的人力成本。文本检④企业运营方、5G消息平台、监管方等角色责任划分清晰，

测主要通过DNN深度神经网络技术支撑，