人工智能对电信网络诈骗治理的影响【论文】.pdfVIP

人工智能对电信网络诈骗治理的影响

摘要:人工智能技术快速发展为推进电信网络诈骗治理

智能化、精准化提供了新机遇，同时也被诈骗分子恶意利用

给治理工作带来新挑战。系统梳理人工智能技术在电信网络

诈骗治理工作中的应用实践，剖析其不当使用为治理工作带

来的风险挑战，在总结国内外治理措施基础上，研究提出思

路建议。

关键词:人工智能;电信网络;诈骗治理

1引言

在电信网络诈骗治理领域，人工智能技术“双刃剑”效应

明显，治理与诈骗技术对抗日趋激烈。一方面，人工智能技

术不断促进治理能力提升。一些机构和企业积极利用大数据

分析、机器学习等人工智能技术开展诈骗治理和风险防控工

作，技术识别准确度更高、监测拦截实时性更强、防护覆盖

面更大，有效降低了诈骗风险与危害。另一方面，人工智能

技术被恶意利用带来风险隐患。诈骗分子积极利用人工智能

技术精准筛选受骗者、精心设计诈骗脚本、伪造高仿真诈骗

信息，使得诈骗呈现成本低、花样新、波及广等特点，隐蔽

性、复杂性、迷惑性增加，引起社会的关注和担忧。

2人工智能给电信网络诈骗治理带来的机遇与挑战

2．1机遇大数据分析、机器学习、知识图谱等人工智能

技术已被广泛应用于电信网络诈骗电话检测、恶意网址拦截

等场景中，有效降低人力支出，快速发现疑似诈骗行为，极

大地提高了诈骗治理工作的效率和质量［1-3］。

2.1.1诈骗电话检测利用大数据分析、模式识别等技术进

行全天候诈骗电话检测，对海量通信数据进行预处理、多维

融合、分析研判、交叉比对和模式识别。例如，中国电信“天

翼蓝盾”反诈平台，针对“手机黑卡”大规模大范围提前预警的

难题，对网络前后端融合数据智能分析，实现预付费卡在诈

骗重点区域漫游动态监测、数据分析并快速处置高危涉诈号

码。

2.1.2恶意网址拦截基于数据样本库，利用机器学习算法

和大数据平台对海量网址进行特征比对检测、页面相似度分

析，发现拦截疑似涉诈网址。例如，腾讯安全云库建立实时

更新的网址黑白样本库，根据不同的应用场景不断调整和适

配算法，最终选取准确率高的机器学习模型，在保证及时性

的同时，也能达到较好的识别准确率。

2.1.3诈骗信息审核通过对已知诈骗信息的不断学习，结

合自然语言处理、计算机视觉和语音识别等技术，可以实时

分析并判断信息的可靠性，及早识别出涉诈或伪造内容。例

如，360应龙综合反诈平台对疑似诈骗的文本、图片、账号

等信息进行识别分类，在单省份一天能有效识别拦截虚假涉

诈信息近70万条。

2.1.4受害者发现预警基于涉诈号码黑灰名单库等信息，

人工智能模型算法能够对用户的异动情况进行快速分析处

理，进而以自动外呼、发送预警短信、闪信等方式向疑似受

害用户进行及时提示提醒。例如，阿里钱盾反诈公益平台不

断更新迭代预警模型，形成自动化的诈骗行为和受害用户的

及时发现预警能力。

2.1.5诈骗团伙研判分析基于知识图谱和分类聚类算法，

诈骗团伙识别模型能够将离散的单点举报聚类成可疑诈骗

团伙。例如，中国移动基于随机森林算法开发涉诈人群精准

识别系统，对高危用户、贩卡用户、异常终端、异常区域进

行识别，形成涉诈人群、手法、终端、区域、事件和拓展特

征的精准画像识别，有效提高了诈骗重点地区的技术防范能

力。

2．2挑战

电信网络诈骗活动包含精准信息获取、诈骗脚本设计、

通信联络诱导、资金支付转移4个关键环节。人工智能技术

在4个环节均被诈骗分子恶意利用，加剧了电信网络诈骗向

精准化、拟人化、自动化方向蔓延发展［3，4］。

2.2.1在“精准信息获取”环节，人工智能加剧隐私泄露风

险诈骗分子利用智能恶意软件等隐蔽窃取聊天记录、家庭关

系等敏感信息。基于人工智能技术的热门应用增加了用户生

物特征信息泄露风险，越来越多的语音交互产品让声纹更容

易被收集。例如，换脸、换声应用软件需要用户在使用时提

供面部特征等核心信息，一旦泄露或滥用将不可逆且带来极

大风险。

2.2.2在“诈骗脚本设计”环节，人工智能被用于设计定制

化脚本、精准选取受害人通过对特定人群的行为特征的训练

学习，人工智能系统可生产出千万个定制化的诈骗脚本。以

俗称“杀猪盘”的交友赌博类诈骗为例，诈骗分子通过智能分

析公众发布信息，根据骗术对人群进行筛选，精准选取金融、

社交等目标人群，提高诈骗成功率。

2.2.3在“通讯联