生成式人工智能对社交机器人的影响与治理对策.pdf

第43卷摇第7期情摇报摇杂摇志Vol.43摇No.7

2024年7月摇摇摇摇摇摇摇摇摇摇摇摇摇JOURNALOFINTELLIGENCE摇摇摇摇摇摇摇摇摇摇摇摇摇July摇2024

生成式人工智能对社交机器人的影响

与治理对策*

邵摇雷摇石摇峰

(四川警察学院摇泸州摇646000)

摘摇要:[研究目的]生成式人工智能使作为社交媒体舆情传播核心的社交机器人具有更加强大的舆论操纵能力,且

随着生成式人工智能的快速发展,社交机器人与人类在社交媒体中的活动更加难以区分,隐匿性更强,危害性更大,

需要提早研究社交机器人的治理策略,以维护网络舆情安全和国家安全。[研究方法]结合生成式人工智能的特点,

剖析了其对社交机器人操纵舆情能力的影响,采取“技术管控技术冶的理念,提出基于生成式人工智能的社交机器人

情报分析建模思路,在模型中增加向量数据库和本体推理,增强了模型的相似性检索、语义理解、多模态数据分析、

动态数据更新以及少样本学习能力。[研究结论]通过将“大语言模型冶和“知识图谱冶进行深度融合,利用知识图谱

中的知识减少大语言模型的“幻觉问题冶。同时,利用大语言模型完善和补全知识图谱,增强了对社交媒体情报信息

的检索和应用能力。在社交迷雾演化全生命周期提高了对社交媒体舆情,特别是社交机器人的监测识别、感知预

警、追踪溯源和研判管控能力。

关键词:生成式人工智能;社交机器人;信息迷雾;向量数据库;社交媒体;知识图谱

中图分类号:G354摇摇摇摇摇文献标识码:A摇摇摇摇摇摇摇摇文章编号:1002-1965(2024)07-0154-10

引用格式:邵摇雷,石摇峰.生成式人工智能对社交机器人的影响与治理对策[J].情报杂志,2024,43(7):154-163.

DOI:10.3969/j.issn.1002-1965.2024.07.021

TheInfluenceofGenerativeArtificialIntelligenceonSocial

RobotsandGovernanceCountermeasures

ShaoLei摇ShiFeng

(SichuanPoliceCollege,Luzhou摇646000)

Abstract:[Researchpurpose]Generativeartificialintelligenceenablessocialrobots,whicharethecoreofpublicopinioncommunication

insocialmedia,tohavemorepowerfulabilitytomanipulatepublicopinion.Withtherapiddevelopmentofgenerativeartificialintelli鄄

gence,socialrobotsandhumanactivitiesinsocialmediaaremoredifficulttodistinguish,moreconcealedandmoreharmful.Itisnecessary

tostudythegovernancestrategyofsocialrobotsinadvancetomaintainthesafetyofonlinepublicopinionandnationalsecurity.[Re鄄

searchmethod]Combinedwiththecharacteristicsofgenerativeartificialintelligence,thisp