生成式人工智能给广告监管工作带来的影响.pdf

智能对市场监管的挑战及规制2024-6

生成式人工智能给广告监管工作带来的影响

刘双舟

摘要：生成式人工智能是依托于运用海量语言文本预训练而成的大模型，在一定程度上模拟人

类的创造性思维，自动生成符合现有逻辑习惯的文本、图像等内容，在广告内容创作领域具有广阔的

应用前景，为广告营销行业注入了新的活力。与此同时，生成式人工智能也给广告监管工作带来了新

的挑战，针对生成式人工智能广告活动的立法应慎重，积极探索规制生成式人工智能商业广告的中国

治理方案。

关键词：人工智能；广告监管；挑战与对策

一、生成式人工智能对广告监管工作带来的挑战的困难。

生成式人工智能技术目前处于快速发展中，诸如三是算法黑箱带来的挑战。人工智能算法通常具

数据源合法合规、算法异化和算法歧视、数据安全、科有黑箱特性，即其决策过程往往不透明。这使得广告

技巨头市场垄断等问题仍然存在。从商业广告监管角监管机构难以了解算法的运作原理，从而难以对算法

度来看，生成式人工智能给广告监管工作带来的挑战驱动的广告行为进行有效监管。

主要表现在以下几个方面：四是数据隐私和安全方面的挑战。人工智能需要

一是广告内容的智能化识别难度加大。随着人工大量的数据来进行训练和决策，但这些数据可能包含

智能技术的发展，广告形式和内容变得越来越复杂和敏感信息，如个人身份信息、商业机密等。如何保护数

多样化。智能化广告可能包含大量的动态元素、个性据的隐私和安全是一个重要问题。人工智能系统的训

化推荐等，使得监管部门依托传统的广告监管手段难练数据往往包含大量的商业秘密，如企业的生产工艺、

以有效识别和监控违规行为。人工智能基于大数据的客户信息等。如果这些数据被泄露或滥用，将给企业

分析和预测，可以实现广告的精准投放。然而，这也可带来巨大的损失。生成式人工智能在商业应用进程中

能导致广告监管的难度增加，因为广告可能变得更加还可能会对国家安全构成潜在的安全风险。对于涉及

隐蔽和难以追踪。国家安全数据的收集和应用流程如果得不到合理的

二是虚假广告信息和误导性加剧。无论是《广告评估和规范，不以适当的方式进行监管，势必影响总

法》还是《互联网广告管理办法》，都对广告的真实体国家安全观的贯彻落实。

性、准确性提出了要求。由于算法黑箱、信息失真等问五是知识产权方面的挑战。在利用生成式人工智

题，生成式人工智能在生成内容时可能由于其“幻觉能制作商业广告的过程中，人工智能需要通过学习大

(Hallucination）”而无中生有地臆造事实、结论、引用量的现有作品来生成新的内容，如文章、音乐、绘画

来源，虚构论文、新闻，提供看似逻辑自洽但实际上并等。这有可能引发关于这些新生成内容的知识产权归

不存在的内容。这些信息可能会误导消费者作出错属问题。

误的决策，从而影响市场竞争的公平性。人工智能还六是广告内容审核和广告效果评估的压力加大。

可以通过深度学习等技术生成逼真的虚假广告内容，人工智能可以快速生成大量的广告内容，这给广告监

这给广告监管机构的虚假广告识别工作带来了很大管机构的内容审查工作带来了巨大的压力。人工智能

作者：刘双舟，中央财经大学文化与传媒学院教授、院长。

66中国市场监管研究

2024-6智能对市场监管的桃战及规制

可以通过数据分析等技术对广告效果进行评估，但这得英国的监管政策都带有促进创新和竞争的色彩。

种评估方法可能存在偏差，从而影响广告监管机构对2023年3月，英国政府发布《支持创新的人工智能监

广告效果的评估。管方式》，旨在凝聚社会共识，加深公众对新技术的

信任，以便企业更好地创新、发展，从而创造更多就业

二、各国应对生成式人工智能挑战的监管对策