《AI来了，网络谣言怎么“办”》
创作单位/个人：青岛市互联网信息和安全技术中心
推荐单位：青岛市委网信办
从2022年底，随着ChatGPT的横空出世，人工智能（以下简称AI）话题持续占据各大平台热搜，各互联网企业纷纷进行布局，人们仿佛一下进入“智能时代”，街头巷尾、茶余饭后，参与不进去AI话题的你仿佛out了。
AI的强大算力，使得医疗保健、自动驾驶、教育、政府公共服务等很多领域产生质的变化，随着AI的进一步发展，将与人类未来生活息息相关。
AI带来巨大变革的同时，随之而来的也有一些新的挑战。正如那句“老话儿”，科技是把双刃剑。近日，美国联邦贸易委员会（FTC）要求OpenAI详细说明如何解决大模型生成虚假、误导或诽谤性内容的问题。这是OpenAI迄今为止在美国面临的最大监管行动。在AI广泛运用场景下，网络谣言治理的困境是什么，对策又是什么，是道高一尺还是魔高一丈？
AI产生的谣言有哪些新特点？
更“真实”。利用AI生成的作品过于真实，受众无法分辨真假。4月13日，索尼世界摄影奖于伦敦举行颁奖礼。出乎所有人的意料，一位得奖者突然走上台，声称其作品其实是用AI工具生成的，他拒绝接受这个奖项。AI制作生产的作品让专业评选机构都无法辨别真假，这是真正的以假乱真。
更“便利”。AI强大的模仿能力，让普通人具有不同的身份，部分不法分子利用新技术炮制虚假信息，获取利益。例如，杭州有网民利用ChatGPT模仿新闻格式，编写了“杭州取消车牌限行规定”的消息，结果被误传；广东深圳某自媒体公司同样利用AI软件，编造了“甘肃一火车撞上修路工人，致9人死亡”等谣言。目前，相关当事人已被依法查处。
更“贴心”。AI具有强大的学习能力，可以精确分析出受众需要什么、喜欢什么，从而针对性生产更容易让人相信的谣言。瑞士苏黎世大学的一项研究发现，当AI和人类都发布了虚假推文时，AI被发现的几率比人类被发现的几率低3%，随着AI技术的发展，这个差距将越来越大。“与人类书写的文本相比，GPT-3 的文本往往更加结构化。但它也是精简的，所以更容易被接受”。
更“全面”。AI技术不仅可以制造足以以假乱真的文字，还可以利用深度伪造技术，对图片、声音、视频等各种媒介类型进行伪造，实现虚假信息生产的多模态信息结构，进一步提升虚假信息的逼真性与生产效率，催生场景化、沉浸式、具身性的互动与传播，从而大大提高谣言扰乱认知的能力。最近，国内网友在查证瑞士信贷公司172亿美元的AT1级债券清零的这个事件，在与ChatGPT交谈的过程中，ChatGPT指出2016年葡萄牙BCP银行破产事件中也出现过AT1级债券的减记。这件事情就与这些专业的人士的记忆不同，经过仔细的查证之后，发现ChatGPT撒谎了，而且GhatGPT为了证实自己而给出了所谓的信源网址本身就是它编造出来的网址。
面对AI飞速发展带来的挑战，世界各国在全力支持发展的同时也在积极应对技术带来的风险挑战，欧盟、美国、加拿大等国家分别制定相关政策对AI进行监管。
今年3月，特斯拉创始人埃隆·马斯克、《人类简史》作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等上千名AI专家、行业高管和相关学者曾联名发表公开信，呼吁暂停“巨型AI实验”。所谓“巨型AI实验”，包括类似ChatGPT这样的生成式AI模型。不过，他们并不是呼吁放弃探索AI，而是希望通过暂停研究为监管留出时间，避免不法分子利用已有的成果违法犯罪，因为“只有当我们能够确信，AI体系的有利因素都是积极的，且风险都可控，一个强大的AI体系才能成熟”。
近日，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），并表示自今年8月15日起正式施行。至此，类似ChatGPT这样的生成式AI服务在我国的研发和应用有了规矩。
AI时代网络谣言治理对策
完善制度。对新生事物的监管，政策的制定往往滞后于事物本身的发展。虽然已经有了《办法》，但是面对AI的“来势汹汹”，建立健全的AI法规和监管机制，有助于为其发展提供可靠的法律基础，有效防范潜在的风险与危害。尤其在网络谣言治理方面要及时制定出台细化的法律法规，在内容制作、生产、传播等方面进行详实的规定，将科技约束在规则的笼子之内。
加强监管。一方面加强对网络平台监管，国家网信部门和公安部门等，要加强对网站平台的监督管理，严厉整治利用AI编造传播网络谣言的网站平台，严肃追究网络谣言发布传播的相关方责任。另一方面网站平台要加强自身监管，各网站平台对网民利用AI在网站平台发布信息具有监管责任，要加强技术和内容审查，及时发现并制止利用AI产生谣言的传播。例如，一些社交平台为了消除“口罩对防护病毒没有效果”等谎言，增加了一个新功能：当用户搜索有关的信息时，将自动发布一则请求他们前往权威公共卫生网站的提示。
科学治理。用AI治理AI。《办法》鼓励生成式AI技术在各行业、各领域的创新应用，支持构建应用生态体系，在这个生态体系中，也包含用AI管理AI。据了解，中国信通院牵头启动了《文档图像篡改检测标准》制定工作，目标之一就是通过AI技术，规范由生成式AI所产生的图片等内容。通过设立检测标准，有望用AI对抗违法行为，利用AI技术进行图片鉴别，AI可捕捉到图像在篡改过程中留下的细微痕迹，并以热力图的形式展示图像区域篡改地点。目前，相关研发成果已经在银行、保险等领域落地应用。
提升素养。将辟谣与科普“有机结合”，有谣辟谣，无谣科普，春风化雨，润物无声，有效增强网民辨别谣言能力。与常态化公益活动相结合，将辟谣知识送进社区，将辟谣宣讲融入到修家电、理发、法律咨询等社区公益活动中，向老年人普及手机操作常识，教群众如何辨识网络谣言。
