2月24日,今日头条在北京举办平台治理开放日,围绕AI谣言、同质化发文、网络诈骗等热议的网络治理焦点,与在座业界专家、媒体共同分享今日头条过去一年来在安全治理、内容生态等方面的细致举措及有效经验。
活动现场,今日头条相关业务负责人与学界专家纷纷发表演讲,对近年来AI谣言与AI技术治理等议题给予了高度关注。
今日头条生态治理运营负责人韩雨桐介绍称,平台很早就关注到AI谣言等情况、问题的出现,更针对性升级、迭代了AI模型的识别能力。在四位一体防御工事外,还建立起了包括谣言库、权威信源库以及专业审核团队在内的三大核心治理能力,全面优化了AI谣言的防控水平,在实现逐步收紧AI内容审核力度的同时,更加强了对AI谣言、低质内容的可靠治理和管控。
会上,清华大学新闻与传播学院副教授陆洪磊分享了题为《AI谣言治理:多方协力的数字战役》的演讲,在聚焦AI谣言产生背景及特点。他指出,伴随AI技术的进一步应用,生成式AI正在重塑网络信息的传播生态,体现在内容端就是AI谣言的日益猖獗。在AI的加持之下,谣言不仅实现了分平台、分渠道、分时段、分媒介的定制化发布,为网络环境带来了更加严峻的跨平台影响。其低廉的成本和倍率传播特性,使得辟谣难度大幅增加。而AI技术自我学习和自我强化的特性,匹配AI生成图片等造假手段,使得AI谣言越来越逼真,对于内容平台来说这无疑是一场需要特别关注的“进化危机”。
清华大学新闻与传播学院副教授陆洪磊
如何应对这一新的态势,陆洪磊以今日头条为例,指出今日头条平台所采取的“内容治理制度、内容审核、辟谣教育、内外联动”四位一体防御工事,为AI谣言的治理提供了一条具有可行性的发展之路。
事实证明,今日头条对AI谣言的相关治理举措卓有成效。不久前今日头条发布的《2024年度治理报告》中显示,截止2024年底,今日头条平台已处理低质AI内容超93万条,禁言、封禁相关账号超2.9万个,用户关于低质AI内容的负反馈量级从28条/天降低到了2条/天,有效抑制和打击了AI谣言的传播链条与传播温床。
陆洪磊认为,AI谣言的治理难以依靠单一力量来完成,需要联动各方建立谣言线索互通机制。在协同治理方面,平台需要做好技术的守门员,加强跨平台辟谣合作,破解AI谣言的“deepfake”陷阱;平台也可以考虑推出“事实快速核验通道”,激发用户的反谣言意识,便于遏制谣言的传播。执法机构需要做好法治保障的护盘手,加快相关法律细则的出台和落实,建立“技术取证-电子证据-司法鉴定”的全链条执法标准;而每位网民则都应当成为理性的受者和传者,转发前思考三秒,分析一下信息来源是否真实、逻辑是否合理、是否属于诱导内容等,并对可疑内容主动进行核实。
陆洪磊总结道,魔高一尺,道能高一丈。当网友发现AI图片中的异常字母时,他们会在评论区自发形成的“真相拼图”,正是协同治理最生动的注脚。
