近日,今日头条发布2024年度治理报告(以下简称“报告”),公布平台针对网络虚假谣言、网络诈骗、同质化发文、低质AI内容等问题的多项治理举措与成果。《报告》显示,平台全年累计拦截不实信息超500万条,处置不友善内容超3亿条,处罚同质化发文超781万篇。
数字时代,信息数量呈几何式爆发,纷繁复杂、真假难辨;人工智能技术的飞速发展更是给网络生态带来了新的挑战。虚假谣言事件频发,不仅扰乱了网络秩序,也渗透至用户生活的方方面面,对现实社会造成了严重不良影响。
对此,今日头条建立起完整的谣言治理和防范体系。一方面加强谣言拦截:通过强化搭建全体裁谣言知识库,培养专业领域的审核人员,建立谣言线索互通机制等方式从根源处遏制不实信息的发布与传播;另一方面加强辟谣教育:成立线上“辟谣小课堂”,发布创意治理动画《小狗的一天》《火》,联动专家、科普创作者发起“头条讲真的”公益活动等,全方位进行用户教育和引导。截至2024年12月底,平台累计拦截不实信息超500万条,封禁造谣、传谣等违规账号超47000个。
网络暴力和网络诈骗同样严重影响着用户的身心与财产安全,今日头条在预防和治理网暴方面不断完善“一键防护”、评论权限设置等产品功能,还与抖音打通心理关怀团队,为被网暴等原因而产生不良情绪的用户提供心理疏导,仅2024年平台就处置不友善内容超3亿条。针对网络诈骗行为,平台秉持“早识别、多拦截、多提示、快速干预”原则,通过技术和运营手段不断加强治理效率,与公安等部门合作加强反诈教育。一年累计封禁违规账号超17万个,为用户发出风险提示超2548万次。
此外,针对同质化内容、低质AI发文、网络水军等问题,今日头条通过增加AI辨别标签、强化内容识别模型、收严账号管理制度等一系列举措开展了专项治理。《报告》显示,2024年平台处罚同质化发文超781万篇,处置低质AI内容超93万条,拦截虚假流量超150亿次。
今日头条相关负责人表示,平台治理是一项长期而复杂的工程,但让用户更安心,让社会更安宁,是平台加强建立优质生态的初心所在和责任所在,“我们愿与多方共同努力,为构建绿色、和谐、健康的网络环境贡献力量。”
图说:今日头条2024年度治理报告重点一览
