近年,为了保证互联网社交行业绿色、健康的发展方向,实时视频流场景类平台被明确要求,其一线审核人员与在线直播间数量总体配比不得少于1:50。作为婚恋社交赛道的标杆企业,他趣率先在深圳、厦门、武汉、随州四地共组建超500人团队的风控研发中心和审核基地,一线审核人员与直播间总体配比达到了1:24,超出国家标准一倍以上。作为一家已经成立了近12年的科技企业,他趣用技术赋能构筑强大的信息安全防护网,领跑行业安全审核新标准。
随着互联网+时代的到来,人们的生活方式、消费习惯已经悄然改变,人际交往方式也正在发生深刻改变。目前,中国青年人口总体下降了近 4000 万,单身的青年却从1.31亿,增加至1.34亿,用互联网交友来摆脱“单身”成为当下年轻人的采取的主流交友方式,然而,信息泄露、欺诈等网络安全问题一直困扰着单身青年们,同时也掣肘整个行业的发展。
作为行业先行者,他趣公司将保障用户信息安全一直放在其核心能力层面上。对于内容安全,平台自主搭建鲸吞审核平台,通过机器识别+人工审核+质检抽查三级审查制度,每天从海量内容中过滤掉风险内容,确保平台内的信息内容绿色健康;平台自主搭建规则引擎、策略引擎,利用大数据和人工智能等技术实时发现、精准打击各类违法违规行为;通过强化文本、语音、图像和视频等媒介的信息识别能力,为全链路风控提供支持。
在审核技术升级的同时,他趣也不断促进平台预防能力,打造了行之有效的“玄武眼”AI风控系统,提高可信环境,通过技术甄别出违法违规行为,并对违规用户进行规范治理,最大限度保障用户安全。
(他趣“玄武眼”AI风控系统标识)
“OpenAI的应用,让很多黑产的诈骗手段不断升级,对社交行业有不小冲击,传统的防控策略和手段已经不能对其进行全面的风险覆盖和打击。”他趣的技术负责人表示,作为企业的安全守门人,他趣技术团队一直积极探索行业信息安全审核新标准,通过利用大数据和人工智能等技术,不断提高机器识别的准确度,前置化识别和拦截风险内容,同时搭建自己的情报体系;不断地探索新技术新能力,在风险防控场景中应用对潜在的舆情风险进行弱信号预警,实时动态维护内容安全。
未来,他趣将继续依照相关法律法规和政策规定,不断优化完善安全功能及平台规则,分享更多安全方面的进展,营造更为清朗的平台生态环境。