1月13日,抖音发布“2024网络黑产治理盘点”,过去一年平台持续打击网络黑色产业链,通过升级AI大模型技术、迭代风控策略、优化举报机制等系列举措,加强对网络黑产的识别和治理能力,封禁欺诈、水军和违规导流相关黑产账号超600万个,并向相关部门提供涉嫌违法犯罪的线索,全力守护用户的用网安全。
前置拦截欺诈信息 多渠道提醒用户谨防被骗
2024年,仿冒领导、亲友和官方客服是最受关注的欺诈类型,尤其是仿冒抖音客服的黑产,用广撒网方式拨打电话、发送短信、即时通讯软件拨号等方法,与受害人直接联系,一步步引导对方共享屏幕或者下载第三方app,从中获取用户银行卡账户信息、诱导用户不断转账等。
刷单诈骗、购物诈骗也是2024年平台重点打击的欺诈类型。刷单诈骗黑产以招工、兼职、致富为由,或伪装成单身交友人设,诱导用户下载第三方软件进行欺诈;另一类黑产链路则以售卖演唱会内部门票、赠送小马宝莉卡、低价转游戏皮肤等噱头,锁定目标用户去第三方平台进行交易欺诈。
平台根据黑产作弊链路,在评论、建群、拉人等多个场景阻断黑产触达受害者,上线反诈客服“验证助手”,并根据黑产的特征每月迭代反诈策略200个以上,在站内外多个渠道发送反诈提醒,日均保护潜在受害人200万次。2024年,警方根据抖音提供的线索,打击诈骗团伙69个,抓获犯罪嫌疑人451名。
精准识别网络水军 重点打击四大类
售卖水军服务、恶意控评、流量造假、恶意举报,是过去一年抖音重点打击的四类水军行为。黑产在站内售卖刷粉刷赞、招募水军等违规服务,或有组织、有目的地批量发布评论错误引导用户认知,利用作弊手段伪造虚假流量、炒作热度,甚至利用平台举报规则牟利,恶意举报导致他人账号受影响。
2024年抖音搭建刷手、买手用户模型,精准识别风险账号,并实施拦截异常操作,阻断水军造假途径;通过大模型技术提升识别能力,对机器账号和受骗用户差异化处置。一年来抖音日均拦截违规信息6200万次,共封禁账号110万个,并将涉嫌违法行为的线索上报相关部门。过去一年根据抖音提供的线索,警方抓获水军黑产犯罪嫌疑人90名。
升级视频关键帧识别能力 阻断违规外链导流风险
除了欺诈和水军,黑产集中的另一方向是违规外链。黑产组织通过作弊手段绕过平台风控策略,在多种渠道插入二维码、联系方式、图片、网址等,引导用户点击跳转至第三方违规、违法网站,这些第三方网站则大多以提供色情、赌博等违法服务为主。
为应对黑产新手法,抖音风控团队在前置识别的基础上,新增了自动黑样本库,通过AI技术可自动识别、归类违规行为并进行处置;结合黑产行为模式,升级视频截取关键帧模型能力,可第一时间定位黑产在视频中植入的违规页面;新增弹幕场景模型,有效运行该场景的违规拦截策略。2024年,抖音封禁相关违规账号超120万个,同时警方根据抖音提供的线索,打击违规导流团伙8个,抓获嫌疑人40名。
