1 月 13 日，抖音发布“ 2024 网络黑产治理盘点”，过去一年平台持续打击网络黑色产业链，通过升级AI大模型技术、迭代风控策略、优化举报机制等系列举措，加强对网络黑产的识别和治理能力，封禁欺诈、水军和违规导流相关黑产账号超 600 万个，并向相关部门提供涉嫌违法犯罪的线索，全力守护用户的用网安全。
前置拦截欺诈信息 多渠道提醒用户谨防被骗
2024 年，仿冒领导、亲友和官方客服是最受关注的欺诈类型，尤其是仿冒抖音客服的黑产，用广撒网方式拨打电话、发送短信、即时通讯软件拨号等方法，与受害人直接联系，一步步引导对方共享屏幕或者下载第三方app，从中获取用户银行卡账户信息、诱导用户不断转账等。
刷单诈骗、购物诈骗也是 2024 年平台重点打击的欺诈类型。刷单诈骗黑产以招工、兼职、致富为由，或伪装成单身交友人设，诱导用户下载第三方软件进行欺诈;另一类黑产链路则以售卖演唱会内部门票、赠送小马宝莉卡、低价转游戏皮肤等噱头，锁定目标用户去第三方平台进行交易欺诈。
平台根据黑产作弊链路，在评论、建群、拉人等多个场景阻断黑产触达受害者，上线反诈客服“验证助手”，并根据黑产的特征每月迭代反诈策略 200 个以上，在站内外多个渠道发送反诈提醒，日均保护潜在受害人 200 万次。 2024 年，警方根据抖音提供的线索，打击诈骗团伙 69 个，抓获犯罪嫌疑人 451 名。
准确识别网络水军 重点打击四大类
售卖水军服务、恶意控评、流量造假、恶意举报，是过去一年抖音重点打击的四类水军行为。黑产在站内售卖刷粉刷赞、招募水军等违规服务，或有组织、有目的地批量发布评论错误引导用户认知，利用作弊手段伪造虚假流量、炒作热度，甚至利用平台举报规则牟利，恶意举报导致他人账号受影响。
2024 年抖音搭建刷手、买手用户模型，准确识别风险账号，并实施拦截异常操作，阻断水军造假途径;通过大模型技术提升识别能力，对机器账号和受骗用户差异化处置。一年来抖音日均拦截违规信息 6200 万次，共封禁账号 110 万个，并将涉嫌违法行为的线索上报相关部门。过去一年根据抖音提供的线索，警方抓获水军黑产犯罪嫌疑人 90 名。
升级视频关键帧识别能力 阻断违规外链导流风险
除了欺诈和水军，黑产集中的另一方向是违规外链。黑产组织通过作弊手段绕过平台风控策略，在多种渠道插入二维码、联系方式、图片、网址等，引导用户点击跳转至第三方违规、违法网站，这些第三方网站则大多以提供色情、赌博等违法服务为主。
为应对黑产新手法，抖音风控团队在前置识别的基础上，新增了自动黑样本库，通过AI技术可自动识别、归类违规行为并进行处置;结合黑产行为模式，升级视频截取关键帧模型能力，可第 一时间定位黑产在视频中植入的违规页面;新增弹幕场景模型，有效运行该场景的违规拦截策略。 2024 年，抖音封禁相关违规账号超 120 万个，同时警方根据抖音提供的线索，打击违规导流团伙 8 个，抓获嫌疑人 40 名。
（推广）