抖音发布《2025第一季度黑产治理数据报告》，显示其在打击黑色产业链方面取得显著成效。报告显示，抖音在第一季度封禁了260万个涉及水军、欺诈和违规导流的黑产账号，并将涉嫌违法犯罪的线索上报给有关部门。
抖音通过构建以 AI 为核心的治理体系，显著提升了在黑产违规场景的巡检、预警、研判等环节的效率。在水军治理方面，抖音利用 AI 能力搭建智能机器人工具，实现了风险发现、预警、巡检、研判和回扫等环节的自动化运营。这使得平台在“刷量”识别和处置上的效率大幅提升，单个案例处理时间达秒级，综合准确率超过85%，网络水军服务违规的巡检效率提升了10.25倍，日均拦截违规请求6000万次，封禁水军账号超20万个。
在欺诈治理方面，抖音持续强化反诈提醒，升级“验证助手”工具，帮助用户验证信息是否来自抖音官方，并查看官方客服与自己的联系记录。平台还完善了多个场景的安全模型，重点解决小众聊天场景下的诈骗问题，并加大了对杀猪盘、色情导流交易等高危场景的用户提醒功能。2025年至今，抖音共封禁欺诈相关账号140万个，每日下发提醒短信超80万条，拨打反诈预警电话近17万次。
针对违规导流问题，抖音建立了多账号链路识别体系，从事前、事中、事后等多个环节切断黑产账号之间的联系，并将违规账号统一处置。通过 AI 技术的深度运用，平台在第一季度使相关违规的举报量下降了73.3%，封禁导流违规账号近100万个，处置违规视频内容745万条，并将线索上报相关部门，配合打击违规导流团伙。
抖音表示，将继续利用 AI 技术提升治理能力，保护用户安全，维护平台生态健康。