微信视频创作安全中心发布公告称，近期平台巡查发现部分主播在直播过程中不正当使用AI工具进行违规直播，存在误导观众、侵犯他人肖像权等风险，违反了《微信视频号运营规范》和《微信视频号直播行为规范》，扰乱了平台健康的生态环境。平台将对不当使用AI的直播间按照违规程度分别予以相应处罚，处罚方式包括但不限于弹窗提醒、减少推荐、中断直播、禁播、清空或扣除信用分。
具体违规案例包括:利用AI技术换脸冒充他人（包括但不限于社会知名人士），侵犯他人合法权益;主播在分享金融、法律、医疗等行业内容之前，应先申请对应的直播资质，已完成资质申请的主播，若在直播中使用AI工具改变面部形象，导致出镜人与资质申请时的身份核验不一致，将构成违规行为;在直播间中教学并售卖如何利用AI技术实施不正当的直播/获客/牟利的课程。
平台倡导利用AI技术辅助人工提升效率和优化工作，但坚决抵制利用AI技术进行不正当牟利或侵犯他人权益等违规行为。如果用户在观看视频号直播的过程中，发现相关的违规行为，可通过直播间右上角“分享”按钮中的“投诉”进行投诉，平台将会第一时间核实处理。平台非常重视用户的投诉，并将努力维护视频号直播平台的良好秩序，为用户提供更加优质的观看体验。