近年来，从语音助手到自动驾驶技术，AI已深入到生活的方方面面。然而，AI技术的广泛应用也带来了一些潜在的风险，其中深度伪造技术引发了社会关注。
深度伪造技术利用算法生成高度逼真的虚假内容，通过学习大量真实数据，生成与人物或场景极为相似的视频或图像。尽管这一技术展示了AI的强大，但也滋生了欺诈行为。例如，近期出现了冒用张文宏医生形象和声音进行直播带货的事件。伪造视频中，合成人像宣称某产品，致使超过1200件商品售出。此事引发张文宏医生和社会公众的强烈不满。
图源备注:图片由AI生成，图片授权服务商Midjourney
上海市消费者权益保护委员会副秘书长唐健盛表示，这类通过AI技术冒用名人形象的行为，已构成对消费者权益的严重侵害。类似案例还包括国庆期间有人使用雷军头像制作恶搞视频，以及冒用刘德华声音用于吸引流量。相关企业和名人已发声警示公众提高警惕。
专家指出，目前AI技术能轻松克隆他人面部和声音，且生成的内容逼真度极高。然而，这类技术并非毫无破绽。通过仔细观察人脸与背景的融合度或声音与口型的匹配度，仍能发现异常。此外，实时直播目前难以通过此类技术实现。
法律界人士明确表示，未经授权利用他人形象或声音的行为已涉嫌违法。中国政法大学副教授朱巍强调，根据《民法典》，这种行为侵犯了人格权;根据《网络安全法》，相关内容属于违法信息，发布者甚至可能面临刑事责任。
对于消费者而言，若因AI假冒名人带货而购买商品，可依据《消费者权益保护法》要求商家“退一赔三”，赔偿金额最低为500元。与此同时，短视频平台也应负起监管责任，加强对相关内容的审核与处罚力度，避免违法信息大范围传播。
深度伪造技术的兴起，提醒公众在享受AI便利的同时，也需对其潜在风险保持警惕。