全球知名保障科技刊物《麻省理工科技评论（MIT）》比较新发布报告显示，数字经济时代，以“Deepfake”为代表的深度换脸技术更加智能化和高度真实化。当前，深度伪造技术被非法用于经济、政治、社会等领域，形成严重危害，深度伪造检测面临更大挑战。研究发现，相比传统防伪技术，来自中国的马上消费技术团队的防伪大模型，已成为大模型时代深度防伪新机遇。
2025年，AI深度伪造很可能成为“全球首要风险”。今年年初世界经济论坛发布《2024年全球风险报告》预测，AI生成的错误信息和虚假信息被列为“未来两年全球十大风险”之首，其会使本就两极分化、冲突频发的全球形势进一步恶化。
马上消费人工智能研究院院长陆全近期表示，Sora无疑是技术领域的一次重大突破，但也会降低AI伪造门槛，潜在引发Deepfake等黑色产业链滋生蔓延。防伪大模型为金融黑产提供了先进武器。据测算，2023年，国内黑产欺诈引发的经济损失达1149亿元，金融业务欺诈金额达75亿元，国家监管机构持续预警，金融机构声誉严重受损，金融客户合法权益不时受到侵害。
聚焦到金融行业，Deepfake主要构成身份欺诈，即通过深度伪造的虚假图像和视频来冒充他人，骗过金融信贷流程中的身份核验系统，进而实施盗刷、恶意注册等。得益于防伪大模型的技术突破，金融行业目前对Deepfake有了比较成熟的解决方案。
一方面，源于Chain of thought 思维链技术。防伪大模型拥有比较罕见的编码能力，通过编码进行概念延申和推理，充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中，Gemini Pro和 GPT-4在未经过防伪专项增强时，能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题，如“福尔摩斯”一般，这代表大模型对图片理解能力的显著提升。
另一方面，Scaling law 规模效应显现。防伪大模型具有大模型的一般特点，即数据的有效增长可以促进模型能力的同步提升。随着深度伪造数据的积累和录入，防伪大模型的域外能力在显著增强，这种增强相较于传统专家模型是数以百倍的提升。
马上消费技术专家认为，防伪大模型构建优质的多模态生物核验与防伪平台，具有巨大潜力和实用价值，不仅提升了安全性和效率，还为千行百业的发展和用户体验带来了积极变化。同时，马上消费已将防伪大模型引入日常风控反欺诈管理流程中，呈现迭代周期短、拦截性能强、可解释性强等特性，大幅提升用户体验，实现了人机协同的金融防伪新应用模式。
（推广）