11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
生成式AI人脸造假套路多,怎么办?现在,专门用于DeepFake的综合性产品上新了——ZOLOZDeeper,蚂蚁数科ZOLOZ出品。我们日常的支付宝刷脸支付,正是依托于他们技术支撑。还悬赏百万给新产品找bug最后,ZOLOZ还联合蚂蚁安全响应中设立了超百万的奖金池,诚邀白帽黑客们来给产品找bug,可以通过“蚂蚁集团安全响应中心”官网提报漏洞。
就离谱!只因开了一个视频会议,直接被骗1.8个亿。这是真真切切已经在香港发生的一场犯罪:一家跨国公司香港分公司的财务人员,按照“CFO”的指令,给对方指定账户共计转账2亿港币。Deepfake假CFO骗走公司1.8个亿这种事儿,多少还是有点过于离谱。
【新智元导读】香港一家跨国公司员工,被骗子邀请进了用Deepfake做的「高管视频会议」中,下令让他转了2亿港币到不知名中账户,5天之后才发现被骗了。古老的AI应用——「AI换脸」多次破圈,屡屡登上热搜。在技术和政策层面上都做出努力,才有可能将Deepfake技术的负面影响控制在合理范围内。
Meta的研究人员在对抗合成语音的挑战中取得了一项重大突破。他们提出了一种名为AudioSeal的技术,该技术能够在人工智能生成的语音中嵌入隐形水印,用于主动检测AI生成的言论,同时还能够识别生成它的具体模型。随着威胁形势的变化,更好的解决方案仍需要不断发展,以识别操纵风险并在人工智能能力不断增强的背景下建立对语音界面的信任。
智谱AI发布GLM-4大模型,具有媲美GPT-4的中文能力,支持更长上下文、多模态能力,2024被称为AGI元年。PortkeyAIGateway:一个连接多种人工智能模型的开源工具PortkeyAIGateway是一个连接多种人工智能模型的开源工具,允许开发者通过简单的API接口访问超过100种不同的大语言模型,包括OpenAI、Anthropic、Mistral、LLama2等。
微软推出了一款名为DeepfakesCreator的工具,被称为AzureAISpeech的文本到语音化身。这个工具可以通过文本输入生成逼真的会说话的真人视频。DeepfakesCreator可以广泛应用于创建各类吸引人的视频和交互式应用,提高沟通和信息传达的效率。
深度伪造技术正在引发严重的社会问题,虽然政治上的深度伪造已经引起广泛关注,但大多数非自愿深度伪造内容仍以色情为主,主要困扰着妇女。最近的一部纪录片《AnotherBody》揭示了这一问题,以揭露深度伪造受害者的个人创伤和他们采取的行动。它呼吁社会更加关注这一问题,以采取更多措施来防止深度伪造的滥用。
德国知名新闻主播AndréSchünke最近成为Deepfake滥用的受害者。骗子利用他们的数码复制品在Facebook上的虚假宣传视频中做广告,宣传一个AI支持的投资平台,承诺巨大的利润。监管机构和技术公司必须采取行动,限制这种技术的滥用,保护公众。
德国多名知名新闻主播被深度伪造利用,在包含错误信息的宣传视频中非法使用其形象,这引发了对深度伪造技术滥用的担忧。其中德国第二电视台主播克里斯蒂安·西弗斯在Facebook发现自己的“双胞胎”在一个投资广告中夸大产品,声称能轻松获利。有观点认为,此类乱用名人形象损害信誉的行为可能会进一步扩散,如果任由其发展,会严重妨碍信息的可信度。
本文概要:1.担心训练数据集中的偏见会导致少数族裔承受欺诈、诈骗和虚假信息的压力。2.大部分深度伪造检测器是基于依赖于用于训练的数据集的学习策略。专家们呼吁建立更具包容性的训练集和标准化的测量方法,以解决深度伪造检测工具的偏见问题。
虚拟伪造视频的出现引发了人们对视觉内容可信度的担忧。利用深度学习和面部标志的各种算法在解决这一挑战上已经取得了令人着迷的成果。这凸显了利用头部姿势模式有效检测Deepfake的潜力,特别是在像FaceSwap这样不太逼真的操纵中。
美国的七家科技巨头公司包括OpenAI、谷歌等联合宣布,未来将在生成式AI创作的文本、图片、音频、视频中加入可识别的水印,标明所有DeepFake作品,维护信息安全。这项举措旨在解决DeepFake技术带来的虚假信息传播问题。这一举措标志着在开发负责任的人工智能上迈出了关键的一步。
一群人工智能领导者创建了第一个透明的deepfake视频,使用合成创作和标记本身,在一个越来越关注合成媒体传播的领域提供透明度。创建透明的deepfake视频标志着朝着明确标记内容如何创建或更改迈出了重要的一步,鉴于对合成媒体的日益关注,这是一项必要的措施。
越来越多的视频是 AI 工具伪造的,效果十分逼真,比如视频AI换脸,又或者使用别人的脸或声音来创造一个新的事件图像等等。你已经看过一个但不知道它是一个深度造假的视频。皮尤研究中心的数据显示,当一个深度谎言获得数百万分享时,已经太晚了,因为63%的美国成年人承认,一个经过修改的视频让他们对时事感到困惑。
PNAS 上的一项新研究表明:人工智能(AI)合成的面孔,并不仅仅会欺骗那些认为他们可能真实的人,甚至较真人更易取得大家的信任...结果发现,他们的猜测准确率只有 48%,甚至不如抛个硬币来瞎猜的准确率...研究配图 - 4:一组具有代表性的真人 / 合成面孔...但当让另外 223 名参与者对 128 张面孔的可信度进行打分时,他们再次被惊到 —— 因为大家更容易被合成人脸所欺骗(较真人高出 8%)...研究人员指出,假面孔得分更高的部分原因,是因为他们更加普通,且之前的研究发现大家更易相信这些“平均脸”......
在“美颜相机”已经让不少网友分辨不清真假的当下,Facebook 也在努力让通过 Deepfake 制作的内容“现出原形”,以便未来能够对相关内容展开追溯。在持续资助的相关研究中,最新项目就是与密歇根州立大学(MSU)研究人员达成的一项合作。可知这支联合团队打造了一套可对 Deepfake 伪造进行逆向工程的方法。(图自:Facebook AI 官网)具体说来是,这套逆向工具能够分析 AI 生成的图像,以揭示创建它的机器学习模型的识别特征。这项
虽然目前 Deepfakes 换脸伪造情况在 Facebook 上并不是很突出,但这家社交网络巨头正加大对该技术的研究力度,以防范潜在的未来威胁。通过和密歇根州立大学(MSU)多位学者的合作,Facebook 创造了一种逆向设计深度假象的方法:分析人工智能生成的图像,以揭示创造它的机器学习模型的识别特征。图片来自于 The Verge这项工作非常有用,因为它可以帮助 Facebook 追踪在其各种社交网络上传播 Deepfakes 的不良分子。这些内容可能包括
利用三个城市的卫星照片,并借鉴用于操纵视频和音频文件的方法,一个研究小组着手确定检测虚假卫星照片的新方法,警告伪造的地理空间数据的危险,并呼吁建立一个地理事实核查系统。该研究于2021年4月21日发表在《地图学与地理信息科学》杂志上。"这些技术已经存在了。我们只是试图揭露使用相同技术的可能性,以及为其制定应对策略的必要性。"这个简化的插图显示了如何通过将基础地图(城市A)放入深度伪造的卫星图像模型中来生成模
虽说受到了打压,但是在自身发展上,TikTok还是要继续前行。据TikTok今天出炉的新调整看,该平台将明确禁止Deepfake视频内容(主要是美国方面),主要是这类以人工智能合成的视频,其可以以假
随着技术的不断成熟,Deepfake却带来隐藏的“虚假”风险。自从 2017 年,一位网友将美国女星和成人电影女主做了人脸交换,伪造了一段色情视频后,有关滥用Deepfake制造虚假、不良内容的视频一直充斥于网络。
据外媒报道,Facebook 日前宣布了其首届 Deepfake 检测挑战赛的结果,获胜算法能够以 65.18% 的平均准确率发现非常逼真的 Deepfake 虚假内容。
诞生之初,Deepfake是一项有趣的图像处理技术,仅仅带来搞笑和娱乐视频,但殊不知,潘多拉魔盒就此被打开,催生出 黑产、恶搞政客“操纵”民意,Deepfake正逐步进化为一种新型“病毒”,人类伦理道德的“遮羞布”也被无情揭开。图:Saturday Night Live中凯特·麦金农换脸伊丽莎白·沃伦面对因新技术而引发的公众恐慌,相关监管机构也加快采取行动,出台“打假”策略,旨在打击Deepfake虚假音视频,控制“造假病毒”的传播。同时,
11月12日据机器之心消息,昨日,推特正式发布了首个反Deepfake策略草案。该公司表示,如果Deepfake内容威胁到某人的人身安全或可能造成严重伤害,他们会将该内容从推特上删除。目前,推特还在为这项草案征集公众意见。
近日,知名咨询公司Gartner在美国奥兰多举行的Gartner研讨会上发布了 2020 年十大战略技术趋势,其中包括了实用区块链(Practical Blockchain),Gartner指出,区块链可用于建立信任、提供透明度、实现跨业务生态系统的价值交换、降低成本、减少交易时间并改善现金流等,另外区块链资产可用于追溯来源,大大减少了假货替换的机会,其还在身份管理等行业具有应用潜力。
Deepfake来源自英文“deep learning”(深度学习)和“fake”(伪造)的混成词,专指用基于人工智能AI的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上,比如AI换脸。
在 AI 换脸应用 deepfakes 被别一些人用于色情目的后,近期曝出的 DeepNude 项目又滥用了 AI 来创建女性的假裸照。为了整治平台上的乱象,GitHub 在近日接受 Motherboard 采访时称,该平台将封杀 DeepNude 项目,因其违反了社区内不得创建“性淫秽内容”的规则。为此,他们已经删除了多个存储库,包括由最初的 DeepNude 创建者正式运行的存储库。
数月前开始,关于“AI换脸“的话题时不时地登上热搜,网友们一边对这一科技大法respect,一边调侃XX明星的演技。
据外媒Techspot报道,美国国防部已经通过其开展的一项计划研发出第一批用于发现报复色情内容和用人工智能创建的假新闻的取证工具。众所周知,Deepfakes是使用机器学习在视频中将一个人的脸部叠加到另一个人脸部的技术。它已经被用来制作名人的假色情视频,并且通过正确的编辑,它可以完全令人信服。
2017年12月,一个名为“DeepFakes”的用户在Reddit上发布了一个“假视频”,把《神奇女侠》主角盖尔·加朵(Cal Gadot)的脸嫁接到一个成人电影女星的身上,但是看起来几乎毫无破绽。他利用了深度学习和AI新技术制作成了这个看上去以假乱真的视频。
随着生成式AI技术的发展,Deepfake已成为一种新型的网络犯罪手段,给数字世界的安全带来了严峻挑战。蚂蚁数科旗下生物识别品牌ZOLOZ近日正式发布了针对Deepfake的综合防控产品ZOLOZDeeper。为进一步完善ZOLOZDeeper,蚂蚁集团还通过"蚂蚁集团安全响应中心"官网,设立了超百万的奖金池,鼓励"安全极客"参与漏洞挖掘,助力产品不断优化升级。