11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
AI语音技术领域的公司正努力寻求何规范Deepfakes,同时又不抑制创新。ElevenLabs的联合创始人兼CEOMatiStaniszewski告诉《大西洋月刊》说:“这将是一场猫鼠游戏”。ElevenLabs已与包括AI、Anthropic、Google和Meta在内的几家人工智能公司签署了一项协议,共同打击2024年选举中的Deepfakes。
微软推出了一款名为DeepfakesCreator的工具,被称为AzureAISpeech的文本到语音化身。这个工具可以通过文本输入生成逼真的会说话的真人视频。DeepfakesCreator可以广泛应用于创建各类吸引人的视频和交互式应用,提高沟通和信息传达的效率。
深度伪造技术正在引发严重的社会问题,虽然政治上的深度伪造已经引起广泛关注,但大多数非自愿深度伪造内容仍以色情为主,主要困扰着妇女。最近的一部纪录片《AnotherBody》揭示了这一问题,以揭露深度伪造受害者的个人创伤和他们采取的行动。它呼吁社会更加关注这一问题,以采取更多措施来防止深度伪造的滥用。
在 AI 换脸应用 deepfakes 被别一些人用于色情目的后,近期曝出的 DeepNude 项目又滥用了 AI 来创建女性的假裸照。为了整治平台上的乱象,GitHub 在近日接受 Motherboard 采访时称,该平台将封杀 DeepNude 项目,因其违反了社区内不得创建“性淫秽内容”的规则。为此,他们已经删除了多个存储库,包括由最初的 DeepNude 创建者正式运行的存储库。
据外媒Techspot报道,美国国防部已经通过其开展的一项计划研发出第一批用于发现报复色情内容和用人工智能创建的假新闻的取证工具。众所周知,Deepfakes是使用机器学习在视频中将一个人的脸部叠加到另一个人脸部的技术。它已经被用来制作名人的假色情视频,并且通过正确的编辑,它可以完全令人信服。
2017年12月,一个名为“DeepFakes”的用户在Reddit上发布了一个“假视频”,把《神奇女侠》主角盖尔·加朵(Cal Gadot)的脸嫁接到一个成人电影女星的身上,但是看起来几乎毫无破绽。他利用了深度学习和AI新技术制作成了这个看上去以假乱真的视频。