11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
埃隆·马斯克的GrokAI聊天机器人正在互联网上泛滥,生成了从唐纳德·特朗普到马斯克本人的「深度伪造」图像——生成的图片有的完全荒诞到极其令人不安等。自上周发布以来,Grok的用户不断生成假冒的特朗普图像,如抢劫便利店或驾驶飞机飞向双子塔的画面。欧盟专员蒂埃里·布雷顿本月早些时候在马斯克接受特朗普在XSpaces采访前威胁对其进行监管打击后,引发了轩然大波。
AI生成的埃隆�马斯克的形象,已经出现在数千条虚假广告中,导致许多人被骗。AI驱动的“深度伪造”视频预计每年将造成数十亿美元的欺诈损失。AI行业正在快速发展,这些伴随产生的欺诈事件,需要AI行业和监管部门共同努力应对,以防止滥用。
世界最大的广告集团WPP的首席执行官成为一起精心策划的深度伪造诈骗行动的目标。WPP的CEOMarkRead在最的一封邮件中详细描述了这次未遂诈骗行动,并警告公司其他高管要提防自称是高管电话。深度伪造音频已经瞄准了世界各地的政治选人,但也逐渐渗入其他不那么知名的目标。
英国一组议员建议通过法律禁止人工智能对音乐明星进行深度伪造,以保护他们的声和形象不受侵害。200多名音乐人签署了一封公开信,呼吁加强AI滥用的保护,认为AI对艺术家的声音和形象构成潜在威胁。保护创意和知识产权至关重要,以及确保我们的人类本质不受侵犯。
儿童虐待者正在利用人工智能技术制作"深度伪造品"来勒索受害者拍摄自己的虐待行为,从开始一个可持续数年的性勒索循环。制作模拟虐待儿童图像是非法的,工党和保守党一致呼吁禁止所有由人工智能生成的露骨图像。政策文件建议,短期内应针对单一用途"裸体"工具的创建者和宿主采取行动,但长期应对抗明确的人工智能图像问题仍需进一步探讨。
微软演示了VASA–1,这是一个基于静态图像、音频样本和文本脚本来创建人物讲话视频的框架,微软声称——这是正确的——这个框架太危险了,不适合向公众发布。这些由AI生成的视频,可以让人物以克隆的声音令人信服地配合脚本说话,正是美国联邦贸易委员会上个月警告的那种情形,之前已提出规则以防止利用AI技术进行冒充诈骗。随着这些技术变得越来越复杂,它们有�
数百名人工智能领域的专家签署了一封公开信,敦促政府对人工智能生成的深度伪造进行严格监管。这封公开信由500多名人工智能领域的人士签署,强调深度伪造对社会构成了日益增长的威胁,政府应该在整个供应链上实施义务,阻止深度伪造的传播。如果立法者决定着手处理这个问题——尽管在选举年份,国会分歧严重,这是一个不太可能的事件——他们将有这份名单来了解全球人工智能学术和开发社区的立场。
最近关于「美国总统大选现人工智能造假」的报道揭示了人工智能技术在社会和政治领域的潜在影响。美国媒体近期曝光了一家人工智能初创公司通过其技术进行的“深度伪造”,模拟美国总统拜登电话呼叫。通过AIbase的人工智能产品库,您可以更全面地了解和选择适合您需求的人工智能工具,确保其合理使用。
谷歌研究团队发布了一款名为Lumiere的先进人工智能视频生成器,引起了对深度伪造技术可能增加的担忧。Lumiere能够根据简单的文本提示创建逼真的五秒视频,其先进之处在于采用了"时空U-Net架构",通过一次传递即生成整个视频的时间持续序列。谷歌尚未回应有关Lumiere的进一步问题。
在上周的开发者大会上,微软宣布了其在人工智能竞赛中的最新贡献:一款可以生成新头像和声音,或复制用户现有外观和语音的软件,这引发了人们对它可能加剧深度伪造创造的担忧。深度伪造是指使用AI制作的未曾发生事件的视频。Meta本周宣布了一项政策,要求披露在政治广告中使用AI的情况,并禁止竞选活动使用Meta自己的生成AI工具进行广告。