近日一段“莫迪跳传统舞蹈”的视频在网上疯传，视频中，“莫迪”和其他舞者围成一个小圈欢快地旋转着。然而，莫迪上周末在印度人民党总部出席排灯节特别活动时亲自辟谣，称网上流传的跳舞视频是AI合成的，并就此发出警告。
据印度《加尔各答每日电讯报》网站报道，莫迪说:“我看到了一段我在跳加尔巴（起源于印度古吉拉特邦的舞蹈）的视频，‘多亏了’深度伪造。AI时代深度伪造内容的传播是一场大危机，值得注意的是，这很快引发了社会的不满。”“深度伪造”最常见的形式是AI换脸、语音模拟等。莫迪表示，深度伪造视频是通过社交媒体传播的，而社交媒体又有大公司的背书，因此许多人信以为真。他警告说:“人们会误以为自己看见的是真实的，这会引发巨大危机。”他还表示，现在印度缺乏识别这种“深度伪造”的技术。
“莫迪已经成为深度伪造的受害者，这是令人担忧的发展趋势。”《印度时报》19日评论道。近期，深度伪造技术生成的虚假视频在印度网络上兴风作浪，中招的不乏演艺圈名人，特别是女性艺人。这引发民众愤怒，一些演艺界人士要求政府介入打假。
印度《铸币报》网站18日称，印度电子和信息技术部部长阿什维尼·瓦希诺当天表示，政府已向所有大型社交媒体发出通知，要求他们采取措施识别深度伪造内容并删除。“社交媒体平台已经作出回应，并有所行动。”瓦希诺说，如果社交媒体平台未能采取适当措施打击深度伪造，之前保护社交媒体平台的条款可能不再适用。另据印度“Times Now”网站报道，瓦希诺说，政府可能在未来三四天召集各大社交媒体平台开会报告打击深度伪造内容的进展，包括Meta和谷歌。
在这一事件中，莫迪成为深度伪造的受害者，这引发了人们对这一技术发展趋势的担忧。深度伪造技术在印度网络上造成了虚假视频的泛滥，尤其是演艺圈名人中的女性艺人成为中招对象。愤怒的民众要求政府介入打假行动。
为了应对这一问题，印度电子和信息技术部已向大型社交媒体发出通知，要求其采取措施来识别并删除深度伪造内容。政府对社交媒体平台采取行动，并警告称，如果平台未能打击深度伪造，之前保护社交媒体平台的条款可能不再适用。政府计划召集各大社交媒体平台开会，汇报打击深度伪造的进展情况。
在这个信息时代，AI合成技术的滥用引发了重大危机，深度伪造的视频让人们误以为自己看到的是真实的。印度目前缺乏识别深度伪造的技术，因此这一问题迫切需要得到解决。政府、社交媒体平台和技术公司需要共同努力，加强打击深度伪造的措施，保护社会免受虚假信息的影响。
（举报）