首页 > 业界 > 关键词  > 微软最新资讯  > 正文

微软发现“钥匙”,成功入侵GPT-4o、Claude 3

2024-07-16 08:44 · 稿源: ​AIGC开放社区公众号

微软Azure首席技术官Mark Russinovich在官网分享了新型大模型入侵技术——“Skeleton Key”(万能钥匙)。据悉,万能钥匙是一种越狱攻击方法,其核心原理是使用多轮强制、诱导策略使大模型的安全护栏完全失效,让其回答一些禁止的答案,包括血腥、暴力、歧视、色情等非法内容。例如

......

本文由站长之家合作伙伴自媒体作者“​AIGC开放社区公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐