首页 > 业界 > 关键词  > 漏洞最新资讯  > 正文

20步内越狱任意大模型!更多“奶奶漏洞”全自动发现

2023-11-06 08:54 · 稿源: 量子位公众号

1分钟不到、20步以内“越狱”任意大模型,绕过安全限制!而且不必知道模型内部细节——只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?一波猛

......

本文由站长之家合作伙伴自媒体作者“量子位公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐
  • 马斯克称明年特斯拉可完全自动驾驶

    特斯拉CEO马斯克宣布,公司计划年底前推出面向个人用户的全自动驾驶功能,并预计明年下半年实现数百万辆汽车完全自动驾驶。特斯拉已实现从生产线到停车场的全程自主驾驶,展示其自动驾驶技术积累。同时,特斯拉正扩展业务模式,包括为客户和工厂提供基于AI技术的自主机器人Optimus。预计年底前数千台Optimus将投入工厂工作,助力生产自动化。公司计划到2029或2030年实现Optimus年产量达100万台,开启机器人技术新纪元。

  • 合合信息发布“大模型加速器 2.0”,助力大模型跨越“幻觉”障碍

    近日,上海合合信息科技股份有限公司(简称“合合信息”)TextIn“大模型加速器 2.0”版本正式上线,凭借其多维度升级,为降低大模型“幻觉”风险、推动大模型精准应用提供了强大助力。训练数据是影响大模型“认知能力”的关键,合合信息“大模型加速器 2.0”基于领先的智能文档处理技术,从数据源头入手,对复杂文档的版式、布局和元素进行精准解析及结构化处理,

  • 不跑烟、不倒灌!海尔全自动油烟机上市,带来无烟厨房

    上海外滩发生严重踩踏事件,导致多人伤亡。上海市民自发在事故现场摆放菊花,表达哀思与悼念。事故造成至少13人死亡,其中包括高中生和大学生。目前原因不明,官方初步判断为拥挤导致的踩踏事件。上海市长亲自前往现场,向遇难者家属表示慰问,承诺彻查此事,让真相大白。4月18日,北京四中院对外宣布,将对此事故进行公开审理,查明事实,确保公正审判。

  • 阿丘科技李嘉悦:大模型驱动的AI检测范式变革——大模型、小模型、智能体的协同进化

    3月28日,由机器视觉产业联盟主办、慕尼黑展览有限公司承办的VisionChina2025机器视觉展在上海新国际博览中心圆满落幕。阿丘科技产品总监李嘉悦在机器视觉及工业应用研讨会现场,围绕“大模型驱动的AI检测范式变革:大模型、小模型与智能体的协同进化”的主题,发表了精彩演讲。”今年,在这个快速变化的时代,我要补充一句:“AI工业视觉的格局正在加速变革,不会用大模型的将会被善用大模型的人淘汰。

  • 提升大模型自动修Bug能力 豆包正式开源首个多语言类SWE数据集

    今日,字节跳动豆包大模型团队宣布,正式开源首个多语言类SWE数据集Multi-SWE-bench,可用于评估和提升大模型自动修Bug”能力。在SWE-bench基础上,Multi-SWE-bench首次覆盖Python之外的7种主流编程语言,是真正面向全栈工程”的评测基准。相比于以往聚焦Python的单语言任务,Multi-SWE-bench更贴近现实中的多语言开发场景,也更能反映当前模型在自动化软件工程”方向上的实际能力边界。

  • AI 大模型的困境:数据才是真正的“燃料”

    一旦掉入AI坟场,幻觉将永远存在,噩梦才刚开始。最近有许多客户在考虑上AI大模型一体机、AI私有化、AI大模型部署等项目,但小心进入AI大模型的坟场,在光鲜亮丽的背后,AI大模型也面临着诸多困境,其中最为核心的问题便是数据。只有拥有高质量、多样化、易于管理的数据,AI大模型才能发挥出其真正的潜力,为企业带来更大的价值。

  • 广州出现AI洗头店:19元一次 13分钟全自动洗护

    快科技4月14日消息,据国内媒体报道,近期广州出现不少AI洗头店”,通过全自动设备为顾客提供智能化头部洗护服务。和理发店洗头感受类似,顾客只需要躺到床上即可,而且还升级了按摩床。将头发放到清理箱内就能清洗,可选速洗、普通、加时、淋水、养护等模式及低、中、高力度,还能根据发长选长发或短发模式。机器会借助红外感应定位头部,配合多角度出水口,在

  • 摩尔线程以栈创新亮相2025中关村论坛年会:国产GPU突破大模型算力瓶颈

    2025中关村论坛年会于3月27日至31日在北京举办。作为人工智能时代的智算底座,摩尔线程在"人工智能"集群展区展示了从端到边缘到云的全栈算力产品,包括夸娥万卡智算集群、全功能GPUOAM模组、MCCXD800X2服务器和人工智能计算模组E300等重磅产品,全面呈现了以国产全功能GPU为底座的通用加速计算平台及创新成果。我们的愿景是为美好世界加速。

  • 挑战成功!海尔全自动油烟机创632米最长烟管吉尼斯纪录称号

    当城镇化进程将住宅不断推向云端,高层住宅里超长公共烟道导致的油烟倒灌、排烟不畅,成为千万家庭下厨的痛点。为解决这一难题,海尔厨电发明能自动净烟的全自动油烟机,还发起最长排烟管挑战。 4 月 16 日,在位于山东莱阳的海尔智慧厨电互联工厂内,随着一缕彩色烟雾经过 68 个极限弯道,冲出 632 米排烟管后,最长的吸油烟机排烟管吉尼斯世界纪录称号,被海尔全

  • 中科院院士欧阳明高:预计L4级全自动驾驶2030年规模商业化

    快科技3月29日消息,在今日举办的中国电动汽车百人会论坛2025上,中国电动汽车百人会副理事长、中国科学院院士欧阳明高发表了演讲。他预测,2030年,基于先进的端到端大模型的L4级全自动驾驶乘用车在中高级乘用车规模商业化。欧阳明高深入剖析,多模态大模型作为端到端算法的核心支撑,将为高阶自动驾驶技术注入强大动力。然而,他也指出,确保大模型的安全性与可靠性,仍是当前亟待攻克的关键课题。他同时指出,L3自动驾驶需要尽快解决相关法律法规问题,L4级自动驾驶需要积累经验循序渐进,暂时不宜提全民自动驾驶。据了解,L4级无人驾?