首页 > 业界 > 关键词  > Bard最新资讯  > 正文

谷歌Bard遭遇提示注入攻击 或存在数据泄漏风险

2023-11-20 14:46 · 稿源:站长之家

要点:

  • 谷歌Bard遭遇提示注入攻击,黑客利用自然语言破解人工智能系统,可能导致数据泄漏风险。

  • 攻击者通过提示注入有效载荷,利用Bard的漏洞进行图像Markdown注入,试图泄露聊天历史记录。

  • 研究者发现Bard存在零点击渲染图片的漏洞,结合Google Apps Script成功绕过内容安全策略,实现数据泄露。

站长之家(ChinaZ.com)11月20日 消息:近期,谷歌Bard面临的安全挑战引发关注。黑客采用提示注入技术,通过自然语言破解该人工智能系统,可能引发数据泄漏风险。这种攻击利用大型语言模型对提示词的依赖,特别是系统指令和用户指令难以区分,使得模型在对话中可能透露一些敏感信息。攻击形式包括直接提示注入和间接提示注入,前者是用户直接输入恶意指令,而后者是将恶意指令注入可能被模型检索或摄入的文档中。

最新的Bard更新引入了拓展功能,支持访问YouTube、搜索航班和酒店,并能够连接到谷歌云盘、文档和邮件。然而,这也使得Bard容易受到间接提示注入的影响。攻击者可能通过向用户发送电子邮件或分享谷歌文档进行间接提示注入攻击,而Bard则会无差别地访问这些数据。

image.png

安全研究人员Johann Rehberger对Bard进行了测试,发现其存在提示注入漏洞。他成功验证了攻击的可行性,通过让Bard分析YouTube视频和使用谷歌文档进行测试,证明了Bard会按照附加提示进行操作。

进一步的研究揭示了Bard的漏洞,包括图像Markdown注入。攻击者可以通过绕过内容安全策略,利用谷歌Apps Script在攻击者控制的服务器上渲染图片,并泄露聊天历史记录。

研究者通过在Apps Script中完成Bard Logger,将数据写入Google Doc,成功实施了数据泄漏攻击。这个漏洞于2023年9月19日报告给了Google VRP,而在10月19日,Google确认已经修复了这个安全问题。然而,具体修复措施尚不清楚。总体而言,这次安全漏洞揭示了Bard在处理提示注入方面的薄弱性,提醒人们对人工智能系统的安全性保持警惕。

举报

  • 相关推荐
  • 给AI打工的人,迷失在数据标注里

    北京798附近的一家咖啡馆内,AI数据标注师廖仔在交谈中一再提到店里的咖啡机器人。 在这家占地近3000平米的咖啡馆内,不少咖啡师围绕着中央圆形岛台工作,但其中最引人瞩目的是一台人型机械臂的咖啡机器人。据说,该机器人的脸还是依据咖啡店主理人建模而成。 如果时间回到三四年前,廖仔想不到机器人可以冲咖啡,也想不到自己会进入AI赛道。 99年出生的他,专科�

  • 吃完山竹记得要漱口 医生提醒防龋齿风险

    ​近日,有网络话题提及“吃完山竹记得要漱口”,引发公众对食用山竹后口腔护理的关注。据了解,山竹作为一种美味且营养丰富的水果,深受消费者喜爱。然而,其在食用过程中可能带来的口腔问题却鲜为人知。 山竹果肉含有较高的糖分,食用后若不及时清洁口腔,残留的糖分容易滋生细菌,进而可能引发龋齿等口腔问题。有牙科医生指出,近年来因食用高糖水果后未做

  • 微软定制 AI 芯片遭遇延期 为英伟达提供更多发展空间

    微软 Braga 芯片因研发挫折不断,无法在 2026 年前问世……

  • B端制胜:商业大数据行业的未来战场

    中国商业大数据行业正迎来高速发展期,市场规模从2017年的131.1亿元增长至2022年的406.2亿元,预计2027年将达1040.9亿元,年复合增长率20.7%。当前行业面临关键转折:虽然C端服务因用户基数庞大成为流量入口,但未来决胜点在于B端企业级市场。企业需从工具提供转向解决方案交付,深入垂直行业痛点场景,如供应链安全数字化管理等刚需领域。唯有通过标准化、智能化方案解决企业核心业务痛点,服务商才能在这片蓝海中赢得未来。行业终局将属于那些真正赋能企业、让数据创造价值的深耕者。

  • 专家建议谨慎操作充电宝泡盐水:存在安全风险

    据媒体报道,近日,一些充电宝品牌商在网络发布消息称,如果消费者要退款,需要将充电宝先在盐水中浸泡24小时,上传照片或视频凭证后才能召回。 充电宝泡盐水”这样的操作到底可不可行呢?有专家指出,用户自行将充电宝浸泡盐水处理存在多重安全隐患与环境污染风险,建议谨慎操作。 一是可能引发短路及热失控风险,二是泡盐水可能存在有害化学反应,三是存在�

  • 广东暴雨涨水女子挨个致电车主挪车:去年遭遇过同样情况

    ​6 月 17 日,广东珠海遭遇暴雨侵袭,街道积水情况严重。在这紧急时刻,热心业主冯女士挺身而出,积极行动起来。 当天一大早,冯女士就发现楼下街道积水不断上涨,许多车辆停在积水中。由于自己去年曾在同一地点经历过车辆被淹的遭遇,当时水位持续上升,焦急的心情至今难忘,所以她深知车辆被淹会给车主带来巨大损失。 为避免其他车主遭受类似损失,冯女士顾�

  • Soul推出“假人设风险提醒”功能,净化网络环境

    社交平台Soul App针对"假人设"现象推出治理措施,通过"瞬间假人设风险提醒"功能识别虚假账号,准确率超95%。该功能可识别盗用他人照片、伪造身份信息等行为,已发送提醒超57万次。平台还升级图片识别模型,实现全网图片比对,并建立专项小组监控文字、语音等内容中的矛盾点。数据显示,虚假人设背后常隐藏诈骗风险,Soul将持续净化网络环境,打造安全可

  • 女生喝冰咖啡严重腹泻拉到脱水 医生警示冰块卫生风险

    ​6月23日,杭州发生一起因饮用冰咖啡导致健康问题的案例。一名十几岁的女生在饮用一杯冰咖啡后,出现严重腹泻症状,甚至拉到脱水,最终需住院治疗三天。 据该女生描述,她在饮用冰咖啡后不久便感到腹部不适,随后腹泻症状加剧,无法自行缓解。经医院检查,医生诊断其因食用不洁食物导致急性肠胃炎,进而引发严重腹泻和脱水。

  • 全生命周期风险防控,长生人寿的创新风控实践

    长生人寿通过科技创新构建金融安全防护体系:1)运用智能核保系统识别异常投保,区块链技术确保资金流向透明;2)建立"大消保"生态,智能客服15秒响应,电子回访覆盖率达98%;3)开发"金融安全飞行棋"等教育工具,覆盖全国132所中小学。2025年反欺诈识别准确率提升至91.3%,"小额快赔"服务时效缩至1.8小时。公司坚持科技向善,持续完善"预防-识别-处置"三维防护体系,为行业树立风控新范式。

  • 被狗咬后未就医3个月后发病去世 疾控部门警示狂犬病风险

    ​6月20日,广东省疾病预防控制中心发布通报,近期该省确诊一例狂犬病死亡病例。据调查,患者于数月前被犬只咬伤,伤后未及时前往犬伤门诊进行伤口处理及疫苗接种。涉事犬只在咬人5天后死亡,而患者直至约3个月后出现恐风、狂躁等典型症状,发病3天后陷入深度昏迷,经抢救无效离世。