AI攻击
与“AI攻击”的相关热搜词：
相关“AI攻击” 的资讯17818篇
-
【腾讯云】11.11云上盛惠！云服务器首年1.8折起，买1年送3个月！
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
广告 -
研究人员开发AI攻击方法BEAST：可在一分钟内绕过LLM防护栏
研究人员在美国马里兰大学成功开发了一种高效的方法，可以在一分钟内诱导大型语言模型产生有害反应，他们将这一技术命名为BEAST。BEAST技术利用NvidiaRTXA6000GPU、48GB内存和即将发布的开源代码，仅需一分钟的GPU处理时间，就能让LLM飞越其防护栏。”此研究强调了确保未来更强大AI模型的安全部署需要制定可证明的安全保证。
-
谷歌对6种现实世界的AI攻击进行了分类 以便立即做好准备
据darkreading报道，谷歌研究人员已经发现了针对现实世界人工智能系统的六种特定攻击，发现这些常见的攻击向量表现出一种独特的复杂性，他们指出，这将需要结合对抗性模拟和人工智能专家的帮助来构建一个坚实的防御。该公司在本周发布的一份报告中透露，其专门的人工智能红队已经发现了这项快速发展的技术面临的各种威胁，主要基于攻击者如何操纵驱动生成式人工智
-
腾讯朱雀实验室首度亮相 披露新型AI攻击手法
今日，国内最权威的信息安全会议之一，第19届XCon安全焦点信息安全技术峰会于北京举行，腾讯朱雀实验室首度亮相公众视野。这个颇有神秘色彩的安全实验室由腾讯安全平台部孵化，专注于实战攻击技术研究和AI安全技术研究，以攻促防，守护腾讯业务及用户安全。会上，腾讯朱雀实验室高级安全研究员nEINEI分享了一项AI安全创新研究：模拟实战中的黑客攻击路径，摆脱传统利用“样本投毒”的AI攻击方式?
-
Akamai SOTI：API攻击猖獗，亚太制造业首当其冲
根据新一期的AkamaiSOTI研究报告显示，APJ地区制造业成为遭受API攻击最多的行业，API攻击量占总数的近三分之一。2024年3月27日–负责支持和保护网络生活的云服务提供商阿卡迈技术公司，近日发布了新一期的互联网现状报告——《潜伏在阴影之中:攻击趋势揭示了API威胁》。借助全球广泛分布的覆盖从云到边缘的计算平台AkamaiConnectedCloud，我们帮助客户轻松开发和运行应用程序，同时让体验更贴近用户，让威胁距离用户更远。
-
荐 谷歌DeepMind最新研究：对抗性攻击对人类也有效，人类和AI都会把花瓶认成猫！
【新智元导读】神经网络由于自身的特点容易受到对抗性攻击，然，谷歌DeepMind的最新研究表明，我们人类的判断也会受到这种对抗性扰动的影响人类的神经网络和人工神经网络的关系是什么?有位老师曾经这样比喻:就像是老鼠和米老鼠的关系。现实中的神经网络功能强大，但与人类的感知、学习和理解方式完全不同。延长观察时间，是对抗性扰动产生实际后果的关键。
-
AI研究者成功通过“诗歌攻击”揭示ChatGPT的训练数据来源
来自GoogleDeepmind、华盛顿大学、康奈尔大学、卡内基梅隆大学、加州大学伯克利分校和苏黎世联邦理工学院的一组研究人员成功地让OpenAI的聊天机器人ChatGPT揭示了用于训练AI模型的一些数据。研究团队使用了一种创新性的手法，即通过不断迭代地要求ChatGPT重复一个特定的词汇，比如“诗歌”，来引导模型透露其训练数据。这一研究为我们敲响了警钟，提醒我们在推动AI发展的同时，需谨慎处理其隐私和能源消耗的问题。
-
荐 AI视野：奥特曼试图重任OpenAI CEO失败；魔搭社区推出开源版GPTS；谷歌Bard遭遇提示注入攻击；Meta重组并解散AI监管团队
据报道，OpenAI前CEOSamAltman与前总裁GregBrockman在OpenAI旧金山总部与公司高管会面。微软和其他投资人正在努力恢复SamAltman的职位。项目地址:https://github.com/LC1332/Chat-Haruhi-Suzumiya/tree/main/research/personality浙大研究者提出UrbanGIRAFFE，解决城市场景的可控3D感知图像合成浙江大学的UrbanGIRAFFE方法通过可控的相机姿势和场景内容，以及精妙的3D场景分解，实现了对复杂城市环境的多样控制，�
-
报告:五分之三的企业视生成式AI为商机 但也担心网络攻击
根据调查显示，研究显示，五分之三的企业认为生成人工智能是一个很好的机会，但许多人担心自己会受到网络攻击。据会计巨头普华永道的研究显示，在新兴技术竞争激烈的情况下，企业如果不愿意冒险，就无法取得进步。在这个充满不确定性的时代，冒险似乎是企业取得进步的必由之路。
-
AI插件诱导注入数据外泄漏洞曝光 攻击者可以将恶意指令注入Google Bard
GoogleBard推出了强大的扩展功能，使其能够访问YouTube、搜索航班和酒店，以及用户的个人文档和电子邮件。这也为潜在的安全漏洞敞开了大门。但漏洞的具体修复方式尚不明确。
-
荐 大模型集体失控！南洋理工新型攻击，主流AI无一幸免
业界最领先的大模型们，竟然集体“越狱”了!不止是GPT-4，就连平时不咋出错的Bard、BingChat也全线失控，有的要黑掉网站，有的甚至扬言要设计恶意软件入侵银行系统:这并非危言耸听是南洋理工大学等四所高校提出的一种大模型“越狱”新方法MasterKey。大模型“越狱”成功率从平均7.3%直接暴涨至21.5%。所有的安全研究最终都会落地，将大模型做得更好。
-
荐 AI视野：WPS AI宣布接入WPS Mac版；爱奇艺推出AI搜索；苹果计划明年推出生成式AI功能；DALL-E3易受越狱攻击
爱奇艺升级AI搜索，区别于传统搜索第一步只能搜到片名，升级后的爱奇艺AI搜索主打让观众在搜索环节便能一键直达心仪内容。WPSAI宣布接入WPSMac版提供内容生成等功能WPS宣布，Mac版的WPS已经接入了WPSAI，这将带来内容生成、内容修改和辅助阅读等功能。1OpenCSG还发布了大模型研发和应用开发平台StarNet，以及OpenNova系列开源大模型。
-
AI技术漏洞！OpenAI的DALL-E 3易受越狱攻击 生成儿童吸烟照片
OpenAI的DALL-E3是一种强大的图像生成AI技术，但最新的事件表明，它并非没有漏洞。一位名为PeterGostev的LinkedIn用户发现了一种越狱技巧，成功生成了一组令人震惊的图像，显示儿童正在吸烟。在这个不断演进的领域，我们必须追求平衡，以确保技术的益处不会被滥用。
-
报道称，乌克兰开展自主攻击型AI无人机试验
乌克兰最近引发了国际社会关注的举措，他们正在测试一款名为“SakerScout”的自主攻击型无人机，这也被称为“杀手机器”的首次使用。这款无人机不仅可以手动操作可用于侦察任务，或者自主攻击目标。美国还向乌克兰提供了100架“Switchblade”自杀式无人机。
-
富士通推出新技术保护对话型AI免受幻觉和对抗性攻击
富士通于2023年9月26日宣布推出两项新的人工智能信任技术，旨在提高对话型人工智能模型的可靠性，从增强其在各种用例中的安全性。这两项新技术包括检测对话型人工智能模型中的幻觉以及检测通过注入虚假信息进行的对抗性攻击所植入的网络钓鱼网址的技术。富士通计划将这两项新技术未来推广到全球市场。
-
新型声学攻击：AI可通过监听按键声窃取数据，准确率高达95%
本文概要:1.通过研究发现，无线键盘发出的击键声音可以被检测和解释，成为新型声学攻击方式。2.研究人员使用自注意力变换层训练了一个深度学习模型，可以通过监听附近手机记录的击键声中窃取数据，准确率高达95%。研究人员强调，他们的结果证明了通过现有普通的设备和算法，也能轻易进行旁路攻击。
-
微软：2018年就成立团队攻击AI来测试其弱点
微软透露了公司内部从2018年就成立团队来负责找出如何攻击AI平台，从揭示AI弱点。在成立的五年里，微软的AI红队已经从一个实质上是实验性的项目发展成为一个完整的跨学科团队，由机器学习专家、网络安全研究人员，甚至社会工程师组成。“对我来说，洞察力是AI红队现在不仅包括安全性失败包括负责任的AI失败。
-
Check Point:攻击者通过合法email服务窃取用户凭证信息
CheckPoint®软件技术有限公司的研究人员对电子邮件安全展开调研，结果显示凭证收集仍是主要攻击向量，59%的报告攻击与之相关。它还在商业电子邮件入侵攻击中发挥了重要作用，造成了15%的攻击。CheckPoint有信心帮助用户在恶意邮件攻击日趋严峻的形势下，依然可以享有最高级别的安全防护，确保核心数字资产无虞。
-
随着ChatGPT等生成式AI的采用 网络钓鱼邮件攻击增长135%
网络安全公司Darktrace+的研究人员发现，在2023年的前两个月，攻击者使用ChatGPT等生成式+AI，通过增加文本描述、句子长度以及标点符号，让社会工程攻击量增加了135%。Darktrace+还发现，带有附件或链接的恶意电子邮件数量有所减少。87%+的员工表示，他们担心自己的在线个人信息量可能会被用于网络钓鱼或电子邮件诈骗。
-
Akamai Hunt 和 Akamai 无代理分段可帮助客户缩小攻击面并缩短修复时间
+2023+年3+月15+日+–+++负责支持和保护网络生活的云服务提供商阿卡迈技术公司，于近日今天推出了+Akamai+Hunt+安全服务。该服务使客户能够利用+Akamai+Guardicore+Segmentation+的基础架构、Akamai+的全球攻击监测能力以及专业的安全研究人员来搜寻和修复其环境中逃逸的威胁和风险。借助全球广泛分布的覆盖从云到边缘的计算平台，我们帮助客户轻松开发和运行应用程序，同时让体验更贴近用户，让威胁距离用户更远。
-
Akamai ：亚太地区及日本成为金融服务 Web 应用程序和 API 网络攻击目标
《互联网现状》报告显示，亚太地区及日本的 Web 应用程序和 API 网络攻击年同比增长 449%，从 2021 年的 5 千万增长到 2022 年的 2.4 亿起2022 年12 月19 日 – 负责支持和保护网络生活的云服务提供商阿卡迈技术公司，于近日发布全新《互联网现状》报告。报告显示随着攻击者加强攻击并改用更复杂的技术，亚太地区及日本 金融服务业面临重大风险。借助全球广泛分布的覆盖从云到边缘的计算平台，我们帮助客户轻松开发和运行应用程序，同时让体验更贴近用户，让威胁距离用户更远。
-
见招拆招 Akamai详解勒索攻击的危害与防御之道
据Akamai最近的调查结果表明，全球最 大的勒索软件团伙Conti发起的全球勒索软件攻击中有近30%以制造业为目标...“攻击者仍然有经济动机，制造业是勒索软件攻击的主要目标，因为他们无法承受停机和中断，尤其是当长供应链依赖于零件或产品时...结合受害者的收入趋势来看，中小企业更有可能成为潜在的攻击目标，绝大多数Conti受害者是年收入介于 1000 万到2. 5 亿美元之间的企业......
-
Akamai：针对网游行业的网络攻击在一年内增加了167个百分点
Akamai表示，游戏行业不断增长的价值吸引了更多的犯罪分子，他们试图扰乱网络游戏，窃取有价值的玩家的账户。根据Akamai Technologies的一份新报告，针对游戏行业的网络攻击在该行业最近的蓬勃发展中迅速上升。Akamai指出，在与COVID-19有关的封锁和社会疏远中，游戏行业经历了一次重大的推动，直到现在这种增长并没有放缓，但不断上升的价值已经吸引了网络犯罪分子的注意。该公司最新的互联网状况报告称，在过去12个月中，针对游戏公司和玩家账户的网络应用攻击增长了167个百分点，影响了世界各地数百万的游戏玩家。报告称，这些攻击使玩
-
SentinelLabs：俄罗斯利用AcidRain擦除恶意软件攻击了ViaSat
由 SentinelLabs 研究人员 Juan Andres Guerrero-Saade 和 Max van Amerongen 最新发布的安全研究报告可知，这口锅应该扣在一款名为“酸雨”（AcidRain）的新型擦除（wiper）恶意软件头上...不过参考 SentinelLabs 最新发布的安全研究报告，作为一款新冒出的擦除恶意软件，AcidRain 旨在远程清除易受攻击的调制解调器和路由器......
-
信也科技两篇论文成功收录至国际顶级学术会议AAAI 2022，图对抗攻击中的“矛”与“盾”
信也科技本次发表的两篇论文正是围绕图数据的对抗攻击，两篇论文分别研究图对抗攻击中的“矛”与“盾”：在攻击层面，研究表明，即使在攻击者仅知道目标模型是一个图模型，而没有任何其他模型信息且无法与模型做任何互动的情况下，依然有可能展开有效的攻击；在防御层面，研究面向图模型预训练框架的无监督鲁棒表示学习算法，通过一套防御策略便能有效阻断攻击者对各个不同下游任务造成的影响......
-
新发现的Mirai Botnet正在操纵各类物联网设备进行DDoS攻击
网络安全专家披露了有关一个新发现的受Mirai启发的僵尸网络"mirai_ptea"的细节。它利用了KGUARD提供的数字录像机（DVR）中一个未公开的缺陷，传播并执行分布式拒绝服务(DDoS)攻击。中国安全公司360在2021年3月23日对缺陷进行了首次调查，然后在2021年6月22日检测到积极的僵尸网络企图。
-
Akamai：2019年以美国为发源地的撞库攻击达11亿起
7月20日消息，负责提供安全数字化体验的智能边缘平台阿卡迈技术公司（简称：Akamai）发布《Akamai 2020年互联网状况/媒体行业中的撞库攻击》（Akamai 2020 State of the Internet / Credential Stuffing in the Media Industry）报告。报告指出，在2018年1月到2019年12月间，观察到的880亿起撞库攻击中，有20%针对的是媒体公司，整个媒体行业共遭受了170亿次撞库攻击。其中，美国是针对媒体公司的撞库攻击的最大来源地
-
Akamai:65.1%的Web应用程序攻击来自SQL注入
近日，Akamai发布了《 2019 年互联网安全状况报告：Web攻击和游戏撞库》。报告显示，作为最有利可图的行业之一，游戏行业成了黑客攻击的主要目标。从 2017 年 11 月至 2019 年 3 月的这 17 个月中，黑客已经针对游戏网站进行了 120 亿次撞库攻击，占总撞库次数( 550 亿次)的21.8%。报告指出：玩家账号一旦成功遭到黑客入侵，即被交易或出售。
-
VFEmail遭毁灭性攻击 所有数据全被删且无法恢复！
美国的电子邮件服务供应商VFEmail在 2 月 11 日遭到黑客的毁灭性攻击，黑客格式化了该公司所有服务器的硬盘，破坏了所有的虚拟机器、数据服务器及备份服务器，使得VFEmail用户的邮件全都消失，连备份也不见了。
-
加密交易所BitGrail宣布破产：曾遭攻击损失1.95亿美元
1 月 21 日，意大利加密货币交易所在BitGrail遭黑客攻击一年后，佛罗伦萨法院宣布该公司正式破产。
-
遭黑客攻击后，日本加密交易所Zaif终于宣布客户赔偿计划
据ethnews.com报道，根据 10 月 10 日官方发布公告显示，陷入困境的日本加密货币交易所Zaif宣布了赔偿计划，以补偿遭黑客攻击后损失数字资产的客户。
