首页 > 评论 > 关键词 > 网络黑客最新资讯 > 正文

全球“黑客大赛”冠军霸气讲述:我是如何让50个文件一起骗过AI安防系统的?

2019-09-27 09:07 · 稿源:大数据文摘公众号

黑客 (3)

声明:本文来自于微信公众号大数据文摘(ID:BigDataDigest),编译:邢畅、张睿毅、钱天培,授权站长之家转载发布。

来源:medium

你有没有想过当黑客呢?

破解手机密码,黑入公司系统,甚至…控制全球电脑。

打住打住!违法犯罪的念头显然不能有。再退一步讲,咱也不一定有这本事。

尤其是在今天,AI安防早已司空见惯,想要当黑客的难度也越来越高了。

有趣的是,网络安全平台Endgame,MRG-Effitas和VM-Ray在近日联手发起了一场“黑客征集”大赛。号召机器学习工程师们一起来攻击他们的安防系统。

比赛的目标是,让 50 个恶意Windows可移植可执行文件(PE)逃避三个机器学习恶意软件分类器的检测。这些文件不仅需要躲避检测,而且还能实现它们原来的功能和行为。

在这场比赛中,一位名叫William Fleshman的小哥拔得头筹——他成功让所有 50 个文件都逃过了AI模型的过滤。

他是怎么做到的呢?让我们一起来听听他的分享。

知己知彼

这是一场白盒比赛,这意味着我可以访问所有模型的参数和源代码。因此,要做的第一件事就是看看模型后台发生了什么。

MalConv

第一个模型是基于Windows可执行文件的原始字节训练的神经网络。

表示文件字节的整数序列(0-255)被传递给MalConv。MalConv中的嵌入层将每个字节映射到一个数字向量。然后通过另外的神经网络层处理向量序列。该模型输出两个数字,分别表示输入是良性和恶意的概率。

关于MalConv的研究早已层出不穷。最简单的攻击就是在可执行文件的末尾添加一些字节。这是一个特别好的技巧,因为添加的数据(即Overlay)不会在恶意软件执行时加载到内存中。因此,我们可以在不改变文件功能的情况下在Overlay中放入任何我们想加的内容。

MalConv同时查找良性和恶意字节的不同模式,以便做出决策。Overlay攻击的目的是用与良性文件相关的模式包装它。

非负MalConv

第二个模型实际上与第一个模型相同,但分配给各层的权重不同。

顾名思义,非负MalConv在训练过程中被限制为具有非负权重矩阵。这样做是为了防止针对MalConv创建的攻击。如果处理得当,非负权重使二元分类器单调;这意味着添加新内容只会增加恶意得分。这将使规避模型变得非常困难,因为大多数规避攻击确实需要向文件添加内容。

“幸运”的是,非负MalConv的实现有一个微小但关键的缺陷。

非负防御只适用于二分类器,其输出分数表示样本的恶意程度。然而,这个版本将输出分成两个分数,分别表示恶意和良性。之后,一个softmax函数将每个类的分数转换为概率。这种结构使得非负权重的训练变得毫无意义。附加内容仍然可以将良性评分推到任意高。当良性评分越高,即使存在相同数量的恶意内容,softmax函数也会将把恶意评分推得越低。因此所有针对MalConv的攻击在这里也会起作用。

论文:

http://ci.louisville.edu/zurada/publications/chor-zur-tnnls.pdf

Ember

Ember其实是Endgame维护的一个数据集。和数据集一起发布的还有一个训练好的基准模型,也称为Ember。Ember是一个lightgbm模型(增强决策树的集合),它根据Windows PE文件解析的几个特征训练得到。

Ember特征解析的源代码在GitHub上可以找到。

代码链接:

https://github.com/endgameinc/ember/blob/master/ember/features.py

了解如何解析特征对制造攻击非常有用。提取的特征包括:

  • 字节直方图

  • 字节熵

  • Section信息(名称、大小、熵、属性)

  • 导入表库及入口信息

  • 导出函数

  • 一般文件信息(各种文件的大小和数量)

  • 文件头信息(机器码、结构、链接器、版本号)

  • 字符串信息(文件中字符串的各种统计信息)

  • 数据目录

数值特征可以直接使用,其他特征(如section的名称)可用哈希转换为数值向量。乍一看,Ember似乎难以愚弄,它解析的许多特征都与文件结构,或者与我们无法更改的特征相关。我们必须在维持原功能的同时还要避免被检测到!

Ember的漏洞是攻击者可以任意控制某些特征。lightgbm模型在集成树的多个位置使用这些特征。我们可以利用模型的复杂性,通过操纵特征来推动导致逃避的决策。

  • 相关推荐
  • 大家在看
  • 东方网力智能安防社区系统打造警情闭环

    随着平安城市、智慧城市、雪亮工程等建设的发展,“智慧社区”作为社区管理的一种新理念、社会管理创新的一种新模式,将迎来新的发展机遇。作为全球视频监控管理平台的领导厂商,东方网力针对以上痛点,基于“统一规划、统一标准、统一平台、统一管理”的理念, 充分运用大数据、人工智能、物联网等新技术,建设以大数据智能应用为核心的“智能安防社区系统”。智能安防社区系统突破两重需求:第一重,是通过动态感知、智能视频分?

  • 或许AI也需要睡个好觉?神经网络定期休息后,能更好地工作

    AI真的越来越像人了,它可能并不像我们想象中那样一刻不停的工作也能保持高效,一项最新研究显示,在模拟神经网络中,存在着和人类睡眠类似的“休息”状态,用于消除人工大脑因为不间断自学习导致的不稳定性。

  • 秒针系统发布AI智能洞察创作平台“秒出”

    秒针系统正式发布基于AI的内容洞察与智能创作平台秒出(Content Pulse),帮助营销创作者快速追踪热点、抽取高价值主题,自动生成文案。据介绍,秒出系统于2018年开始研发,2019年上线内容洞察版块,同步开始内容自动生成测试,经过一年的机器学习,如今,它的创作能力已接近专业创作者水平。以小红书为例,下面的两个小红书文案,上图来自小红书KOL真实发帖,下图出自秒出。具体来看,借助秒出,品牌及M

  • “网络先锋黑客”百家号社会领域收入排名,做自媒体月收入有多少

    备注:本文数据来自站长之家移动传媒平台,文章涉及的数据依托平台大数据计算所得,非百度官方数据,仅供参考。网络先锋黑客是当前百家号中的普通号,目前账号百家号权重为1,综合排名位列957778名,社会分类排名位列106202名,领先了14.3%的百家号。 网络先锋黑客百家号概况 网络先锋黑客的简介为网络的大时代,尽显先锋黑客。,是一家主旨明确、领域专注的自媒体作者,截止目前为止他们已经在百家号上发布了超过0篇的游戏内容,?

  • 40国领导人警示:针对医疗系统的网络攻击,正加剧新冠的破坏力!

    北京时间 27 号凌晨, 40 多位前任及现任领导人携手在瑞士日内瓦发出了一份关于全球疫情的公开信,内容是“呼吁各国共同预防和阻止针对医疗系统的网络攻击”。用红十字国际委员会主席、呼吁签署人彼得·毛雷尔的话来说:“我们身处现代史上最为严峻的卫生危机之中。针对本就脆弱的医疗系统的网络攻击,正在危及全人类”。疫情,“带火”网络攻击早在 4 月初,国际刑警组织就专门发布了一份紫色通告(用以搜集或提供关于犯罪分子的?

  • Check Point加固型安全网关保护工业控制系统和关键基础设施免遭网络威胁

    Check Point Software 的全新加固型网关可有效保护工业控制系统和关键基础设施免遭最高级的网络威胁。 全新 1570R 加固型安全网关可保护公用事业、石油和天然气以及工业 4.0 制造工厂中的 ICS 和 SCADA 系统免受攻击,并将保护范围扩大到了智能电网和智能城市。 近日,全球领先的网络安全解决方案提供商 Check Point? 软件技术有限公司 (NASDAQ: CHKP) 宣布推出全新 1570R 加固型安全网关,以保护联网的关键基础设施、工业控制系?

  • 华米科技AI创新大会今日开幕,共同见证AI解构健康未来

    2020年 6 月 15 日消息,今天下午,全球领先的智能可穿戴公司华米科技(NYSE:HMI)将于中国合肥举行首届AI创新大会,本届AI创新大会以「AI to Decode Future」为主题,将与全球 AI 领域专家一道,规划 AI 与健康结合的新蓝图,用 AI 解构未来,让科技连接健康。一直以来,华米科技在探索 AI 的路上从未止步,并在人工智能领域取得一定的技术积累。2017 年,华米科技成立人工智能实验室,启动人工智能可穿戴芯片研发,并将目标锁定?

  • 联发科独立AI处理器APU3.0,手机AI应用的原动力

    近年来,手机在语音助手、AI拍照、视频优化、VR/AR游戏等方面的AI应用快速发展,手机想要实现这些AI应用,需要芯片提供足够强大的AI算力和低功耗效能,因此手机芯片厂商纷纷在SoC中加入了独立的人工智能处理器,用于专门进行AI运算。例如联发科的天玑系列5G芯片,无论是主打高端市场的天玑 1000 系列,还是主打中高端市场的天玑 800 系列,都搭载了联发科自研的独立AI处理器 APU 3.0。早在 2018 年,联发科就开始将独立AI处理器内?

  • Gravitylink推出钛灵AI市场,深入解决行业痛点,加速AI落地应用

    随着科学技术的发展,人工智能已渗透在城市的各个角落和生活的方方面面。在算力和算法技术发展迅猛的同时,人工智能行业又面临应用场景不明确、算法碎片化、研发成本极高等诸多市场挑战,难以落地实际应用场景之中。 可见,要深入解决行业痛点,加速AI落地应用是所有AI行业都应思考的问题。深圳时空引力科技有限公司(简称Gravitylink)致力于为全球开发者搭建AI模型交易服务平台,打通AI产业上下游,帮助AI服务商提供展示和交易?

  • 小米ai通话介绍 小米MIUI12怎么设置ai接电话功能

    小米日前推出了全新的 MIUI 12 系统,小米宣布小米 AI 电话助理经过半年测试,已为内测发烧友们接听了 400 万个电话,广受好评。AI 电话助理将正式升级为 AI 通话!用户可以自定义开场语、自由切换自动应答或手动回复,还可以定向自动接听,再也不用在意骚扰电话以下是 MIUI12 AI通话功能使用教程,感兴趣的小伙伴一起来看看吧。

  • Python 和 Go 成为年度最受欢迎的黑客工具榜首

    网络安全公司 Imperva Cloud WAF 近期分享了其在 2019 年一年内针对网络安全事件的观察。对数据进行聚类分析后,他们得到了如下结论:

  • 华米科技AI创新大会圆满落幕,AI解构可穿戴未来

    2020 年 6 月 15 日,全球领先的华米科技(NYSE:HMI)首届AI创新大会于安徽合肥顺利举行,本场大会紧紧围绕着「AI to Decode Future」的主题,阐述了AI与健康产业未来的关系,并发布了新一代智能可穿戴芯片“黄山2号”、新一代PPG?物追踪光学传感器BioTracker? 2及一系列全新的?体数据AI算法?华米科技在本届AI创新大会之前,就已经通过“黄山1号”芯片,PPG?物追踪光学传感器BioTracker?以及RealBeats?生物数据引擎为用户在健康方?

  • 医疗AI临床验证大势所趋,深透医疗引领影像AI全球全产业链落地

    新冠疫情的席卷下,不少国家将公共卫生安全上升到国家战略的高度,全球的AI医疗产业也在全面加速。就在最近,深透医疗的PET医学影像临床研究被 2020 年全球核医学与分子影像学会(SNMMI)年会选为全员会议(Plenary Lecture)的亮点研究(feature study)。此次研究与上海第九人民医院合作进行,将由哈佛影像中心的主任Georges El Fakhri在会上作宣讲。今年的SNMMI年会将于 7 月举办,SNMMI年会是世界核医学和分子成像领域首屈一指的科研

  • Anonymous是什么?Anonymous匿名者黑客组织详细介绍

    据凤凰网消息,5 月 28 日,黑客团体 Anonymous(匿名者)发表视频谴责美国明尼阿波利斯警察局。匿名者黑客组织是全球最大的黑客组织,其主要分布于美国,其次为欧洲各国,非洲、南美、亚洲等地都有其分部。

  • 网易云音乐战略投资AI音乐公司“AIVA” 共同开发AI音乐引擎

    近日,网易云音乐宣布,战略投资AI音乐公司“AIVA”,双方将结合人工智能技术在AI辅助音乐创作领域展开深度合作。接下来,网易云音乐和AIVA将共同开发面向中国音乐人的AI音乐引擎,辅助音乐人进行创作。

  • 从终端先行到AI先行,华米科技AI创新大会将带来可穿戴领域变革?

    6 月 8 日,国内可穿戴行业知名公司华米科技公布了一则重磅消息,将于 6 月 15 日在合肥举行「AI to Decode Future」AI 创新大会,在这场主题为用AI解构未来的大会上,华米科技将与全球重量级专家们一道就AI领域进行深度探讨。过去一年中,AI 领域加快了发展的脚步,从野蛮生长到加速落地、整合,AI 已经开始渗透到生活的方方面面,与之相关的产业也在蓬勃发展。这其中,华米科技凭借在运动健康及可穿戴设备领域上的深耕,开始走?

  • 从“深度伪造”到“深度合成”:AI为啥需要一次“正名”?

    自从 2017 年Deepfake(深度伪造)横空出世以后,人们惊呼原来AI在造假方面简直天赋异禀。此后“AI生成内容”技术,特别是GAN算法的突飞猛进更加印证了这一事实。不仅仅是AI换脸,还有AI自动生成文本、语音、图像、视频等等一切数字内容。

  • 国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

    人工智能、机器深度学习技术的发展和应用使图像识别技术获得了关键性的突破,不同应用场景的图像识别率已经可以满足各方面的应用要求,并开始逐步应用于身份识别、商品识别、金融支付、安全防范、智能安检等诸多领域,呈现出高速发展势态,使视频监控系统的功能和效能出现质的飞跃,而这些智能功能的实现都离不开算力的支持。主流的智能运算如果全部依赖云端大规模GPU服务器集群,其高昂的运营成本就会让大多用户无法承担。边缘计?

  • iOS14系统占用空间大吗 iOS14系统占用多少内存

    iOS14系统推出后不少iPhone手机用户就升级了该系统,不过有很多用户发现iOS14系统占用的容量空间比较大,对于手机容量本身就比较少的64GB用户就不太友好,这里我们来看下iOS14系统需要占用多少空间。

  • DNF侠客行豪侠系统超详细解析 侠客行豪侠系统怎么玩

    ​DNF马上就要出最新的一个侠客行豪侠系统了,很多玩家还不清楚这个系统到底是玩什么的,下面就来为大家分享一下DNF侠客行豪侠系统超详细解析。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议