首页 > 传媒 > 关键词 > 腾讯安全最新资讯 > 正文

Techo开发者大会丨腾讯安全天御精准识别音、图、文等网络垃圾

2019-11-09 16:56 · 稿源:站长之家用户投稿

随着互联网的飞速发展,我们进入了一个信息爆炸的时代。图文、视频、聊天、直播等互动内容已经成为人们日常工作、生活不可或缺的部分。然而,在这些日益增长的内容中却充斥着各种不良言论、垃圾广告、涉黄等网络垃圾。这些流窜在互联网中的垃圾内容,不仅极大程度影响了用户体验,也让不少企业倍感困扰。

面对日益复杂的安全形势,企业该如何“祛污”,守护内容安全?在 11 月 6 日至 7 日举办的首届腾讯 Techo 开发者大会云安全技术与应用专场上,腾讯安全业务安全总监杨红围绕《新时代的内容风控实践与创新》,针对文本、图片、音频等载体的内容安全,从现状分析、算法选择、对抗过程及实践效果等方面着手,全景呈现了腾讯安全天御在守护内容安全上的实践经验。

色情AI识别模型,毫秒级识别不良音频

音频是现阶段网络上发展最快的信息载体。当下,游戏内语音交流已成常态,无论是手机游戏中的音频传输,还是通过语音及时通讯工具传输的音频内容,都是音频垃圾内容的灾区,但音频内容时间短、信道复杂,难以识别,成为内容安全监管中的难点。

在海量的音频识别中,“鉴黄”无疑挑战巨大。相较标准AV音频的识别,色情音频在内容、时长和信道维度都有其特点,比如存在静音、噪声干扰大,存在较大的背景音乐,而且时间较短,编码格式多样和采样率不统一等特点,这都为识别造成一定困难。针对这一问题,腾讯安全基于AI设计了一套色情音频识别流程,通过相应技术去掉静音内容,对音频进行分段识别,最后根据每个片段的得分和时长汇总得到整条语音内容的识别结果。针对音频样本搜集与标注的难点,腾讯安全天御大量综合网友举报,通过多类型、多标签标注,已实现音频鉴黄的准确率达到82%、召回率达到90%以上。

而针对网络谩骂,腾讯安全天御构建了高性能多语种语音关键词系统,通过特征提取、声学建模和解码等技术加持,可毫秒级识别不良音频。

线上打击+离线主动收集标注,恶意文本无处藏身

网络文本是网络中最大的信息载体,几乎所有互联网平台都面临文本安全问题。网络文本类垃圾消息通常含有特殊符号、变异字、多音字、形近字干扰,而传统的文本策略抗干扰能力弱,常常会导致误杀。

腾讯安全天御对此专门建立了一套垃圾文本识别模型——TextCNN文本分类算法,通过在线实时打击和离线主动收集标注让恶意文本无处藏身。在线模型训练中,补充了拼音和结构信息用于训练,对训练数据添同音字和拆字,提升抗干扰性。对于线上模型不能覆盖的新类型恶意垃圾,腾讯安全天御设计了离线样本主动收集流程,让学习算法主动提出要对哪些数据进行标注,增量训练分类模型进行实时打击。

在这套算法的支撑下,腾讯安全天御提升了至少50%以上的识别覆盖范围,准确率和召回率分别达到90%和80%以上。

多标签学习+细粒度识别,扫荡网图黑暗角落

图片是仅次于文本的第二大信息载体,其面临的识别挑战比文本更大,腾讯安全天御针对性地提出了多标签的图像识别算法,支持多标签输出、多种标签预测,这意味着在一定颗粒度下,给图片配上“身份证”以便识别。

腾讯安全天御丰富的数据积累是这套算法得以运行的关键。目前腾讯安全天御积累了各种涉黄图片数据 500 多万,每张图片有 5 个主要标签和 10 个细粒度标签。在标签识别中,不同的标签数量差距大、样本不平衡,各维度标签响应不同、统一阈值召回低的情况普遍存在,这也成为图片识别中的难点,腾讯安全天御采取标签级动态采样,使低频标签召回率提升15%;对维度标签问题,则使用验证集进行阈值搜索,设置多阈值。

与此同时,腾讯安全天御自研的logo元素识别算法,能够做到做到不同位置、尺度、分辨率、透视视角、遮挡干扰情况下具备良好的识别效果,准确率和召回率分别达到90%以上。

企业在接入腾讯安全天御内容风控的能力上非常便捷。腾讯安全天御不仅提供API接口,还可以协同腾讯云等产品接入企业的内容风控系统,帮助企业零开发、快速识别平台中可能存在的违规内容。

目前,腾讯安全天御的内容风控通过腾讯云和微信小程序已服务超过 5 万家开发者。行业渗透率达90%,审核效率提升 20 倍以上,业务健康程度达到99.89%,守护数万家客户的内容安全,保障业务健康开展,守卫互联网的清朗绿色。

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 2020年世界智能大会圆满落幕,腾讯安全重保护航

    6 月 24 日下午,第四届世界智能大会云闭幕式在津举行,本届世界智能大会成果丰硕,通过“云签约”方式,签约项目 148 个,其中内资项目 131 个,总投资约 809 亿元人民币;外资项目 17 个,总投资约 16 亿美元。同时本次大会也持续开放了“云智能科技展” ,荟聚 100 余家知名企业及科研机构,实现云逛展、云展览、云洽谈,打造“云会展”又一样板。在世界智能大会期间,腾讯安全用优异的安全“重保”成绩单,成功助力 2020 年世?

  • 上万台MSSQL服务器沦为门罗币矿机,腾讯安全专家提醒要这样做!

    新型挖矿木马来了!近日,腾讯安全威胁情报中心检测到针对MSSQL服务器攻击的挖矿木马,该挖矿木马主要针对MSSQL服务进行爆破弱口令攻击,爆破成功后会植入门罗币挖矿木马进行挖矿。据腾讯安全评估,截止目前已有上万台服务器沦为门罗币矿机。对此,腾讯安全专家提醒企业应避免使用弱口令。同时,腾讯安全终端安全管理系统已可拦截查杀该挖矿木马。据腾讯安全专家介绍,该黑产团伙对MSSQL服务器进行爆破成功后,会下载执行HFS服务器

  • 腾讯安全发布《2020上半年勒索病毒报告》 政企机构仍是勒索“头号目标”

    近日,腾讯安全正式对外发布《 2020 上半年勒索病毒报告》(以下简称“报告”)。《报告》显示,上半年全球大型企业遭受勒索病毒打击的事件依然高频发生。其中,最活跃的勒索病毒家族发起针对性极强的大型“狩猎”活动,对企业开出天价解密赎金;新型勒索病毒层出不穷,技术上不断进化。而勒索手段也从单纯的赎金换密钥,升级到不给赎金就公开机密数据。腾讯安全也提供从威胁情报到安全产品的整体防护解决方案,协助企业抵御勒索病

  • 腾讯宣布与宝马开展数字化合作 “腾讯小场景”年内可车上使用

    DoNews7月27日消息(记者 翟继茹)27日,腾讯宣布将与宝马开展数字化合作,腾讯生态车联网TAI中的车载轻应用生态“腾讯小场景”与“微信车载版”将在BMW车上的应用。腾讯方面介绍,“腾讯小场景”基于微信小程序的框架可以提供百万量级应用生态,支持语音交互,无需下载安装。双方合作的小场景将在今年内在国内使用,包括资讯、美食、娱乐、出行、教育等领域。(完)

  • 腾讯向老干妈致歉,腾讯官方致歉原文一览

    7月10日,腾讯公司与老干妈发布联合声明,声明中双方表示对于此前互联网热议的话题进行了深入沟通,已厘清误解。同时,腾讯已向老干妈方面当面致歉,腾讯称后续将进一步完善相关流程。未来双方也将积极探索并开启一系列正式合作。

  • 腾讯向老干妈致歉

    今日腾讯发布声明称,过去数日内,腾讯和老干妈双方进行了深入沟通,双方已厘清误解。对于事件过程中的种种误会和欠妥之处,腾讯已向老干妈方面当面致歉,后续腾讯将进一步完善相关流程。未来双方也将积极探索并开启一系列正式合作。

  • 腾讯qq无故冻结账号 附腾讯官方回应全文

    针对今日网友反馈QQ账号被冻结一事,腾讯QQ官微刚刚回应称:已经修复完毕,目前可正常使用。今日有大量QQ用户反馈账号被无故冻结,且无法解冻。用户称,很多人的账号都在同一时间被封,而大部分人冻结理由都是违规业务行为。同时网友表示账号并未进行违规操作。你的QQ帐号被冻结了吗?

  • 腾讯老干妈握手言和:腾讯已撤回财产保全申请及本案诉讼

    【TechWeb】7月10日消息,腾讯公司官微今日披露与老干妈案的最新进展。腾讯公司表示,已经向已向法院申请撤回财产保全申请及本案诉讼,并就合同诈骗行为已向贵阳公安报案。腾讯称,过去数日内,腾讯和老干妈双方进行了深入沟通,双方已厘清误解。对于事件过程中的种种误会和欠妥之处,腾讯已向老干妈方面当面致歉,后续腾讯将进一步完善相关流程。未来双方也将积极探索并开启一系列正式合作。以下为腾讯公告全文:近期腾讯与老干?

  • 腾讯向老干妈致歉 两家握手言和附腾讯致歉全文

    腾讯向老干妈致歉。今天下午,腾讯公司在官方微博表示,就「老干妈拖欠广告费」一事,腾讯已向法院申请撤回财产保全申请及本案诉讼,并就合同诈骗行为已向贵阳公安报案。

  • 腾讯音乐:踏实者的犒赏

    核心要点:在互联网的冲击下,唱片工业链条被打破,整个行业必须基于数字音乐的特点进行秩序重组,才能获得新生。数字音乐平台的功能在不断进化,数字专辑、TME live等形式成为新的“唱片工业链条”,同时不断完善商业模式,实现自我造血,反哺音乐内容建设。TME这样的行业参与者,是音乐行业重构的核心推动力量,它的种种布局实际上远远超出了一个数字音乐平台诞生之初的定位和能力半径,也在行业健康的发展态势中获得了应有的回?

  • 腾讯宝马合作升级 将为车主提供“腾讯小场景“与”微信车载版”

    宝马与腾讯宣布开展数字化合作,将推进腾讯生态车联网TAI中的车载轻应用生态“腾讯小场景”与“微信车载版”在BMW车上的应用。

  • 腾讯游戏宽带是什么 腾讯游戏宽带详细介绍

    近日,腾讯联合中国上海公司开发了一个名为“游戏宽带”的活动,面向部分区局的SDN网关用户开放体验活动,为用户提供下载和更新游戏的独享通道带宽保障,并支持多款游戏加速,很多朋友还不清楚这个腾讯的游戏宽带到底是什么,下面就来为大家详细大家介绍一下。

  • 搜狗回应腾讯收购要约说了什么?腾讯有意全资收购搜狗

    【搜狗回应腾讯收购要约】据媒体报道, 7 月 27 日晚间,搜狗公司宣布其董事会收到腾讯控股初步不具约束力的收购要约。腾讯计划以每股 9 美元收购所有未持有的搜狗普通股股票,这笔交易若完成搜狗将成为腾讯子公司,而搜狗将从纽交所摘牌。

  • 腾讯视频发布最新战略:升级分账机制 推出腾讯视频号

    腾讯视频近日发布了包括影视、综艺、产业效能等方面的最新战略,包括升级分账机制,推出腾讯视频号等,并分别围绕影视剧、综艺、动漫、电影等品类发布了重点项目。发布会上,腾讯公司副总裁、企鹅影视CEO孙忠怀表示,腾讯视频将加大对优质内容的投入,一是用平台运营经验、技术工具、数据等为创作赋能;二是将升级内容分账机制,提出更有竞争力的长视频分账制度;三是重视长短视频生态建设,推出腾讯视频

  • 腾讯收购搜狗花了多少钱?腾讯有意全资收购搜狗是怎么回事

    ​【腾讯收购搜狗花了多少钱】据媒体报道,腾讯向搜狗发出初步非约束性收购要约。据悉,腾讯有意以 9 美元/ADS的价格收购搜狗剩余股份。随后,搜狗CEO王小川在朋友圈发文称,感谢腾讯公司对搜狗公司价值以及技术能力、产品创新能力的认可。接下来会对相关事宜进行认真的讨论和衡量,让搜狗能够持续为用户创造更大的价值。

  • 曝斗鱼和虎牙合并!腾讯正在牵头谈判

    据国内媒体报道,有知情人士透露,腾讯正在推动中国最大的游戏流媒体平台——虎牙和斗鱼的合并事宜,这笔交易将使得腾讯牢牢占据市场领先地位。目前,我国游戏直播市场规模至少34亿

  • 腾讯直享直播怎么赚钱

    腾讯直享直播怎么赚钱?日前腾讯智慧零售面向微信生态内的商家推出一款直播工具——直享,这款产品不仅具备内容分发能力,还将涵盖直播、分发、SKU 管理、支付、售后等链条全部环节,可以说是一站式直播带货解决方案。直享直播是微信体系内具备内容分发能力的一站式直播变现工具,也可以理解为直播变现工具+群运营工具。以下是关腾讯直享直播怎么赚钱介绍。

  • 腾讯有意全资收购搜狗

    昨日晚间,搜狗宣布收到腾讯的初步非约束性要约,拟以每普通股或每美国存托股份(ADS) 9. 00 美元的价格,现金收购搜狗包括ADS在内尚未被腾讯或其附属公司持有的所有剩余的流通中普通股。

  • 腾讯陈书俊:科技,课堂创新的新动能

    7月18日,校长会联合腾讯教育举办的“科技,创造教育新未来——第三届专业学校改进计划年会”在腾讯深圳总部召开。会上,腾讯教育副总裁、腾讯在线教育部总经理陈书俊以“科技,课堂创新的新动能”为题发表演讲。腾讯教育副总裁、腾讯在线教育部总经理陈书俊陈书俊从连接、内容以及AI+教育三个角度,分别阐述了腾讯教育如何发挥科技优势为课堂创新提供新动能。在连接层面,腾讯教育为全国各地中小学在疫情期间提供复课保障,并通过腾讯课?

  • 特斯拉将与腾讯《和平精英》进行联动

    ​今日,特斯拉官方微博称,将与腾讯《和平精英》进行联动。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签