首页 > 传媒 > 关键词 > 腾讯安全最新资讯 > 正文

Techo开发者大会丨腾讯安全天御精准识别音、图、文等网络垃圾

2019-11-09 16:56 · 稿源:站长之家用户投稿

随着互联网的飞速发展,我们进入了一个信息爆炸的时代。图文、视频、聊天、直播等互动内容已经成为人们日常工作、生活不可或缺的部分。然而,在这些日益增长的内容中却充斥着各种不良言论、垃圾广告、涉黄等网络垃圾。这些流窜在互联网中的垃圾内容,不仅极大程度影响了用户体验,也让不少企业倍感困扰。

面对日益复杂的安全形势,企业该如何“祛污”,守护内容安全?在 11 月 6 日至 7 日举办的首届腾讯 Techo 开发者大会云安全技术与应用专场上,腾讯安全业务安全总监杨红围绕《新时代的内容风控实践与创新》,针对文本、图片、音频等载体的内容安全,从现状分析、算法选择、对抗过程及实践效果等方面着手,全景呈现了腾讯安全天御在守护内容安全上的实践经验。

色情AI识别模型,毫秒级识别不良音频

音频是现阶段网络上发展最快的信息载体。当下,游戏内语音交流已成常态,无论是手机游戏中的音频传输,还是通过语音及时通讯工具传输的音频内容,都是音频垃圾内容的灾区,但音频内容时间短、信道复杂,难以识别,成为内容安全监管中的难点。

在海量的音频识别中,“鉴黄”无疑挑战巨大。相较标准AV音频的识别,色情音频在内容、时长和信道维度都有其特点,比如存在静音、噪声干扰大,存在较大的背景音乐,而且时间较短,编码格式多样和采样率不统一等特点,这都为识别造成一定困难。针对这一问题,腾讯安全基于AI设计了一套色情音频识别流程,通过相应技术去掉静音内容,对音频进行分段识别,最后根据每个片段的得分和时长汇总得到整条语音内容的识别结果。针对音频样本搜集与标注的难点,腾讯安全天御大量综合网友举报,通过多类型、多标签标注,已实现音频鉴黄的准确率达到82%、召回率达到90%以上。

而针对网络谩骂,腾讯安全天御构建了高性能多语种语音关键词系统,通过特征提取、声学建模和解码等技术加持,可毫秒级识别不良音频。

线上打击+离线主动收集标注,恶意文本无处藏身

网络文本是网络中最大的信息载体,几乎所有互联网平台都面临文本安全问题。网络文本类垃圾消息通常含有特殊符号、变异字、多音字、形近字干扰,而传统的文本策略抗干扰能力弱,常常会导致误杀。

腾讯安全天御对此专门建立了一套垃圾文本识别模型——TextCNN文本分类算法,通过在线实时打击和离线主动收集标注让恶意文本无处藏身。在线模型训练中,补充了拼音和结构信息用于训练,对训练数据添同音字和拆字,提升抗干扰性。对于线上模型不能覆盖的新类型恶意垃圾,腾讯安全天御设计了离线样本主动收集流程,让学习算法主动提出要对哪些数据进行标注,增量训练分类模型进行实时打击。

在这套算法的支撑下,腾讯安全天御提升了至少50%以上的识别覆盖范围,准确率和召回率分别达到90%和80%以上。

多标签学习+细粒度识别,扫荡网图黑暗角落

图片是仅次于文本的第二大信息载体,其面临的识别挑战比文本更大,腾讯安全天御针对性地提出了多标签的图像识别算法,支持多标签输出、多种标签预测,这意味着在一定颗粒度下,给图片配上“身份证”以便识别。

腾讯安全天御丰富的数据积累是这套算法得以运行的关键。目前腾讯安全天御积累了各种涉黄图片数据 500 多万,每张图片有 5 个主要标签和 10 个细粒度标签。在标签识别中,不同的标签数量差距大、样本不平衡,各维度标签响应不同、统一阈值召回低的情况普遍存在,这也成为图片识别中的难点,腾讯安全天御采取标签级动态采样,使低频标签召回率提升15%;对维度标签问题,则使用验证集进行阈值搜索,设置多阈值。

与此同时,腾讯安全天御自研的logo元素识别算法,能够做到做到不同位置、尺度、分辨率、透视视角、遮挡干扰情况下具备良好的识别效果,准确率和召回率分别达到90%以上。

企业在接入腾讯安全天御内容风控的能力上非常便捷。腾讯安全天御不仅提供API接口,还可以协同腾讯云等产品接入企业的内容风控系统,帮助企业零开发、快速识别平台中可能存在的违规内容。

目前,腾讯安全天御的内容风控通过腾讯云和微信小程序已服务超过 5 万家开发者。行业渗透率达90%,审核效率提升 20 倍以上,业务健康程度达到99.89%,守护数万家客户的内容安全,保障业务健康开展,守卫互联网的清朗绿色。

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 0风险0事故,腾讯安全“全垒打”护航首届“云端”广交会

    6 月 24 日下午,第 127 届广交会正式落下帷幕。 50 个展区、近2. 6 万家参展商“云上”参展,数十万来自全球的采购商成功在“线上”做成了生意。腾讯安全作为本届广交会的安全重保团队,在这十天内交出了一份亮眼的安全“重保”成绩单:广交会重保期间,腾讯安全共拦截超百万次各类安全攻击、图片/文本/音频风险检测数近十亿条,最终确保 0 安全风险, 0 安全事故!出色的重保成绩,也获得了公安机关的认可。据悉,为保障广交会顺?

  • 青藤云安全与腾讯安全再次携手合作,助力用户完成年度大型攻防实战

    继联合发布主机安全产品之后,腾讯安全和青藤云安全近期合作再次升级。此次合作,将以腾讯安全提供的年度大型攻防实战方案为基础,以青藤全方位客户服务为支撑,助力行业客户更好地完成大型攻防实战演练当前,随着云计算、大数据等新技术的广泛应用,越来越多的企业实现数字化转型。与此同时,网络安全边界更加模糊,传统基于网络或设备边界的安全防御技术难以应对新技术所带来的各类挑战。很多组织机构为了实现纵深防御,购买了越

  • 腾讯安全推战略新品,SaaS化云防火墙打造云上第一道防线

    伴随企业核心业务大量上云,在云端混合环境、移动访问及在线应用程序迅速发展的趋势下,上云企业亟需更具细粒度的安全技术来替代传统防火墙。 6 月 16 日,腾讯安全举办线上新品发布会,宣布推出战略级新品——新一代SaaS化云防火墙,即开即用,助力企业解决云上业务隔离、统一访问管控等基础安全问题,为企业打造上云的第一道安全防线。企业上云后,面临四大基础网络安全挑战企业上云后,应用程序和数据可以在云端和混合环境中处?

  • 连续41次通过VB100认证,腾讯安全技术实力再获国际权威认可

    日前,国际权威反病毒评测机构Virus Bulletin公布了 6 月的VB100 测试结果,腾讯安全旗下的腾讯电脑管家(英文版)以100%通过率、 0 误报的优秀成绩位居榜首,截至目前,腾讯安全已连续获得 41 次认证,再次刷新连续通过记录,持续领跑国际杀毒软件安全能力。(图:腾讯电脑管家(英文版)连续 41 次通过VB100 测试认证)VB100 测试评测在业内素有“安全界奥林匹克”之称,要求十分严格,只有通过和不通过两种结果。作为一家非官方

  • 腾讯安全领御TUSI区块链落地五大场景,助力可信城市建设

    2020 年是中国产业区块链元年,中央将区块链定调为“核心技术组织创新的突破口”,并将区块链纳入新基建重要技术基础设施。区块链如何与人工智能、大数据、物联网等前沿技术深入结合,更好地服务产业发展?6 月 1 日,腾讯云举办产业区块链联盟暨实践课堂发布会,国内区块链行业领军企业、区块链技术与应用先行者齐聚一堂,共话区块链行业趋势、共建区块链伙伴生态模式,探索区块链技术落地应用的进阶之路。腾讯高级执行副总裁、云

  • 腾讯安全携手极棒发起第二届云安全比赛 演绎云安全时代下的攻与防

    随着互联网的发展,被称作“革命性计算模型”的云计算被看作第四次工业革命,未来将推动着生产方式、生产关系、产品形态和商业模式的深刻变革。"万物上云"所带来诸多利好的同时,如何保障云上数据安全,提供云上攻防服务,成为云上攻防体系建设首要基准。基于对云安全问题的思考和研究,GeekPwn携手腾讯安全云鼎实验室启动第二届GeekPwn2020 云安全比赛, 7 月11- 12 日先期启动的云靶场挑战赛热身赛,将以解题模式来考察选手在实?

  • 老干妈回应腾讯起诉:没有与腾讯合作 腾讯可能被骗了

    今天下午,针对“腾讯的起诉”老干妈公司相关负责人回应称,并没有与腾讯有任何的合作,关于此事老干妈公司认为,腾讯公司被骗了!老干妈公司已经向警方报案,稍晚会发布声明。

  • 老干妈回应被腾讯起诉:腾讯被骗了!

    6 月 29 日,裁判文书网一份裁判文书显示,腾讯请求查封老干妈 1624 万财产,法院裁定同意。 6 月 30 日,腾讯回应称系因老干妈拖欠千万元广告费,腾讯多次催促对方付款却分文未获,遂起诉老干妈。

  • 老干妈回应被腾讯起诉:未与腾讯有过商业合作

    6月30日,“腾讯起诉老干妈”成为了当日互联网上一个热议话题,这两家企业在各自的领域在国内都是数一数二的。对于被腾讯起诉一事,老干妈也在当天晚上发布了声明,表示与腾讯没有商业合作,腾讯是被骗了。

  • 老干妈负责人回应被腾讯起诉:不清楚腾讯是否会撤诉

    今日下午,老干妈相关负责人表示,对于腾讯方面是否会撤诉,暂时还不清楚。对于“之前有没有注意到腾讯的广告推广事宜”一事,该负责人称:“正在核实当中”。今日午间,腾讯起诉老干妈拖欠广告费一事真相终于水落石出,贵阳公安双龙分局发布公告称,经初步查明,系 3 名犯罪嫌疑人伪造老干妈公司印章,冒充该公司市场经营部经理,与腾讯公司签订合作协议。其目的是为了获取腾讯公司在推广活动中配套赠送的网络游戏礼包码,之后通?

  • 3人伪造老干妈印章与腾讯签合同 腾讯疑似回应被骗全文

    3 人伪造老干妈印章与腾讯签合同是怎么回事?据媒体报道, 3 名不法人员冒充贵阳南明老干妈风味食品有限责任公司(以下简称老干妈)市场经营部经理与腾讯签订合作协议,为了获取腾讯在推广活动中配套赠送的网络游戏礼包码,之后通过互联网倒卖非法获取经济利益。

  • 老干妈称从未与腾讯有过合作 网友:和腾讯合作的是“老千”妈?

    【TechWeb】7月1日消息,针对拖欠腾讯广告费并被立案一事,6月30日晚,老干妈方面发表声明称,经核查,我司从未与腾讯公司或授权他人与腾讯公司就“老干妈”品牌签署《联合市场推广合作协议》,且我司从未与腾讯公司进行过任何商业合作。并称公司已向公安机关报案,公安机关已于2020年6月20日予以立案。此事起源于6月29日,广东省深圳市南山区人民法院发布的一则民事裁定书。根据裁定书透露的信息,法院同意支持原告腾讯的请求,?

  • 老干妈:暂不清楚腾讯是否会撤诉 正在核实腾讯广告推广事宜

    据澎湃新闻消息,今日,老干妈相关负责人表示,暂时还不清楚腾讯是否会撤诉。针对“之前有没有注意到腾讯的广告推广事宜”一事,该负责人称,“我们正在核实当中。”

  • 3人伪造老干妈印章骗过腾讯 腾讯无语:今天中午辣椒酱突然不香了

    7月1日消息,腾讯状告老干妈一案水落石出。据媒体报道,3名不法人员冒充贵阳南明老干妈风味食品有限责任公司(以下简称老干妈)市场经营部经理与腾讯签订合作协议,为了获取腾讯在推广活动中配

  • 腾讯马晓轶:腾讯游戏官方社区“闪现一下”App已上线

    昨日,腾讯游戏年度发布会正式在线上召开,期间集中发布了四十余款游戏产品与品牌。同时,在会上,腾讯公司高级副总裁马晓轶表示,未来腾讯游戏将会做好自己的“新基建”。

  • 腾讯回应被骗

    ​今日午间,针对“ 3 人伪造老干妈印章与腾讯签合同”一事,腾讯在B站发布动态回应称:“今天中午的辣椒酱突然不香了”。在得知腾讯别骗之后,支付宝表示:“希望天下无假章”。

  • 腾讯增持蔚来汽车

    近日,腾讯通过全资子公司黄河投资有限公司买入蔚来汽车 168 万股美国存托股(ADS),相当于 168 万股A类普通股,耗资 1000 万美元。增持后,截至 6 月 10 日,腾讯持有蔚来约1. 59 亿股普通股,持股占比15.1%。

  • 3人伪造印章与腾讯签合同 老干妈回应:暂不清楚腾讯是否会撤诉

    这两天闹得沸沸扬扬“腾讯老干妈之战”终于查清了真相。今天,贵阳公安双龙分局官方微信公号发布警方通报:近日,该局接到贵阳南明老干妈风味食品有限责任公司报案,有不法人员冒充

  • 3人伪造老干妈印章与腾讯签合同 腾讯疑似回应被骗辣椒酱突然不香了

    腾讯疑似回应被骗辣椒酱突然不香是怎么回事?据媒体报道, 3 名不法人员冒充贵阳南明老干妈风味食品有限责任公司(以下简称老干妈)市场经营部经理与腾讯签订合作协议,为了获取腾讯在推广活动中配套赠送的网络游戏礼包码,之后通过互联网倒卖非法获取经济利益。

  • 警方通报腾讯起诉老干妈案件:3人伪造老干妈印章与腾讯合作

    今日,腾讯起诉老干妈一事又有了新的进展,贵阳公安双龙分局发布公告称,经初步查明,系犯罪嫌疑人曹某(男, 36 岁)、刘某利(女, 40 岁)、郑某君(女, 37 岁)伪造老干妈公司印章,冒充该公司市场经营部经理,与腾讯公司签订合作协议。其目的是为了获取腾讯公司在推广活动中配套赠送的网络游戏礼包码,之后通过互联网倒卖非法获取经济利益。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议

热文

  • 3 天
  • 7天