首页 > 传媒 > 关键词 > 网易易盾最新资讯 > 正文

网易易盾推出一站式融合解决方案,助力语音社交软件加强安全评估

2021-03-25 17:55 · 稿源:站长之家用户

Clubhouse以兴趣为引子,旨在打破圈层限制,为用户创造平等对话和交流机会。名人效应、邀请制、兴趣圈、仅支持语音对话、陌生人社交等与众不同之处让其快速出圈。

过去一个月,语音社交产品在中国陆续遭遇“滑铁卢”。继Clubhouse被封之后,映客推出的“中国版Clubhouse"也因技术调整而紧急下架。从这些风险事件来看,内容监管、数据安全和隐私保护是摆在Clubhouse面前最大的难题,也是所有入场语音社交的团队必须解决的问题。

针对上述痛点,网易易盾推出面向语音社交平台的一站式融合解决方案,打通内容安全和移动安全能力,助力语音社交产品轻松化解各类数字内容风险。

01 专业内容安全护航“语音+社交”新模式

在Clubhouse中,用户可以认识陌生人,随意游走在各类聊天室之间。在陌生人社交场景下,用户发言难以控制,让内容风险暴露无遗。近年来,我国在互联网内容治理方面取得一系列突破,与文本、图像相似,语音内容同样面临《网络安全法》、《网络安全审查办法》、《互联网信息服务管理办法》等法规的监管。

· 在语音聊天室内出现涉黄、涉暴、涉政、违禁等内容,将会危及语言社交产品的持续运营。一旦出现上述越过监管红线的行为,风险将不可估量,轻则下线整顿,重则彻底关停。

· 导流广告、谩骂、错误价值观导向等内容,也是不可忽视的内容监管"规定动作"。这些内容可能转化为更深层次的危机,不法分子处心积虑地将用户导向其他平台进行卖淫招嫖、网络诈骗、“杀猪盘”等违法活动。

· 除硬性规定之外,社交语音产品的内容监控需求也可能源于自身平台的运营调性。借助内容风控技术,平台设置内容监管的"选择动作",及时发现不符合平台运营价值的言论。

以声音作为传播媒介,这让语音社交产品面临在内容治理上更困难的现实,音频给内容控制带来了一系列截然不同的挑战。首先,有别于文本、图像识别所面对的挑战,小语种、方言、语音、语调、语速、背景音都会导致语音识别准确率下降。其次,在陌生人社交场景下,语音社交产品还面临检测时效性挑战。语音内容被短暂保留,用于检验用户是否违规发布。开发者必须快速检测一条条实时聊天音频,而整个过程过于琐碎、费时。

当前,网易易盾技术研发组让实时、精准的语音检测技术成为可能。一条语音的检测依次经过语音处理、语义识别、文本安全、声纹检测等流程,即可审查:第一类,带语义的问题语音,检测对话是否涉及色情、政治、谩骂、广告等语义,一次性掌控若干种类型的内容风险;第二类,无语义的问题语音,例如色情范畴下的娇喘、ASMR,政治类别下的重要领导人的声纹、反动禁歌的音调。

1616665097204136.jpg

图 | 网易易盾一站式数字内容风控解决方案

基于上述技术实力,易盾推出了基础语音识别、智能声纹识别、用户维度识别和社交场景识别,为语音社交平台提供四重数字内容风控防护。

第一重:基础语音识别

网易易盾的基础语音识别技术集语音处理、语义模型、文本安全于一体。先将接收后的语音进行预处理,下一步通过先进的人工智能技术将语音转化为文本,突破高度狡猾的语音变种内容,例如方言、小语种、同音词、变速、背景音等,在调用文本检测技术,负责监测语音文本中是否存在违规内容。

第二重:智能声纹识别

无语义的问题语音监测借力于智能声纹识别得以实现。当发现违规的语音内容时,网易易盾会提取违规语音的声纹特征,给每一种违规语音分门别类,根据性别、人物身份、违规类型打上标签,建立声纹库。当前,易盾支持多种声纹监测,区分male与female的人声性别检测、重点领导人声纹监测、涉及"黄、暴、政"违规的声纹黑名单。

第三重:用户维度

内容维度对语音本身进行检测,用户维度则是从用户关系、用户行为、用户画像入手进行风险预知。结合易盾的业务安全实力,对问题语音的发出者进行定位,将问题内容与衍生风险扼杀在摇篮中。

从社交关联图谱的视角,整合社交行为(例如,加好友、互粉、私聊、群组/聊天室)以及账号基础属性(例如,头像、昵称、签名)数据构建用户亲密度网络:一方面,应用Fast-Unfolding、GraphCut等图聚类算法从中挖掘出潜在的团伙子图;另一方面,应用动态DeepWalk、Struct2Vec算法实现用户节点的向量化表达,聚类发现黑灰产账号(例如,水军、机器人、色情账号或者营销账号)明显区别于正常用户的社交行为模式。

从业务风控治理的视角,黑产用户以获利转化为最终目的,在每一个业务节点上的行为大都是异常的。基于此,易盾在用户注册、登录、业务行为、UGC内容发布等关键业务环节引入验证码、设备指纹、反作弊策略,努力将每一个业务节点的问题率控制在最低。此外,每个业务节点的数据、结论相互辅助,从而确保内容风控整体效果。

截至目前,两个模型已广泛应用于易盾社交行业线,风险识别准确率高于95%,对垃圾变种有显著的召回增益。

第四重:社交场景综合检测

主打"语音+社交"的clubhouse们,在语音内容检测之外,也必须关注社交场景下的检测字段,包括头像、签名、昵称在内的用户资料、聊天室的房间标题,等等。在服务大中型UGC平台的多年实践中,网易易盾沉淀了一套针对社交媒体的监测经验和方法论,从内容纬度和用户纬度出发建立联合监测算法,适用于IM私信、多人聊天室、用户资料、弹幕、留言、评论等大部分社交场景。

目前,易盾语音检测在通用领域的识别准确率达到90%以上,小语种ASR在实验室环境下平均识别准确率约达90%,尤其在电商、电话客服等领域,经过针对性定制优化,识别性能达到行业领先水平。

02 移动安全守护用户数据与隐私

一位身份不明的用户将来自Clubhouse多个房间的音频传送到自己的第三方网站上。这起音频窃取事件引发了用户信任危机,暴露了语音社交爆发背后的隐忧,也给同类产品设计带来警示。

针对此类问题,网易易盾提供多重“安全措施”来防止此类事件再次发生,集合数据加密、应用加固、用户隐私政策合规于一体的移动安全解决方案,从音频数据保护到应用代码安全,让产品更安心。

第一重:端对端数据加密

用户创造的音频是语音社交产品的重要通讯数据,也是黑产觊觎的“肥肉”,在储存和传输中伴随着显著风险。如果客户端应用与服务端之间采用明文传输,攻击者可以轻易获得通信内容,从而伪造通信报文、篡改核心数据。

如何让音频数据带有高强度的自防护能力?开发商可以对通信中的语音数据加密后再发送,并结合多维度的校验机制,防范篡改、劫持、重放等攻击行为,保证网络数据传输的安全性。

数据传输安全:通信数据加密SDK融合了传统的对称、非对称加密和哈希加密的思想,任何时候移动终端只存有加密的公钥,服务器端只存有解密的私钥。当客户端和服务端完成密钥交换之后,数据得以传输。重要通讯数据也可重点适配“一次一密”模式,即在密钥生成中添加时间随机数,每次加密都使用新的密钥体系完成,有效防止了语音信息被窃取。

数据储存安全:安全存储SDK用于用户隐私信息、应用配置文件、本地重要信息的加密保护,支持AES、DES、3DES、SM4等标准的加解密算法,保护本地隐私文件免受篡改、窃取。

便捷的集成方式助力客户快速接入,自动实现关键数据加密。语音社交产品通过加载SO文件,在需要进行数据保护的环节直接调用易盾安全存储SDK的Java函数。加密后的音频数据即便被第三方“黑产”恶意拦截、窃听也无须担心。

1616665133650920.jpg

图 | 网易易盾端对端通信数据加密解决方案

第二重:应用加固保护

在用户数据与隐私保卫战中,移动应用本身是防御重镇。移动端仿佛一座敏感数据的仓库,率先成为黑产窃取攻击的目标。

大量诸如账号、密码、手机号码、信用卡号、银行卡号、身份证件号码、家庭住址信息、公司地址信息、家庭成员信息、个人私密信息、商业信息等敏感数据被保存移动设备中。社交产品中以文本、图片、音频为载体的聊天记录也是不可忽视的重要信息资产。

攻击者利用“逆向工程”原理,对没有加固的应用进行逆向分析及研究,得知代码逻辑,找到接口或程序中的漏洞,进而编制恶意程序,入侵和窃取用户信息。网易易盾提供专业“函数级”代码加固服务,助力开发商可以对应用加壳、加密,从而降低应用代码被第三方逆向出来的可能性,阻止应用程序被二次打包、破解或篡改。

阻止代码破解:对APP代码逻辑进行形式转换,包括隐藏,混淆,加密等操作,基于Android与iOS系统特性进行区别保护,将兼容性、适配性、安全性风险降到最低。

避免接口被刷:对重要通信接口参数的加密保护,有效防止接口被分析后重要参数泄漏,导致攻击者通过接口模拟方式进一步破解程序。

防止截屏录屏:对所有录屏软件开启“黑名单”模式,阻止第三方恶意程序开启截屏、录屏功能,有效保护信息泄露。同时,支持追踪开启录屏功能的用户身份,主要是通过预制策略、用户设备信息、用户行为识别风险用户。

第三重:用户隐私政策合规

声名鹊起的Clubhouse深受用户隐私问题困扰,其用户隐私协议中的多项条款被指违反《一般数据保护条例》(GDPR),也不符合中国多部门近年来陆续出台的个人隐私保护法规:未经用户同意,调用用户手机中的联系方式,分析联系人数据吸引新用户加入;用户隐私协议只有英文版,非英语母语用户理解困难;针对录音取证和账号删除等个人数据处理情况,未能建立明确的规则。

根据《关于开展App违法违规收集使用个人信息专项治理的公告》,App运营者要遵循合法、正当、必要的原则,不收集与所提供服务无关的个人信息;收集个人信息时要以通俗易懂、简单明了的方式展示个人信息收集使用规则,并经个人信息主体自主选择同意;不以默认、捆绑、停止安装使用等手段变相强迫用户授权,不得违反法律法规和与用户的约定收集使用个人信息。

可以看到,Clubhouse违反了上述多项条款。易盾建议,用户隐私保护是大势所趋,考虑进入语音社交领域的开发商应该深入政策规划,既是为了避免损害使用者权益,也能够维护品牌商誉和商业运营,在用户隐私政策合规处理上多加注意。

“APP隐私合规检测”是易盾全新启动的一项自动化代码排查服务,精准定位到涉及违规获取隐私权限的代码位置,提供一对一用户隐私合规专家,通过安全测评报告向APP开发者提供专业整改建议,助力APP通过官方监管机构的评估。

03 总结

新社交形态的出现,扩展了网络安全的探讨空间。在政策法规的驱使下,内容监管、数据安全和个人隐私保护是语音社交绕不开的安全重点。后续,主打陌生人语音社交的开发商需要兼顾各类安全问题,排除内容安全与移动安全隐患,确保产品安全上线与平稳运营。

网易易盾高效赋能基于不同场景,切入声音赛道的社交产品搭建“安全"基础设施,灵活输出多层次、强有力的数字内容风控与数据隐私保护技术,让开发者专注形式创新与用户体验,助力产品取得成功。

这篇文章对你有价值吗?

  • 相关推荐
  • 大家在看
  • 多家券商接入网易易盾,一站式防范金融社交化下的内容风险

    “金融+社交”是近年来兴起的一项创新举措,金融机构利用人际网络效应,在APP内上线形式多样的内容,让任何人都可以学习专业金融知识、获悉即时市场讯息、培养自我风险意识。各大银行、证券巨头正在竞相尝试与探索。华泰证券与中信证券分别在全国推广了人气APP:“涨乐财富通”与“信e投”。证券经纪业务向“平台”转型的同时,首当其冲的改变是“风控合规管理”范畴扩大,数字内容风控成为大型证券公司长久运营的必备底层技术之一

  • 用技术守望安全,网易易盾再度荣获“视频深度伪造检测”赛道最高级A级证书

    2020年12月23日,第二届中国人工智能高峰论坛暨多媒体信息识别技术竞赛在厦门顺利落幕,发布会对外公布了多项人工智能(AI)领域的技术创新成果。在本次竞赛中,网易易盾荣获“视频深度伪造检测”赛道最高级A级证书(最高级)。值得一提的是,网易易盾凭借过硬的技术能力连续两年在该项赛事中获得最高荣誉。在去年第一届赛事中,网易易盾一举拿下“旗帜识别”赛道最高级证书。中国人工智能大赛是在中央网信办、公安部等多个部委指?

  • 网易易盾CTO朱浩齐:借助数字内容风控科技,轻松应对金融营销合规

    2020年,突如其来的新冠病毒疫情,使得实体行业遭受到了巨大的冲击。对于金融行业来说,疫情对“无接触”式服务的要求,极大的推动了金融科技发展。11月3日,网易易盾首席技术官(CTO)朱浩齐出席在深圳举办的2020第五届中国金融科技安全大会并发表演讲,深入阐述数字内容风控技术的应用对于金融产品社交化的重要性,以及如何应对社区内有害内容带来的挑战。“无论是金融社交化,还是社交金融化,只要是带有社交属性的产品,都会加

  • 网易易信“春光”摄影比赛开赛

    莺莺燕燕春春,花花柳柳真真。春天的阳光照耀暖煦,春天的微风沁人心脾,春天的岑岭桃红柳绿。院中杨柳依依,窗外黄莺呖呖……春天是生机勃发的季节,古人写下了太多描写春天的诗句,拥有各类记录技术和设备的我们又该如何表达呢?日前,易信“春光主题摄影比赛”正式开赛,本次活动由中国电信、网易合力推出的内容社交平台易信主办,浙江省摄影家协会负责评审支持,面向所有摄影爱好者有奖征集作品。或许可以穿上你心爱的衣裙,带上你的毛孩子

  • 网易易信优秀创作者专栏 | 她用行动,致敬国风

    我们总想在乏善可陈的生活中寻找一丝快意,但貌似大多数人的快意是源于对某事物的短暂好奇,好奇心又在日复一日中消殆,回归于无趣。在这样的循环中不乏迷途者抱怨:为何生活索然无味?易信用户晴川给出了她的回答。她用6年的时间,在易信做了一件事,是一件在她看来平淡普通又快乐的事情。于是,她从无人问津到拥有百万粉丝,并把这样的快意过成了生活。颜值不输明星 却偏要靠才华晴川的家乡是北方的一座海滨城市锦州。从她的房间向外视野?

  • 如何加强游戏监管力度?网易游戏为青少年安全护航

    如何防止未成年沉迷游戏,保护青少年健康的网络生活是一个亘古不变的话题,如何守护未成年人健康和谐的网络环境也成了很多游戏厂商的第一要务,作为中国游戏行业的标杆企业,保护未成年网络安全刻不容缓,网易游戏也采取了多方措施。平台监护打造健康游戏环境在对未成年人的网络安全保护工作中,网易游戏首先从游戏产品自身出发,严格管理青少年的游戏时间。早在 2020 年,网易旗下所有在线运营的网络游戏都进行了未成年防沉迷系统

  • 网易着力于传统文化推广,为青少年献上传统文化盛宴

    科技快速发展的同时带来的是信息的飞速爆炸时代,而信息的高速膨胀带来的信息烟尘对优劣识别能力较弱且精力旺盛的青少年来说,若不加以管制会带来致命危害。而网易作为国内知名游戏厂商,旗下拥有众多游戏ip的情况下,更应致力于打造健康阳光、积极向上的网络游戏环境。网易对于未成年人的网络安全保护工作上心、用心。首先从游戏产品出发,对常规的实名认证进行了全面升级,除了严格实施网络游戏账号实名制度以外,网易游戏未成年

  • 网易云音乐上线开房对谈互动新功能“侃侃”

    昨日,网易云音乐发布安卓版8.1.31更新,宣布全新对谈互动新模式“侃侃”上线。据悉,“侃侃”位于“发现”页面“推荐歌单”下方,目前还处于测试状态。

  • 网易有道词典回应内容错误:机器翻译还有很大拓展空间

    不少使用量过亿的英语学习类App,频频出现拼写、音标、翻译等内容错误。其中,在网易有道词典App上查询“学制”对应的英语词汇,结果显示为eductional systme。而正确显示结果应为educational system。

  • 构建绿色游戏环境,保护未成年人游戏安全,网易一直在行动

    近年来,随着游戏行业的发展和对人们认知水平的提高,大家基本上都已经放下了对游戏的偏见;并且,随着数字时代的到来,丰富多彩、各具特色的游戏产品已成为了民众休闲娱乐的首选。但由于未成年人正处于身心发展的重要阶段,而处于该时期的孩子对于外界信息的接收处理、辨析取舍能力还比较弱,容易受到来自外界不良因素的干扰。并且,青少年是国家的未来,我国在未成年人网络安全保护问题上尤为重视。因此,对于游戏企业来说,保护

  • 消息称网易云音乐高层变动,丁磊掌管实际业务

    据晚点LatePost今天报道称,网易云音乐市场副总裁李茵于今年2月离职,加入一家互联网小巨头,在其离职后还并未有明确的接班人,目前网易云音乐CEO由丁磊担任,掌管实际业务。

  • 网易云音乐旗下“青云LAB”工作室启动,将挖掘潜力红人

    今天,网易云音乐宣布,旗下青云LAB工作室正式启动,该工作室成立目的是高效挖掘潜力红人并匹配优质词曲,结合专业宣发团队和全面的站内外推广资源,全力打造品质爆款歌曲。

  • 网易云音乐黑胶VIP年卡大促:买1得10 赠送优酷喜马拉雅会员

    3月24日-3月28日开启,网易云音乐将开启会员限时促销活动,这次联合会员促销活动买 1 得10 , 10 大品牌会员权益大放送,网易云音乐黑胶VIP年卡、芒果TV年卡、网易严选年卡、喜马拉雅年卡、蜻蜓FM年卡、网易邮箱年卡、快看漫画年卡、优酷视频月卡、keep APP季卡、星巴克季度权益包等会员权益仅用 108 元。

  • 网易云音乐回应人事变动;马化腾两会建言;Vivo S9发布

    昨日,针对“网易云音乐高管变动”一事,网易方面回应称,因个人原因,网易云音乐市场副总裁李茵已于近期离职。近期网易公司对网易云音乐业务进行调整。调整后,网易云音乐仍将延续此前的管委会集体决策机制。未来,网易公司将以更大的力度支持网易云音乐的长远发展。

  • 网易云音乐寻求港交所上市;美团将团好货列为业务重点;特斯拉回应刹车失灵致追尾

    知情人士透露,网易云音乐正寻求在港交所上市,预计明年正式提交IPO。对此,网易云表示不予置评。

  • 网易云音乐正寻求港交所上市,或于2022年正式提交IPO

    据今年2月网易披露的财报显示,目前网易云音乐超9成活跃用户年龄在29岁以下,2020年新增用户中60%是00后。2020年网易云新增近100万首网易音乐人原创作品,音乐人原创作品年播放总量超3000亿次。

  • Redmi K40系列发布;唯品会2020Q4财报;网易有道发布2020Q4财报

    昨日晚间,Redmi K40系列正式发布。其中,Redmi K40配备E4AMOLED 居中打孔屏幕,120Hz 屏幕高刷新率,搭载骁龙870处理器,X 轴线性马达以及4520mAh电池,6GB+128GB 售价1999元,8GB+128GB 售价2199元,8GB+256GB 售价2499元,12GB+256GB 特惠 2499元。

  • 信办约谈 “深度伪造”已成新兴络威胁

    1.近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。近两年,深度伪造,即deepfake不断登上新闻头条,成为一种主要的新兴网络威胁:比如“假靳东”事件骗局,仅靠合成的语音和视频就能演变成现象级诈骗;比如2017年,有人制作发布了奥巴马的deepfake演讲视频,引起全球风波;甚至连美国安全专家都曾发出警告,称DeepFake可能成为对下届美国总统大选造?

  • 《剑3》怀旧服今日公布 官宣定名剑3缘起

    备受关注的《剑网3》怀旧服今日正式公布,历经海量侠士投票,最终《剑网 3 缘起》高票胜出!首轮封闭技术测试将于 3 月 22 日上线,测试资格申请今日开放,诚邀侠士关注!《剑网 3 缘起》以经典版本 70 级“风起稻香”为基础,再现原汁原味的完整剧情和五大门派原版武学体验,同时加入大轻功、捏脸等诸多精华内容,开辟一个与侠士共同成长的平行时空。在保持手绘画风不变的基础上对人物精度进行提升。游戏基于云端实现全平台覆盖,同

  • 信办“清朗·春节络环境”专项行动依法查处一批违法违规站平台

    据“网信中国”微信公众号消息,今年2月以来,国家网信办部署深入开展“清朗·春节网络环境”专项行动,整治期间,网信部门巡查发现了一批问题突出、顶风作案的网站平台。

  • 热门标签

热文

  • 3 天
  • 7天