首页 > 传媒 > 关键词  > 网易易盾最新资讯  > 正文

与“色情”割席,网易易盾助力陌生人社交重塑品牌形象

2021-10-08 14:35 · 稿源:站长之家用户

一、案例概括

怀着化解孤独,创造对话的初衷,不少陌生人社交产品却频频卷入涉黄的丑闻中,被打上“声色犬马” 、“涉嫌招嫖”、“诈骗池塘”、“荷尔蒙生意”等标签,让陌生人社交的品牌形象一落千丈的同时,也引来监管的目光,被约谈、下架甚至关停。

管理趋严,陌生人社交迎来分水岭

继简单内容过滤之后,陌生人社交APP寻缘交友希望通过体系化的内容安全服务,快速扩展至不同社交场景,对内容健康度的把控“连点成网”,不仅局限在内容,更关注用户环节,通过数字内容风控技术网络最大限度地维护正常用户的情感体验。

二、客户介绍

独而不孤,达成用户情感共鸣

社交不足带来的孤独症在都市人群中大面积爆发,尤其是青年人。如何缓解当代青年人的孤独感?

初来乍到,没有一个稳定的社交圈子,好在得益于手机上的移动应用,青年人瞬间在任何地方找到新朋友,在多元而分散的都市社交中与他人相处。

IMG_257

近年来,陌生人社交APP人来人往,为用户情感交流、体验提供虚拟社交平台,通过文字、图片、语音、视频秀、直播等方式快速了解对方,陌陌、对面、遇见、SOUL相继走红。

作为后来者,“寻缘交友”顺势发扬了这一模式,放大了“异性恋爱”因子,在熙攘的人群中寻找片刻悸动。在闲暇时刻,打开“寻缘交友",与身处全国各地的陌生人聊上几句。一次简短的对话、一段情切的声音,通过语言倾诉,人与人之间的桥梁逐渐建立起来。

目前的陌生人社交平台种类各有所长,垂直发展趋势明显。“寻缘交友”也不例外,在规则设置上类似情感"树洞",将使用者以性别分类,供大家在私聊、音视频、直播等板块互动交流。

自推出以来,“寻缘交友”正在吸引越来越多的移动用户,成为存在于网络空间上的情感纽带,弥补了他们在现实生活中的孤独感,在线社交正在通过更多元的沟通形式来填补大家的情感诉求。

三、遇到的问题

建立多层次内容安全网络

伴随着平台的高速发展,社交内容数据像雪片一般络绎不绝。人性的幽暗就在于,社交中的甜言蜜语却渗透了满满恶意:诈骗团伙在聊天中“钓鱼”;引流党将“小广告”撒满APP的各个角落;不法分子利用色情、低俗、暴恐、赌博、谣言等负面信息污染视听。

正是因为有了太多的不良动机,导致企业对不良违法内容洞察力不足,内容审核能力不足,局限了其为客户提供个性化服务,提升客户粘性的机会。

近年来,寻缘交友将业务重心转向多种社交娱乐玩法,从用户资料、私聊、社区、语音连麦,扩展至直播,为客户提供更优质的服务。为了实现业务愿景,寻缘交友需要一个强大的内容安全平台,助力其减少交友过程中的内容安全风险。考虑到精准度、可扩展性方面的表现,寻缘交友选择了网易易盾来助力其内容生态体验安全转型。

IMG_258

在寻缘交友看来,合规是陌生人社交赛道绕不开的槛,唯有加强自我监管,才能为用户提供高质量、安全的社交环境,让陌生人社交真正成为一剂孤独解药。

四、解决方案

用AI定义新一代内容安全

自上线以来,寻缘交友就高度重视内容生态安全。内容板块层层加码,用户与流量激增,哪里有问题就审核哪里,审核员的眼睛逐渐追不上内容产生速度。断层式,没有链路,没有体系,深受信息处理效率低下的困扰,这是早期社交应用内容审核的真实写照。

IMG_259

化繁为简,融媒体检测一键提升洞察力

在易盾的助力下,寻缘交友化繁为简,把所有APP板块下的内容数据集中到融媒体SaaS审核平台,通过提供机器审核、人工审核相结合的方式,来提高对色情、暴恐、涉政等不良内容的洞察力。

平台数据提交:将内容数据团拆解为一条文本、一张图片、一段音视频,并打上定制化字段,如昵称、头像、签名、标题、封面、内容、话题,在审核页面展示。

融媒体合并审核:同一场景下的文本、图片、音视频文件,相互关联进行判断,达到“所见即所得”的全方位无死角审核。

IMG_260

透过易盾强大的运算功能执行与独家开发的机器学习演算法,寻缘交友高效过滤复杂、变种不良信息,全面理解文本、图像、音频、视频,更是在人工审核第二道防线帮助下,对机器存疑的内容进行二次审核、结果抽检,既快速又精准。

用户画像模型,清除“害群之马”

“好友是诈骗用户”、“昵称,手机号码相似”、“用户经常换设备”、“删除好友比例较高”……在内容风控体系中,作为内容发出者的用户往往被忽略。在专业团伙作案的当下,只有把风险用户连根除掉,才能使不良内容不能再繁衍。

依托不断创新的核心技术,易盾助力寻缘交友建立了一套基于大数据挖掘的用户风险评分模型。针对黑灰产作案的群体性特征,融合全场景行为序列、IM内容、互动关系、设备/手机号关联等多模态大数据构建用户风险关系网,并运用图深度学习技术预测新注册账号与已确认黑产团伙之间的关系紧密度,对高关联的用户赋予相近的风险概率值。

IMG_261

该模型日均可发现近10倍于人工手段的恶意引流账号量。同时,为客户提供账号风险评级,用于针对不同风险等级的群体执行定制化的内容安全分层管控策略。

用户分级不只帮助寻缘交友更了解高风险访客的轮廓,更帮助团队优化处理逻辑,将更多资源集中在高危群体,最终辅助业务从容提升处罚的精准度。

全链路安全顾问

在陌生人社交环境下,难免有用户披上一张假面,引诱异性大额花钱,一步步走进陷阱,血本无归。近年来,不只是“杀猪盘”类骗局在互联网上愈演愈烈,更有“劣迹”艺人被禁,如何及时反应、管控到位?

IMG_262

让人机结合的审核机制动起来:“安全顾问”从内容安全策略制定到全面的用户处罚体系,全程陪伴寻缘交友,让客户得以跟踪每一个热点事件背后隐藏的风险,及时排查违法违规和不良信息。

易盾拥有专业的内容安全审核运营团队,人审团队为寻缘交友提供安全审核、标签标注等服务,在运营上提供安全质检、安全舆情、安全巡查、安全培训等服务,全方面保障企业产品内容安全。

灵活有度,划分公私域:过分控制发言自由反而过犹不及,通过“公域严格,私域放宽”的策略,对于私聊中因性感内容违规的用户,不给予严格的处罚,为成年人社交留下一定空间。

五、效果

打造陌生人社交的安全转型

通过以上方式,易盾帮助寻缘交友团队打通了多板块、多场景连锁审核蓝图,内容安全体系逐渐确立,透过持续不间断的技术与策略输出为团队带来更安心的内容安全保障。

在成功经验的基础上,寻缘交友将其生态中的更多审核需求迁移到至此,通过API打通后台客户数据、连通社交内容板块,真正实现内容风险统一视图,在后台与定期报告中一目了然。

与接入前相比,文本审核效率提升2倍,音视频违规账号处理数提升6倍,内容审核准确率达99%以上。易盾风控的交互设计极大提升效率,为客户节省成本,让内容安全工作能够更贴近日常营运。

IMG_263

伴随陌生人社交的整体增长,“安全”已经成为“寻缘交友”等新兴品牌从赛道中突围的重要议题。内容审核不再只是为了发现与删除不良内容,有效区分出高风险的访问者,并持续跟踪各类内容风险,成为了每日的必备课题。目前,易盾一站式“智能内容安全解决方案”接入简单,效果显著,已被比心、探探、爱聊、PP约玩、心遇、花姻、樱桃聊等知名娱乐社交公司采用。

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 专业人做专业事,重视游戏“内容安全”的金山世游与网易易盾如何行动?

    一、引言在游戏中,如何确保包括青少年在内的用户处于一个安全环境中,一直是玩家大量聚集的集“社交”、“娱乐”、“竞技”等于一身的多类型游戏产品的关注点。成立于2016年的金山世游,先后在国内发行了《反恐行动》、《小米枪战》多款IP手游,坚持创造一个公平、文明、有序的游戏环境,让用户远离不良价值观。过去,金山世游通过“屏蔽词库”来进行监测和治理不法行为。玩家也主动加入内容巡检队伍。如果看到一些不恰当、引起不

  • 相约2021北京LVS,网易易盾分享半监督、自监督算法在内容安全领域的落地

    近日,以“新技术,新机会”为主题的2021 LiveVideoStackCon 北京站如期召开。人与人、人与机器之间的交互将更加身临其境,视觉和听觉感官刺激前所未有的被满足,技术的升级正在创造想象中的新应用。作为多媒体技术领域的盛会,大会聚焦在音频、视频、图像等技术的最新探索与应用实践,覆盖教育、娱乐、医疗、安防、交通、制造、旅游、电商、金融、社交、游戏、智能设备、IC等行业领域。众所周知,互联网平台在确保线上内容安全时?

  • 网易云音乐上市

    今日,网易云音乐正式登陆港交所,首日平开,总市值425.90亿港元,股票代码“9899.HK”。昨日,网易云音乐在港交所公告称,香港IPO最终发售价定为每股205港元,募集资金净额约为31.24亿港元。根据计划,将在全球公开发行1600万股普通股。

  • 网易云音乐重启IPO

    今年8月,网易云音乐通过上市聆讯,不过随后有消息传出称,网易云音乐或推迟启动香港IPO。就在昨日晚间,网易云音乐上载全新的聆讯后资料集并通过港交所上市聆讯,联席保荐人为美银证券、中金及瑞信。

  • 网易游戏集体崩溃 原因系“机房故障”

    11月3日晚间,不少玩家反馈网易旗下众多游戏出现无法登陆等异常现象,随后网易多个游戏官微确认该消息,并在当晚陆续恢复正常。

  • 网易云音乐成功注册愈云商标

    近期,杭州网易云音乐科技有限公司于2020年申请的网愈云商标注册成功,国际分类涉科学仪器、教育娱乐。

  • 丁磊:网易在元宇宙技术和规划上已经做好准备

    昨日,网易发布2021年第三季度财报,财报发布后,网易CEO丁磊等高管参加了财报电话会议,回答分析师提问。

  • 网易最神秘的游戏团队人事变动曝光

    凤凰网科技讯 11月8日消息,有自称网易员工爆料称,公司互娱事业群发生人事大变动,从即日起,原海神事业部旗下的Zen工作室升为公司一级事业部,该工作室制作人金韬晋升为Zen事业部总裁,向网易游戏联席总裁丁迎峰、惠晓君汇报。对此,凤凰网科技向网易方面进行求证,截止发稿,未收到回复。值得注意的是,Zen工作室是网易最神秘游戏制作团队,地位比雷火事业部还高。Zen工作室旗下有《阴阳师》《哈利波特:魔法觉醒》多款网易爆款

  • 网易云音乐上市首日盘中破发

    网易云音乐今日正式在港交所上市,证券代码为“9899”,开盘价205港元,与发行价持平。随后,网易云音乐在盘中破发,截至发稿,其股价下跌0.59%,报203.8港元。

  • 网易被纳入恒指成分股 美股盘前上涨3.9%

    【TechWeb】11月19日消息,今日,恒生指数公司宣布截至2021年9月30日的恒生指数系列季度检讨结果,网易-S(09999)被纳入恒生指数成份股,成为64只蓝筹股之一,变动将于12月6日生效。恒生指数是香港乃至国际股票市场最具影响力的指数之一,于1969年11月24日首次公开发布,也是反映香港股市价格趋势最有影响的一种股价指数。纳入恒生指数,一直是众多上市公司的重要争取目标。恒生指数成分股对股票市值、交易量等方面都有严格要求,只

这篇文章对你有价值吗?

  • 热门标签

热文

  • 3 天
  • 7天