首页 > 传媒 > 关键词  > 网易易盾最新资讯  > 正文

网易易盾深度解读 | 清朗网络的背后,看见知乎长期生态治理的初心

2021-12-31 17:15 · 稿源: 站长之家用户

“能力越大,责任也就越大。”这句话同样适用于汇聚着亿万双眼睛的互联网主体平台。

随着互联网信息载体和内容主体的不断丰富,网络不可避免地出现了鱼龙混杂的局面。无视版权、低俗涉黄、诈骗信息、涉恐涉暴……种种问题交织在一起,严重破坏了网络生态。为了改善网络环境,知乎致力于构建认真、专业、友善的社区氛围,并在此过程中,始终坚持长期主义,在不断升级的内容风控对抗中持续自我提升。

知乎一直以来都非常重视社区生态治理,面对海量数据,治理方找准方法很重要。“我们需要充分利用好算法模型的优势,并与第三方服务商合作。网易易盾是国内领先的内容安全服务商,我们非常认可其安全服务的专业性和可靠性。”知乎表示。

知识社区坚持「获得感」的长期主义

诸如「如何打造一个不凌乱的家?」「如何开家长长久久的咖啡馆?」「电脑内部是如何沟通工作的?」「我是否卷入了一场骗局?」「艺术品的收藏价值来自于何处?」等的问题在知乎中随处可见,透露着未知与求知的博弈。

与每个疑问面对面的瞬间,人们总是迫切地寻找答案,搜寻一本答疑解惑的书,询问一名相关领域的专家,或者是转向知识社区“知乎”。即使是没有学过的专业知识,没有经历过的人生,没有触达的未知,我们大概也会在翻阅数个帖子后,知晓一二。

从几个人,到几万个人,再到数千万人,对知识有渴求的内容创作者很快顺着网线会合,以一砖一瓦的“智慧”聚集构成了全知全能的“知乎”。在招股书上,知乎给自己下了这么一个定义:“中文互联网高质量的问答社区,创作者聚集的原创内容平台”。自 2010 年成立以来,知乎以“让人们更好的分享知识、经验和见解,找到自己的解答”为使命,在诸多领域建立起了以社区驱动的内容变现商业模式。目前,知乎已经覆盖问答社区、会员业务、商业内容解决方案、热榜、机构号、视频、直播等一系列产品和服务,并建立了包括音频、视频在内的多元媒介形式。

截至 2021 年第三季度,知乎共累计 4.59 亿条多元形式的内容,其中问答条数达到 3.98 亿,知乎平均月活跃用户首次突破一亿大关,知乎拥有累计超过 5300 万的内容创作者,月活创作者数量达到 364万。

可以说,知乎有着属于自己执着且独特的内容风控情怀,即获得感。一直以来,知乎将能够「开阔眼界,带来帮助或引发共鸣」的内容高度概括为「获得感」。截至目前,「获得感」已经成为知乎衡量内容价值的标尺,用来强化社区治理,调整内容结构。好内容因此得到了更多关注、流量和收益,社区生态也因此更加健康繁荣。

打造知识海洋深处的净化器

以往,提到内容风控,大家都会想到博人眼球的黄色擦边球、性感裸露图片……

在知乎看来,内容风控是指对合规内容的保护与对不合规内容的治理。这里面提到的「规」既包括法律、政策要求,也包括平台对内容风控的自驱要求。如此看来,内容风控需要做到的其实就是识别、判断不同载体(文本、图片、声音、视频等)中信息的合规性。

基于这样的目标,知乎设定了四个关键需求:法律法规的建设、内容风控技术的攻关、标准化的风控体系与高水平的人才,衍生出四大内容安全能力方向,简单举例:

一是,法律法规、政策要求、平台自身规则往往是精炼的,在实际的内容安全业务中,需要在充分理解规则的基础上,转化为可以直接指导业务的标准,再同步到内容安全业务各个环节有效落地。

二是,面对每天海量的数据,对内容的智能理解能力成为了内容安全业务的强需求,知乎目前通过自研+采买服务的形式不断补强风险内容的识别能力。

三是,采用人机结合的内容风险控制体系,能够良好地辅助审核人员对内容进行把关,提升工作效率。知乎自研的策略引擎「哪吒」与审核系统「天玑」,将内容安全业务各环节高效串联并运转。

四是,设立了专门的内容安全培训团队,并搭建了完整的培训流程,旨在长期培养出思想站位高、视野宽广、经验丰富的内容安全业务人员,帮助平台把关的同时,为清朗网络空间培养守护者。

AI赋能,不合规内容识别更高效

AI(Artificial Intelligence,人工智能技术)技术应用到内容风控中并非新鲜事,AI参与识别不合规内容越来越普遍。受疫情影响,许多工作都放在线上进行,知识的分享和获取也不例外。通过AI进行内容检测是一个节省人力、物力的全新方式,在几年前就受到了知乎的采用。

虽然AI算法模型不能完全代替人类审核员,但却是重要的违规“定位”工具。知乎采取AI机审和人审相结合的方式,离开了AI或是审核员,内容安全业务的质量和效果将大大下降。

在引入易盾的AI算法模型之后,知乎表示,易盾深厚的技术沉淀以及个性化定制的服务,在风险内容组织性与对抗性日趋增强的今天,能够补强知乎对于不合规内容的识别、判断能力。

近年来,知乎持续加大内容治理方面的投入,从内容安全红线底线、不友善、内容质量、未成年保护等多方面入手,将第三方模型和自研模型相结合,大大提升了相关违规内容的召回率和准确率。

知乎表示,内容风控作为生态建设的基本盘,在其内部已经建立起来一套新产品、新功能上线的内容风控评估流程,任何功能更新、上线前都需要经过内容风控评估。对于公司未来发展的方向和重点,知乎也提前做了行业调研和能力储备,确保基本盘一直是稳的,是可以跟得上行业发展的。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,文章为企业产品宣传内容,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 【腾讯云】618年中专享优惠抢先看,价值1206元礼券一键领取

    腾讯云618采购采购季,云服务器多种机型限时抢购,产品首购低至1折,续费最高享3.6折优惠。,专业技术7*24小时在线服务,腾讯云为企业和个人提供快捷,安全,稳定的云服务!

    广告
  • 美国政府将调查iOS上的软件生态网络应用限制

    美国国家电信和信息管理局(NTIA)对移动应用生态系统的竞争展开了调查。受美国商务部的委托,NTIA目前正在征求有关移动应用生态系统竞争的意见。这项调查是由去年7月白宫关于促进美国经济竞争的行政命令引发的,目的是为改善竞争、减少进入壁垒和使用户利益最大化提出建议。监管机构表示,美国的信息技术部门长期以来一直是创新和增长的引擎,但今天少数占主导地位的互联网平台利用他们的力量排斥市场进入者,榨取垄断利润,并收集私密的个人信息,以便为自己的利益而利用。整个经济中太多的小企业依靠这些平台和少数在线市场来生存.....

  • 网易上线“视频版知乎”,但第一批用户已经离开了

    在心声入口内,一条一条用户“心声”,以卡片形式单列排列,能够直观地看到回应用户数,宛如视频版知乎(见下图左)...首先是彼应上的视频“易回难发”...雪豹财经社点开多位发布视频较多的用户主页后发现,如果勾选“仅看回应视频”,那么用户主页剩下的视频数往往骤降...即使在首页上,也很容易刷到2021年的视频,且这些视频大多由已在其他平台上大火的博主在彼应上发布...而同一条视频在5个月后发布在微信公众号后,获得了10万+阅读,在视频号上也获得了超2000次转发和点赞...同一视频分别发布在彼应和微信视频号的数据......

  • 网络开源峰会|中国移动段晓东:面向“连接+算力+能力”的开源生态探讨

    会上,中国移动研究院副院长段晓东先生分享了《面向“连接+算力+能力”的开源生态探讨》主题演讲......

  • 87页纯干货,56张图表——深度解读露营经济发展现状及行业趋势

    为了帮助企业深入行业,理清未来趋势,抓住发展机遇,艾媒咨询特推出《艾媒咨询 |2021-2022年中国露营经济产业现状及消费行为数据研究报告》,87页精选内容,56张图表,覆盖露营经济背景分析、产业规模与产业链分析、消费者行为洞察、行业发展总结及趋势分析四大模块,剖析露营经济的行业机会,数据详实,观点独到,干货超多...数据显示,28.8%的中国露营消费者选择1-2个月露营一次,35.4%的露营消费者选择3-6个月露营一次,19.0%的露营消费者选择1年露营一次......

  • 爱聊“净”行动 构筑网络脱单安全防线

    据了解仅2022年3月,爱聊APP“净网”行动累计处理违规案例54194例,禁言处罚18127例,封禁账号586例,永久封禁账号35481例...爱聊APP结合多形式的安全宣传活动、普及网络安全知识活动的开展,引导用户树立真实交友理念,增强用户的安全防范意识,共同营造安全社交圈...“高度重视网络交友的安全问题,对移动社交黑灰产以及骚扰欺诈等违法违规行为零容忍”,这是爱聊APP始终如一的态度,也是爱聊APP成就千万单身用户快速脱单、幸福脱单和安全脱单的基础......

  • 网易游戏持续探索人脸识别技术,肩负未成年人网络安全保护重责

    未成年人网络安全保护是一项长期工作,为了给未成年人营造良好的网络环境,网易游戏针对未成年人网络安全保护展开了一系列措施,在自身技术积累的基础上,针对疑似未成年用户积极探索人脸识别验证功能...为了让未成年人的网络安全得到有效保障,网易游戏组建了专门的未成年人保护团队,并对外开放未成年人问题专项举报入口...网易游戏还针对“网易家长关爱平台”进行了再度升级,升级后家长不仅可以定义孩子的游戏时长,还能限制孩子的游戏充值,方便家长随时掌握孩子的游戏情况和消费信息,远程管理孩子的游戏动态...

  • 快捷通支付网络安全宣传周:提升自我防范,共建网络安全

    作为第三方支付平台,快捷通一直积极响应中国人民银行的号召,采用线上线下相结合的方式举行全方位的网络安全知识宣传活动...结合典型案例和最新的网络风险,围绕网络安全和个人信息保护,为园区企业代表们上了一场生动的网络安全教育课...快捷通还通过快捷通官网、微信公众号、电视、公益短信等多种渠道和形式进行系列活动的宣传,并在公司内部举行了网络安全宣讲和在线知识竞赛,发动全民广泛参与网络安全宣传教育活动,全面提升民众网络安全防范意识和应急能力...

  • 众安网络安全险加固数据存储安全,为企业网络保驾护航

    基于用户对网络安全的关注和需求,众安保险发布了全覆盖式网络安全保险产品,为各产业领域数字化发展和网络安全保驾护航...因此,基于对网络安全的需求,缔联科技选择投保众安网络安全保险,进一步加固数据存储安全性,以消除服务企业的顾虑...通过定期巡检、检测、防护、预警等持续周期性的网络安全服务,降低网络安全事件发生概率,实现“防+保”全流程风险保障,有效消除大型企业客户对缔联科技财税系统中的数据信息和隐私安全的顾虑,为缔联科技提升品牌信誉加分......

  • 飞云CDN 让网络插上飞翔的翅膀

    飞云IDC数据中心,指的是飞云设置多处机房于世界领先重要城市中,以提供高度安全托管空间及经验丰富技术团队全天监控,让客户享受更舒适的灵活网络...飞云是一个专业的CDN服务器平台,飞云会根据客户的网络需求提供全自动优化和定制化优化方案,优先配备快捷的节点......

  • 网络媒体“角色转型”,转到哪一步了?

    它一方面对过去中国网络媒体的发展做了总结,也对接下来一年的网络媒体趋势进行了展望...平台对数据智能化的探索,让内容生产的关系进一步改变,它们充分借助AI赋能,把简单、机械的内容交给机器生产,解放内容生产者的生产力,提升编辑发布效率...《报告》指出,网络媒体致力为政府与民众搭建“线上连心桥”,消除政民“信息隔阂”的同时深刻把握新时代社会治理大势,助力政府治理能力提升......

今日大家都在搜的词: