匿名社交应用如何进行内容审核 - 站长之家

匿名社交应用如何进行内容审核

2014-08-11 09:29 稿源:爱范儿  0条评论

匿名社交应用 内容审核 Whisper

匿名社交应用的火爆其实并不奇怪。自网络兴起以来,人们一直享受着匿名带来的自由。只是在 Facebook 这样的社交网络兴起后,实名社交才逐渐成为了主流。实名的好处是人们对网上言论更加负责。与此同时,社交网站能够获取真实资料,提供更加精准的广告。但是,实名也有一定的缺陷。在实名的情况下,人们常常发现自己无法畅所欲言,另外,隐私也更多地暴露给他人。在“棱镜门”事件之后,互联网用户变得更为关注自己的隐私。匿名社交应用正好迎合了这种趋势。

匿名社交应用给用户们提供了更加轻松的社交环境,但与此同时,匿名带来的问题也很快涌现出来。由于不受实名的限制,用户的言论会变得肆无忌惮,甚至违反道德和法律。Whisper、Yik Yak 和 Secret 等应用,很快发现自己处于舆论的风口浪尖。对付不断增长的网络暴力和色情,初创公司没有足够的人员可以投入,于是,他们把这个任务外包给了专业的公司。

根据 GigaOM 网站的了解,Whisper、Yik Yak 都把内容审核的任务交给了 TaskUs,一家工作地在菲律宾的公司。Whisper 使用 TaskUs 的服务已有两年,Yik Yak 是几周前开始的,而 Secret 也打算使用该公司的服务。目前,Secret 内容审核外包给旧金山的 Metaverse Mod。

对于这些初创公司来说,内容审核是一件非常棘手的事情。如果不能成功制止网络暴力和色情,匿名社交应用很可能会失败。一些匿名网站的失败已经提供了先例。

目前来说,内容审核仍然是大量依赖于人工,成本较高。为 Whisper 服务的审核员有 130 人,内容审核手册接近 30 页。审核员关注两方面的内容,一是用户举报的内容,二是机器检查出的内容。他们删除恶意内容,把网络暴力言论变为待审状态。当发现有自杀的言论时,他们会打上水印(国家预防自杀热线的号码)。

当 TaskUs 发现实际威胁时,会把信息发给 Whisper。“如果有人说,‘我会杀了她,埋在后院’,那么,这样的内容就通报给警方,” TaskUs CEO Bryce Maddock 说,“他们会从 Verizon 或 AT&T 那里获取你手机的 UID,FBI 和本地警方会出现在你家门口。这样的事情很多。”

网络暴力比较难定义,有时需要依赖主观的判断。另外,某些言论在针对公共人物时候,是可以接受的,但是针对私人则是不被接受的。TaskUs 员工对某个名字不确定时,使用 Google 搜索或者维基百科。

对于初创公司来说,内容审核的成本是很高的,而且也不是一个可持续的方法。Whisper 正试图从技术上解决问题,而 Secret 也在寻找类似的方案。不过,从测试的结果来看,Secret 的审核系统仍然不够智能。对此,Secret 的 CEO David Byttow 表示,他们会改进自动检测算法,同时增加其他的外包公司。

“匿名是一件强大的事情。能力越大,责任就越大,” 他说,“搞懂这些问题,是我们获得长期成功的关键,但是,这也是一个很难解决的问题,我们正在尽自己最大的努力。”

有好的文章希望站长之家帮助分享推广,猛戳这里我要投稿

相关文章

相关热点

查看更多