站长之家首页 > 动态 > 网络鉴黄师最新资讯 > 正文

互联网最“脏”的活,却有几十万人在做

2019-09-06 15:05 · 稿源:运营研究社公众号

谁在从事这份工作?

每一分钟,YouTube 有 500 小时的视频,Facebook 有 250 万条信息,Twitter 有 45 万则推文在上传。

在海洋般的信息流中,恐怖主义、虐杀、自残、色情、极端组织言论、政治宣传夹杂在网友的猫咪和美食照片里面,谁来负责清理这些垃圾信息?

1)劳动密集型产业

据不完全统计,各大科技公司的内容审核员工都来自第三世界国家或是不发达地区。其中,在菲律宾的外包内容审查员人数超过了 10 万人。

YouTube、Google 和 Facebook 等科技巨头都会建立双重审核制度,一是通过人工智能和算法进行首层审核,接着是通过建立在东南亚的外包公司来进行人工过滤。

作为一项庞大的劳动密集型产业,大多数人受到保密协定的约束,他们的工作直面互联网的黑暗角落:过滤暴力、色情、恐怖内容,他们被称为“网络清道夫”。

在成为审查员之前,这些人需要经过三到五天的上岗培训,培训的内容,例如记住 37 个恐怖组织——他们的旗帜、制服、口号。

通过类似这样的培训,审查员上岗并化身成为道德天使,通过机械又辛劳的工作,使人们相信对社会的美好想象。

在培训中,外包公司会告诉审核员们会看到什么,需要用到什么工具,以及会产生什么后果。

不少审核员会心生退意,这时候组长会对他们进行劝说,并且告知他们已经签了保密协议。

保密协议中要求不能透露他们为谁而工作,如果违反了保密协议,他们就会失去工作并面临 10000 美元的罚款,甚至牢狱之灾。

并且,Facebook 和 Google 并对外宣称,他们没有在马尼拉的员工。事实上,马尼拉的审核员的薪资也的确不来自 Facebook 或者 Google,而是外包的公司。

2)内容审核员的独白

内容审核员就像阻击手,目标是那些违反了应用程式规定的用户。

“我做了六年的内容审查员,每天必须浏览 25000 张图片。”

在记录片中,被采访的审查员自述道,清理脏东西,是他们唯一的职责,确保没有任何可疑的内容上传在平台上。

他们同时也会对这份工作产生自豪感:“如果我们少工作一小时,那互联网就会一团糟。”

Facebook 在 2017 年的遭遇也印证了这句话:一名泰国男子放出了他杀害 11 个月大的女儿,然后自杀的视频。

这段视频引起了全世界的一片哗然,并在社交网络上保留了近 24 个小时,这让 Facebook 成为众矢之的。

所以,Facebook 的内容管理员也从 2017 年的 1 万人,增加到 2019 年的 3 万人。

张一鸣也在去年提出强化总编辑责任制,不断强化人工运营和审核,将现有 6000 人的运营审核队伍,扩大到 10000 人,天津似乎也成了互联网“审核之都”。

目前,新浪、头条、网易、陌陌、豆瓣、搜狐等都在天津设立了审核专员职位,不少公司在济南和成都也有设立审核中心。

在招聘网站中,网络信息审核员这一职位的平均工资在 4-6 千元左右。

相比我国,纪录片中出现的审查员时薪仅有 1 美金。

美好愿景的话术,实际低廉的工资,同时还有心理问题的出现。

由于外包公司们未配有相应的心理咨询师和审核员们每天看大量的暴力色情内容,他们的心理健康极易受到影响。

在审查员论坛上,还有更多骇人听闻的视频,包括虐待妇女、儿童和动物。有人表示他们每看几个视频就得休息一下才能缓过劲儿来。在日积月累的病态工作下,审查员们渐渐麻木,丧失了对人类的信心。

人就是机器,机器就是人。

“当我离开公司时,我已经三年没有握手了,因为我发现人们很恶心。”

Bob 说,

“世界上大多数正常人都他妈的是怪人。当我离开那里时,我对人性感到厌恶。我的很多同行也遭遇同样的事情,我们都认为人性太可怕了。”

在纪录片中,一位负责审查自我伤害的员工,在看过海量的自虐视频后,不堪重负,在一个晚上选择结束自己的生命。

为什么离不开人工审核?

回归到内容审核本身,不少人都会质疑,为什么在技术如此发达的今天,还需要如此大量的人工审核。

1)算法误判

今日头条在去年 3 月份的时候出品了一个反低俗微信小程序“灵犬”,是国内首款反低俗信息小程序。

基于今日头条反低俗算法模型,用户只需输入文字(10 个字以上)或者图片就可以检测信息的健康程度,并给出结论此信息是否可以获得推荐。

比如输入“你饿不饿我下面给你吃”,输出的健康指数为 19% ,被鉴定为“这里有问题”。

文字信息对机器来说还相对容易,图片和视频在技术上会有更大难度。目前,“灵犬”小程序还不支持检测视频。

比如我用艺术作品“断臂维纳斯”的图片检测,机器通过识别图中人物的皮肤裸露面积,就会认为是色情低俗的;而某些拍摄芭蕾舞的图片,以机器的视角来看,会类似于裙底偷拍。

Facebook 就曾经因为“裸露”,误删了一张著名的越战新闻照片,内容是一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑,事件发生后引起了美国新闻界的巨大争议。

2)内容难以界定

离不开人工的一个更重要原因是,涉及政治的内容机器难以直接处理,此类内容一旦出现问题将造成严重影响,必须交由人工进行审核判断。

甚至很多时候,人工也不知道是该还原真相,还是“净化”网络环境。

如果发生误删,也可能会引发霸凌,伤害一个或者更多的生命。

所以,在 AI 的背后还是近万名审核团队在辅助审核,去做算法无法做到的事情。

结语

在纪录片中,被采访的审查员冒着被罚款、牢狱之灾的危险说到:

“我为什么愿意接受采访,因为我们想要人们知道,我们的存在,有一群人在检查社交媒体,我们正在尽最大努力,让大家能安全使用这些社交平台。”

写这篇文章的原因,也是想让大家知道,在科技的背后,还有他们的存在。

如果说互联网的初衷是让这个世界没有信息的不平等,任何一个信息都可以无障碍地到达全世界的任何地方。

那不可避免地存在极端宗教主义、恐怖组织、负面的声音。毕竟人类的多样性在哪里,人类对自我追求的冲突就会在哪里。

但至少,我们应该对他们致上最深的谢意。

本文转载自公众号运营研究社,一个让运营人快速崛起的公众号,你所关心的运营问题,这里都有答案。微信号:U_quan

  • 大家在看
  • 相关推荐
  • 有两种互联网行业:互联网,以及A股互联网

    如果你是互联网专业人士,又经常阅读A股市场关于互联网/传媒行业的报告,你会发现,他们的关注点有些奇怪——去年 11 月在恶炒云游戏,去年 12 月以来在恶炒MCN,今年 2 月以来在恶炒远程办公。在此期间,永恒不变的话题是:腾讯游戏快完蛋了(网易也是);某些新兴第三方支付平台将取代支付宝和微信支付;几个你没听说过的公司在出海方面大有成就,已超过TikTok;等等。

  • 互联网广告大败退

    在马化腾等高管看来,这项下降是可以接受的。媒体广告(比如腾讯新闻、腾讯视频上看到的广告)收入不到腾讯广告营收的20%,社交广告(比如微信朋友圈中的广告)等种类的广告收入还保持着上升势头,因此总体影响不大。

  • 互联网巨头Google也有危机?

    我们经常会提及Google,但是我们对Google真的了解吗?这篇文章将对Google进行一个全面的解读,阐述了Google的未来、优势和危机。虽然是 2018 年的文章,但是依然对了解Google很有价值和帮助。

  • 快快网络高防服务器—热门互联网行业的首选服务器

    在这网络高速发展的时代,网络安全也成了企业关注的焦点。现如今,企业的业务开展离不开服务器,尤其是热门互联网行业,如游戏、金融、电商、直播等更是DDoS攻击的重灾区。而高防服务器不管是配置方面、网络资源方面还是防御性能方面,都比普通服务器强,能够抵御大流量DDoS、CC攻击,大大提升安全性。所以高防服务器成了很多企业的首选。接下来,小编给大家详细介绍一下高防服务器给这几个行业带来的益处。1. 游戏行业游戏行业是?

  • 极光发布互联网行业报告,土巴兔用户满意度领跑互联网家装行业

    近日,第三方权威数据机构极光大数据发布了《 2019 年Q4 移动互联网行业数据研究报告》(以下简称报告)。报告显示,从用户满意度评分来看,互联网家装综合平台土巴兔满意度(评分为8- 10 分的比例系数)最高,达到62,齐家网与家装设计工具酷家乐分别位列第2、 3 名,行业整体平均值为54.1。行业专家认为,土巴兔在用户满意度上的成绩,得益于多年来聚焦“用户价值”的策略,并围绕用户价值搭建了多维度的业务支撑体系。互联网家装用?

  • 猎聘2月互联网人求职3点变化:逃离互联网的人增多 求稳可以牺牲涨薪

    猎聘发布《 2020 年 2 月互联网从业者求职报告》。受新冠肺炎疫情影响, 2020 春季招聘与求职出现滞后性,目前随着企业陆续复工复产,就业市场逐渐升温。

  • 杜绝互联网保险乱象 中华财险在行动

    2019 年 10 月 12 日,为了响应银保监会整治银行保险侵权乱象的通知,北京银保监局也发布了一则《北京银保监局关于规范银行与金融科技公司合作类业务及互联网保险业务的通知》(以下简称“通知”)。中华财险北京分公司作为北京辖区内的积极履行者,在第一时间内迅速反应,做出了一系列的相应工作调整。

  • B站-下一个互联网流量风口

    最近几年要说最火的流量赛道,那毫无疑问是短视频。抖音现如今已是 4 亿日活的庞然大物,向来产品更新非常克制的微信,也在最近推出了视频号的功能。这让原本就已经非常激烈的短视频赛道,现在又多了一位重量级的选手。

  • 互联网的不眠之战:洗稿与反洗稿

    有知乎网友发现巫师财经在B站上一期名为《金融各细分行业概览+鄙视链+职业发展,人生如逆旅,我亦是路人》的视频,洗稿抄袭了知乎“过去的五年(2011~2015)你经历了哪些重要的人生节点?对现在有哪些影响?”的一个匿名回答。

  • 互联网直播15年:从“卖肉”到卖货的掘金史

    从 2019 年李佳琦、薇娅爆火开始,直播开始爆发出我们难以想象的带货能力。今年的疫情,更是让“万物皆可直播”成为现实。但如果把时间稍微往前拨一点,大家对直播还很容易浮现一些负面而刻板的印象,比如像什么低俗女主播、土豪炫富比氪金……然而,历史的现实真的是这样吗?

  • 金蝶账无忧斩获《互联网周刊》两项荣誉大奖

    近日,由中国科学院《互联网周刊》、中国社会科学院信息化研究中心、eNet硅谷动力共同主办的2019《互联网周刊》年度人物、产品、品牌评选活动正式公布,本次评选旨在多维度挖掘和传达优秀企业的目标、使命和价值观。金蝶账无忧凭借产品与服务的优异表现,在一众品牌中脱颖而出,斩获“ 2019 财税SaaS领域年度产品”与“ 2019 财税云服务年度最佳服务品质企业”两项大奖,充分体现了社会各界对金蝶账无忧的产品与服务品质的高度认可

  • 广东欢太科技有限公司:助推升级互联网+服务

    2020年初,一场突如其来的疫情,让各行各业意识到数字化给应对危机和转型升级带来了新的机遇,互联网+医疗、互联网+教育、互联网+公共服务等以互联网为载体的“互联网+服务”在疫情防控期间发挥了不可忽视的作用,成为各行业企业探索的新方向。在这其中,由广东欢太科技有限公司运营的互联网服务平台HeyTap,以万物互融为理念,持续助推互联网+服务转型升级。据悉,HeyTap伴随万物互融而生,由广东欢太科技有限公司运营,该公司成?

  • 疫情下的中国互联网世界,正“镜像”呈现在全球

    一个多月前发生在中国互联网的一切,开始在世界互联网重新上演。钉钉在日本出道了。“那个…日文版在家办公指南在做了…..” 钉钉的官方微博于 2 月 29 日发布了一个推文,表示日本版的Dingtalk已经在路上。

  • 经此一疫,互联网公司格局发生了哪些变化?

    ​每一次波及全社会的重大事件发生,影响都不仅仅作用于当下。短期内大量迸发的信息和新需求,在改变人们观念和行为习惯的同时,也深刻影响着与之相关的各个行业。

  • 后疫情时期 如何贯彻绿色发展理念 构建“互联网+绿色出行”

    近年来,受新技术、新产业、新消费和新城市等多方面挑战,特别是去年年底爆发的新冠肺炎疫情,对出行行业的当下及未来发展产生了深远影响,互联网+绿色出行市场发展进入后疫情时代。各地企业陆续复工,各大城市交通面临严峻考验,亟需各出行平台及企业,根据疫情形式和未来交通慢行系统的发展进行自我思考,为百姓出行创造更好的条件。中共中央提出“绿色发展”理念 党的十八大以来,“创新、协调、绿色、开放、共享”五大发展理念

  • 轻松筹互联网基因赋能产品 提升企业与业务价值

    为更好支持人民群众对美好生活的追逐,作为他们背后强大的支撑,以轻松筹·轻松保为第一梯队的互联网保险,通过将互联网基因赋能保险产品,不断创新丰富互联网保险产品种类布局, 从而满足更多用户的健康保障需求。互联网经济天生具有长尾和普惠的特性,互联网保险的创新也推动着保险回归普惠、互助、保障的本质。” 轻松集团CEO张科深耕传统保险领域多年,谈及 2019 年加盟拥有 6 亿用户的全民健康大平台轻松集团,他坦言,保险行

  • 报告:全球互联网顶级域名注册数增长至3.623亿个

    近日,.com域名运营管理机构威瑞信(Verisign)发布了 2019 年第四季度的域名行业简报数据显示:到 2019 年底,全球顶级域名注册数达到3. 623 亿个,较第三季度增加约 240 万个。

  • 国美“搭车”京东 但互联网时代的游戏规则已变

    2010 年,国美的“黄陈大战”落下帷幕,陈晓黯然离职。同年,国美正式上线了电商业务“国美网上商城”。虽然经过了严重的内耗,但当年的国美营收依然达到了 509 亿元。

  • 从硅谷出发,到乡村医院,他重新定义医疗互联网

    不管怎么说,陈卫党都毫不怀疑,对渔歌医疗而言,这将是一段被铭记在心的岁月。自新型冠状病毒感染的肺炎疫情发生以来,截至3月6日24时,累计报告确诊病例超过8万,累计追踪到密切接触者超过66万人

  • Plustudy学习加:打造平价、专业的互联网留学语法润色平台

    众所周知,去国外留学,即要重新适应一种语言文化,不管在申请中的文书材料,还是留学中的学业问题,都需要学生有快速适应、学习语言的能力。留学语法润色平台Plustudy曾分析上万份中国学生的英文文章素材,发现语法错误与逻辑混乱,是中国学生普遍存在的问题。而在国外留学中,需要全英文写作的论文是最常见、高占比、高要求的作业,大到论文结构、主旨,小到用词、语法和文献综述都有着非常严格的要求。据了解,83%以上的非英语?

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议