首页 > 传媒 > 关键词 > AI鉴黄师最新资讯 > 正文

AI鉴黄师:依靠人工智能提高效率鉴黄

2017-03-21 13:55 · 稿源:站长之家用户投稿

漫画/视觉中国

几位“鉴黄师”在直播现场

一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/中新网

金羊网记者 龚卫锋

前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。

背景

“网络监管加强,

越来越多直播平台请鉴黄师把关”

“快播被禁”堪称 2014 年的年度事件。 2014 年 4 月 16 日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年 8 月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于 8 月 8 日被依法抓捕归案。

“国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”

“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”

国家对直播平台的监管也在逐渐加强,去年 4 月 13 日,百度、新浪、搜狐等 20 余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于 15 天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行 24 小时实时监管。

《互联网直播服务管理规定》 2016 年 12 月 1 日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为 30 秒。

工作

“机器帮忙识别色情信息,实时监控直播的越轨举动”

邓柯介绍:“视频直播的利润空间之大,普通人难以想象。比如一个以喊麦著称的主播,办一场活动号称‘日薪百万’,很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉,一些美女主播为了维持足够的用户粘度,常常一段直播长达两小时,甚至有人曾表演长达 8 小时的丝袜舞,平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时,往往能收获很多礼物,折合成人民币数额相当可观,于是一些美女主播不时打打“情色”擦边球。

去年 11 月 28 日,女主播“雪梨枪”因传播色情视频内容被判有期徒刑 4 年,给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌,以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的:“人有需求很正常,但释放途径要得当,利用这一点做违规、违法的事情很不好。”

周耀辉表示,直播平台对于“AI鉴黄师”的需求量很大:“因为直播是实时性的,随时可能有人做出越轨举动,机器(系统)会把视频实时导出成一张张图片,以方便鉴别。”不过,各个平台的尺度不一样,姜泽荣说:“我们把机器给直播平台使用,但他们在调用时选择的尺度是不同的。”

“内容管控是个世界性课题,很多人觉得海外网络管控很松,可以随意浏览色情网站,其实这是一种误解,不少国家和地区的管控相当严格,比如在实名认证的情况下,Google Play对色情是零容忍的,而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。

有人责难“鉴黄师”,认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为,在尚未“分级”的情况下,“宁可错杀一千,也不能放过一个”,而“一刀切”目前看来是必要的,必须防止色情视频对青少年身心健康的危害,但他们希望另一方面,“性教育”也该完善。他表示:“我们调查也发现,很多家长没有正确引导孩子,一味压抑也是不对的。”

在机器和人的努力下,如今色情直播现象明显少了很多,“我们平台数据显示,现在直播过程中,出现色情内容的比例是万分之四。”邓柯说。

感受

“安静理性适合当鉴黄师,

太活泼的人干不了”

“刚开始做这份工作有些不适应,当你打开屏幕,满屏都是不堪入目的内容,我整个人都凌乱了。”姜泽荣的同事毛毛,是这次斗鱼直播节目《职男职女职播》的一位嘉宾,“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。

姜泽荣被同事称为“老司机”,是AI鉴黄的元老。“公司刚成立时,部门只有四个人,加班非常多,一天起码有六个小时在搜集数据,简单说,就是看黄图、黄片,然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求,太活泼的人当不了鉴黄师,性格安静、理性的人比较适合。”姜泽荣说。

2013 年,百度、腾讯、金山等 10 多个互联网公司组成的“安全联盟”,公开招聘“首席淫秽色情鉴定官”,条件是年薪 20 万元、五险一金、每天有酸奶水果福利,工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷,但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道:“说当‘鉴黄师’是件很酷的事情的人,都不了解这个职业。凡事都有个度,什么事都耐不住天天看啊!”姜泽荣解释,“鉴黄”只是他工作的一部分,他们还在开拓其他智能识别项目。

“我们组有 6 个人,全是男性,都不会跟外界说自己是‘鉴黄师’,因为对很多人来说,这不是什么很好的工作,说出去会影响别人对你的看法。但另一方面,净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的,如今还有种高大上的说辞——“我在做‘人工智能’。”

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • 抢茅台催生黄牛新业务 有黄牛网上出让抢购软件

    作为国民心目中的”硬通货“,茅台在市场上一直很抢手。临近春节期间,更是掀起了茅台的抢购热潮。虽然电商以及多家连锁超市在年底投放了大量的平价茅台,但不少市民反映依然很难买到平价茅台。

  • 《JOJO的奇妙冒险》改编手机游戏定名《黄金赞歌》

    盛趣游戏宣布,《JOJO 的奇妙冒险》动画系列正版授权手机游戏正式定名为《JOJO 的奇妙冒险 黄金赞歌》,并正式公开官方网站。此外,官方也宣布将参展1月1日至1月2日在上海举办的 COMICUP27。

  • 扫黄打非办处罚B站6次

    今日,全国“扫黄打非”办公室通报了对B站监管工作情况。扫黄打非办称,随着B站的影响日益扩大,“扫黄打非”部门也在其成长过程中发现了不少问题。相关执法部门曾先后对其刊载儿童“邪典”、违规境外动画片、违规使用境外音视频素材、违规广告、多款游戏角色形象暴露、内容低俗等问题进行整治。

  • 扫黄打非十大网络话题

    今日,全国“扫黄打非”办公室发布了2020年“扫黄打非”十大热点网络话题,包括了:“国内版N号房”事件、“全民K歌”涉色情低俗被罚、扫黄打非办约谈B站、淫秽漫画作者JM被刑拘等事件。

  • LOL云顶之弈10.25黄金三国上分阵容攻略 黄金三国阵容运营思路

    英雄联盟的云顶之弈10.25版本中,三国阵容的强度一直都是非常不错的,今天就来为大家分享一下黄金三国的S级阵容上分攻略。

  • 使命召唤手游国服上线!飞智黄蜂2带你冲锋上战神!

    风靡全球的3A级手游大作《使命召唤手游》正式上线,历经了一年半之后的等待,终于与国服玩家见面。手游里把《使命召唤》端游中最经典的战术团队竞技完美重现,超快节奏的团队对抗、超爽的击杀征服,相比于《和平精英》的吃鸡模式,对FPS新手玩家更加友好。而《使命召唤手游》作为经典第一人称视角射击精品游戏,功能按键多达24个,在手机几寸的屏幕界面上显得异常复杂,在快节奏的战斗中,虚拟按键非常容易出现误操作,尤其在手部?

  • 魅族售后全方位安心保障 黄章的这部魅族17让你不再犹豫

    在手机面临同质化越来越严重的时代,拥有一款精美又与众不同的手机是十分难得的,好在魅族17就是这样的5G旗舰手机,从这款手机身上,我们可以看到今年黄章针对魅族手机产品线做出了极大调整,魅族17实力强大,且设计也极尽心思,售后服务也不错,全方位提供更好的手机使用体验。魅族17设计精美今年每一个行业的发展都非常不容易,想要打败众多对手,从市场之中脱颖而出,魅族17首要就是在外观造型上花心思,相比往年的魅族新机,魅

  • 公益助学,传递温暖 | ATFX连续3年爱心帮扶云南黄家寨小学

    一张平整的信笺,一行行工整的文字,表达了一位老师对ATFX的感激之情。日前,差价合约经纪商ATFX收到了一封来自云南省芒市中山乡黄家寨小学的感谢信。在信中,学校代表孙老师表示:“本次捐赠的物资解了本校之难,学生接过物资时的笑容,是那么的纯真……再次感谢ATFX对中山乡黄家寨小学的物资捐助,我校学生一定会在希望中健康快乐的成长。”这是ATFX众多荣誉中的一项,也是近年来ATFX关注贫困地区师生健康成长,热心公益助学的明?

  • 全球AI大咖齐聚清华畅谈AI治理 旷视:多元共治与企业自律缺一不可

    聚焦AI治理, 2020 年 12 月 18 日至 19 日,由清华大学人工智能国际治理研究院(I-AIIG)主办、联合国开发计划署(UNDP)作为国际支持机构的首届《清华大学人工智能合作与治理国际论坛》拉开帷幕。论坛汇聚了AI领域近 70 位领军人物和 60 多家机构,共同探讨人工智能技术带来的机遇和挑战,交流国际治理智慧。旷视作为人工智能治理的积极倡导者和务实推动者,受邀出席“后疫情时代的人工智能国际治理展望”专题讨论,与国内外AI大

  • 魔兽世界9.0全谱系驱魔师成就全部九个训练师打法攻略

    魔兽世界9.0有个全谱系驱魔师的成就,需要你打败九个训练师,很多玩家还不清楚这九个训练师怎么打,下面就来为大家分享一下攻略。

  • 黄鹂智声通话降噪耳机亮相蓝鲸财经第七届记者年会,又一需求场景被挖掘

    12月26日,由上海报业集团指导,蓝鲸财经主办,界面新闻、财联社、科创板日报协办的第七届蓝鲸记者年会在京举办。此次记者会以"乘风破浪"为主题,会上黄鹂智声等多家品牌亮相,约500媒体人到场参加。"声音是灵魂的音乐",可见声音在传递感情方面的重要作用,不仅如此,声音还可以作为历史真实的记录,反映最真的现实。从最早的广播电台、电视、再到现在的短视频和新媒体,都离不开文字与声音的传播。进入互联网时代以来,由于生活?

  • 2020中国年度AI评选结果揭晓!AI落地最佳参考就在这里

    在量子位MEET 2021智能未来大会的现场,50大领航企业、10大明星创业公司、30大商业领军人物、10大最佳产品、10大最佳解决方案、5大社会责任榜样,以及5大最佳技术社区等年度奖项悉数颁出。今年10月,量子位正式开启年度评选。今年,我们从更多维度出发,寻找优秀的公司、商业化代表人物、极具创新力的产品/解决方案和优质的技术社区。 在过去3个月时间里,共有数百家企业、机构和个人报名参与评选。 最终,以真实数据为基础,结?

  • 麦迪卫康(02159.HK):黄金赛道里的低估值上市品种,静待股价起跑

    近期,年仅 25 岁的小魔仙凌美琪扮演者疑似心梗猝死引发热议,而心脑血管疾病这个危险的高发生、高死亡的常见病也再次成为全民关注的健康热点。 近年来,随着经济水平的提高和人口老龄化的发展,以及青少年不健康的生活习惯等因素刺激,心脑血管疾病的发病率呈现明显的升高趋势。据灼识报告, 2019 年,中国约有3. 91 亿名心脑血管疾病患者,占中国总人口约26.8%,中国心脑血管疾病患者人数预期将进一步增至 2024 年的约4. 29 亿

  • AI机器宠物 治愈孤独的良药还是情感疏离的帮凶?

    如果有一只不掉毛、无异味、不需每天带牠出门散步、身体强健不易生病、活泼好动、反应敏捷、忠心耿耿、聪明听话的狗狗出现在面前,喜爱动物的你,愿意饲养它吗?相信大多数爱狗者会点头。

  • 黄章进军智能照明灯具领域,魅族Lipro智能灯具诠释健康之选!

    在人类发展历程之中,从一开始火带来的光,到如今电灯带来的光,可以说,人类历史的画卷展开是在灯光照明见证下发生的。在1月5日,魅族科技为旗下首款魅族Lipro健康照明系列产品召开了发布会,共推出了八款全新健康照明系列产品。据了解,这八款产品分别包括了Lipro LED智能吸顶灯、Lipro LED筒灯、Lipro LED灯泡、Lipro LED灯带、Lipro LED地脚灯、Lipro LED橱柜灯以及Lipro无极调光面板、Lipro驱动电源两款配件。目前在售的有六?

  • 网易易盾入选 2020 最佳 AI 新基建年度榜,获【最佳 AI 内容审核奖】

    新基建,或许是人类历史上,最大规模的信息工程项目。2008年,4万亿的老基建投资,为中国锻造出世界一流的高铁、桥梁、超高压输电等工程能力。2020年的新基建,则会把中国人工智能产业,正式推向全球科技的浪潮之巅。“如果一项技术被授予图灵奖,那就说明这个领域的开拓已经结束,到了修修补补和大规模应用的阶段。”当前人工智能与深度学习,正如产学两界打趣所言:在获得图灵奖之际,迎来了基础研究的至暗时刻,也迎来工程应用?

  • 小猿口算提供拍照与AI批改功能,获得广大用户好评

    随着互联网高速发展,线上教育模式成为广大用户的选择,也因此用户对在线教育APP需求持续增长。以小猿口算为例,凭借其强大的AI批改功能,真正做到为家长、为老师减负,成为用户不二选择。小猿口算作为猿辅导在线教育旗下针对小学生家长、老师用于批改作业的一款教育APP,于 2017 年 12 月正式上线。自上线以来,小猿口算旨在“让检查不再繁琐,让学习不再枯燥,让批改变得高效”,据统计,小猿口算已拥有超过 5000 万的家长和老师

  • RTFChain | 实现区块链上的医疗服务

    目前我国的国民医疗健康管理过程中,数据的共享和安全性是一直以来难以解决的问题。具体表现在个人的医疗数据、健康数据在体检机构、医疗机构、基层社区、医药企业等各类型机构之间是不可以分享的,造成这种局面的原因既有数据技术的壁垒问题,也有出于个人隐私泄露风险的问题。 针对以上难题,RTFChain 团队利用区块链技术在医疗健康领域中实现的四个应用: 1、电子健康病例 用户在不同医院就诊时的记录是被保存在各医院内的,不

  • 用AI为童心筑梦 看阿尔法词典笔的岁末“笔”迹

    12月28日上午,安徽淘云科技有限公司(简称:淘云科技)走进合肥市高新创新实验小学教育集团第二小学、第三小学,为国旗下的师生们带来了特殊的新年礼物——淘云科技旗下的明星产品阿尔法蛋词典笔。此次入校捐赠活动,是淘云科技继走进合肥市屯溪路小学、安徽金寨县希望小学、合肥高新创新实验小学等小学之后,用AI助力校园信息化建设的又一次公益实践。作为一所高起点公办小学,合肥高新创新实验小学教育集团在坚持现代化教育理念?

  • AI深度赋能 榕树贷款精准匹配信贷供需

    作为新一轮科技革命和产业变革的重要驱动力,人工智能已转化为日常生活、生产中实实在在的应用,数字让生活更智慧、科技让生产更智能。 人工智能技术正在加速应用于各个领域。在金融行业,人工智能技术应用的广度和程度都在不断加深。 具体来说,人工智能核心技术包括机器学习、知识图谱、自然语言处理、计算机视觉等,这些技术的应用,能够为金融业的各参与主体、各业务环节赋能,助力金融业的产品创新、流程再造,加速服务升级?

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签