“键盘侠”再见!谷歌宣布推出人工智能软件以打击网络暴力

2016-09-21 17:20 稿源:站长之家  0条评论

站长之家(Chinaz.com)9月21日消息 随着互联网逐渐渗入我们的生活,网络暴力问题也越发的严重起来。刻薄、侮辱性的言论在网络上比比皆是,给人们造成了极大的心理伤害甚至是夺走他们的生命。

值得庆幸的是,越来越多的科技公司开始重视这个问题,并尝试通过人工智能技术来排除这些攻击性的言论。据了解,Facebook、谷歌、Twitter都曾尝试过不同的方式来屏蔽骚扰信息:

Facebook 机器学习小组使用机器学习技术监测所有上载到 Facebook 的图片的内容,包括广告的内容,用来过滤其中色情、暴力等内容。

Google 的 SafeSearch(安全检索)功能使用了机器学习来识别色情图片,可给未成年人提供健康正常的网络浏览与检索。

Twitter 收购了两家视觉媒体内容监测创业公司 Madbits 和 Whetlab,运用它们的人工神经网络技术实现色情内容监控。

而近日,谷歌又有新的动作。据外媒报道,谷歌的子公司Jigsaw 宣布推出了一款人工智能软件Conversation AI,可以自动识别标记网络上具有攻击、侮辱性的言论,对其攻击性给予“评分”(100分是极具伤害性的言论,0分表示完全没有伤害的言论),并自动删除攻击性的言论。

对于这项技术,Jigsaw 团队工程师显得异常自信,他认为Conversation AI 的识别准确率比关键词过滤技术和专人识别都要高得多。据了解,这款软件的准确率约为92%,但仍然存在10%的误判率。

据悉,这款软件将会开放源代码,任何网站都可以利用该人工智能软件来保护用户远离网络暴力。看来,“键盘侠”、网络喷子的末日到了。

有好的文章希望站长之家帮助分享推广,猛戳这里我要投稿

相关文章

相关热点

查看更多