站长之家(Chinaz.com)9月21日消息 随着互联网逐渐渗入我们的生活，网络暴力问题也越发的严重起来。刻薄、侮辱性的言论在网络上比比皆是，给人们造成了极大的心理伤害甚至是夺走他们的生命。
值得庆幸的是，越来越多的科技公司开始重视这个问题，并尝试通过人工智能技术来排除这些攻击性的言论。据了解，Facebook、谷歌、Twitter都曾尝试过不同的方式来屏蔽骚扰信息：
Facebook 机器学习小组使用机器学习技术监测所有上载到 Facebook 的图片的内容，包括广告的内容，用来过滤其中色情、暴力等内容。
Google 的 SafeSearch(安全检索)功能使用了机器学习来识别色情图片，可给未成年人提供健康正常的网络浏览与检索。
Twitter 收购了两家视觉媒体内容监测创业公司 Madbits 和 Whetlab，运用它们的人工神经网络技术实现色情内容监控。
而近日，谷歌又有新的动作。据外媒报道，谷歌的子公司Jigsaw 宣布推出了一款人工智能软件Conversation AI，可以自动识别标记网络上具有攻击、侮辱性的言论，对其攻击性给予“评分”(100分是极具伤害性的言论，0分表示完全没有伤害的言论)，并自动删除攻击性的言论。
对于这项技术，Jigsaw 团队工程师显得异常自信，他认为Conversation AI 的识别准确率比关键词过滤技术和专人识别都要高得多。据了解，这款软件的准确率约为92%，但仍然存在10%的误判率。
据悉，这款软件将会开放源代码，任何网站都可以利用该人工智能软件来保护用户远离网络暴力。看来，“键盘侠”、网络喷子的末日到了。
（举报）
