首页 > 数码 > 关键词  > 人工智能最新资讯  > 正文

如何对抗网络暴力?人工智能就能搞定

2018-12-19 15:54 · 稿源: 手机中国

  加州大学伯克利分校的科学家们正在开发一种利用人工智能识别社交媒体上的“仇恨言论”的工具,研究人员希望该项目能够在Twitter、Reddit和其他在线平台上识别出过于偏执的评论。

  加州伯克利分校D-Lab的科学家们正在与反诽谤联盟合作开发'可扩展检测'系统,根据加州校友协会的报道,该系统通过在线仇恨指数(OHI)来识别仇恨言论。除人工智能之外,该计划还将使用其他不同的技术在线检测攻击性言论,包括“学习型机器、自然语言处理和更为传统的人脑”。研究人员的目标是,有一天能够这项技术被“主要社交媒体平台”采纳,这样就能从中发现“仇恨言论”并彻底消除这些言论,以及这些传播用户。

  目前的技术主要涉及“关键词搜索”的使用,一位研究人员表示:“这一方法过于直率,不够准确。”一个不同的拼写方式就能轻松骗过这一算法。D-Lab最初招募了来自全国各地的十名不同背景的学生来“编写”这些帖子,标记那些明显或巧妙地传达仇恨信息的人。从原始学生群体获得的数据被输入到学习型机器模型中,最终产生的算法可以识别拥有仇恨信息的文字,其准确率为85%,仅有15%的几率,无法识别出或错误标记攻击性词语和短语。

  虽然最初的十位编码员只能自行评估,但他们会接受调查问题,以帮助他们将仇恨言论与仅仅是令人反感的语言区分开来。一般来说,“仇恨评论”与特定群体相关,而“非仇恨”语言与特定个体相关,而不涉及宗教、种族、性别等。

  • 相关推荐
  • 大家在看
  • 人工智能如何助力有孚网络云计算数据中心扛起“双碳”目标

    在碳中和、碳达峰目标下,传统数据中心向新型数据中心的转型正引起越来越多的关注。据统计, 2020 年国内数据中心总用电量达到1969. 6 亿千瓦时。预计至 2023 年,中国数据中心总用电量将达到2667. 92 亿千瓦时,年复合增长率达到10.64%。数据中心行业面临巨大能源压力,数据中心加强节能减排已刻不容缓。数据中心从诞生到现在,一直在不断演进和升级。如今随着人工智能、深度学习与数据中心的融合,以AI代表的智能化技术成为数据?

  • 沈向洋:我们必须探索如何和人工智能共生存

    在“2021IDEA大会”上,IDEA创院理事长、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋表示,“我们都是AI时代的原住民,必须探索未来如何和人工智能共生存共成长。”

  • 人工智能的未来,是为不断基于人类需求而战的科学

    究竟什么是人工智能?影视作品早已给过我们答案:在一个漆黑的夜晚,两辆汽车砰地相撞,掉进水里;一个机器人正好路过,看到了这场车祸并发现了车中陷入危险的人。机器人发现车祸的过程,这就是感知智能。这个机器人游到一个黑人警察的车外,一拳打碎车门,“救她!救那个女孩!”黑人指的另外一辆车中的女孩大喊,机器人没有理会,而是一把将黑人拉出窗外,因为机器人判断黑人生存的概率是45%,而女孩不到11%。机器人判断出二者生存概?

  • 当云计算遇见人工智能:决策智能的价值实现之路

    当AlphaGo在与人类的对弈中布下第一手棋,决策智能的时代便按下了不可逆转的启动键。近年来,决策科学从一个新兴学科一跃成为业内发展最快、应用最广泛的领域。随着云计算和人工智能快速发展,运用数据科学的力量由机器帮助人们做决策成为了可能。在萨摩耶云首席科学家王明明看来,云计算和人工智能的关系更像是血液与神经系统。他形象地把云计算比喻为动力单元,把人工智能比喻为头脑单元,只有当“动力”与“头脑”充分融合与协?

  • 城市的人工智能计算中心有多重要

    今年是“十四五”规划实施的第一年,在“十四五”规划中,对数字化、智能化在社会、经济、产业转型升级中的重大价值给予了高度肯定。这其中人工智能技术作为新一轮产业变革核心驱动力,在加快产业升级、经济转型、社会治理上起到尤其重要的作用。人工智能是一项新兴产业,是未来科技发展和科技竞争的焦点。关键技术“要不来、买不来、讨不来”,在人工智能领域,中国也有其明显的技术优势和应用优势,在人工智能科技发展的进程中,

  • 哈佛研究人员利用人工智能帮助阻止世界各地的偷猎行为

    哈佛大学约翰-A-保尔森工程与应用科学学院的徐莉莉(Lily Xu )从小就知道环境和保护对她来说是多么重要。9岁时,她已经决定吃素,因为正如她所说,“我不想伤害动物。”徐莉莉长大后认为她的热情将永远与她对计算机科学的专业兴趣分开。然后她成为了 Milind Tambe的Teamcore实验室的一名研究生,之后一切都改变了。徐莉莉现在正在进行的研究是利用机器学习和人工智能来帮助世界各地的保护和反盗猎工作。她最近的论文"野生动物保护

  • 美联邦法院阻止德州禁掉社交媒体上的“观点歧视”法律

    获悉,美一位联邦法官阻止了一项旨在限制大型社交平台调节内容能力的德克萨斯州法律,理由是它可能违反了《第一修正案》。奥斯汀联邦地区法院于当地时间周三晚发布的命令批准了NetChoice和CCIA提出的禁令,这将HB20法律搁置到案件结束。“HB20对‘审查’的禁止和对社交媒体平台如何传播内容的限制违反了《第一修正案》,”Robert Pitman法官在裁决中做出决定,“通过减少有害内容和提供安全、有用的服务,内容审核和策划将有利于用

  • 澳洲制定新法律要求社交媒体提供诽谤者的姓名和联系信息

    澳大利亚联邦政府正在起草的新法律,社交媒体公司可能被迫披露匿名用户的身份,以打击网上诽谤行为。立法草案将于本周发布,预计将于明年提交给议会。社交媒体公司将被要求为那些认为自己在网上被诽谤的人建立一个投诉程序。如果人们想采取法律行动,法律将允许法院强迫公司交出用户的身份。这些法律将要求社交媒体公司收集所有用户的详细信息,并允许法院强迫公司交出用户的身份,以帮助诽谤案件。社交媒体公司也将为其发布的用户

  • 摩尔线程与一流科技深度合作,共同加速人工智能创新和应用

    摩尔线程与北京一流科技有限公司(简称:一流科技)将展开深度技术合作,基于摩尔线程国产全功能GPU强大的计算能力及一流科技OneFlow深度学习框架的高效特性,为AI应用提供非凡加速性能。摩尔线程GPU将为OneFlow提供高性能算力支持,助力提升AI用户体验,共同打造更好的AI 行业解决方案。在此基础上,双方还将共建共享生态,助力中国人工智能行业发展。深度学习是近年兴起的人工智能研究方向,企业进行深度学习模型的训练和部署时?

  • 人工智能驱动的搜索引擎You.com将对抗谷歌

    You.com自称是世界上第一个开放的搜索引擎,今天宣布推出公开测试版,并获得了由Salesforce首席执行官Marc Benioff领投的2000万美元资金,Breyer Capital、Sound Ventures、Day One Ventures等也参与其中。该公司表示,这些资金将用于用户增长、产品和技术,因为You.com将其平台扩展到公共网络上的新用户。随着经济向网上发展,You.com断言,互联网正变得更加集中,并被少数强大的、心怀叵测的科技公司控制。相比之下,You.com联合

这篇文章对你有价值吗?

  • 热门标签

热文

  • 3 天
  • 7天