首页 > 业界 > 关键词  > 塔夫茨大学最新资讯  > 正文

研究人员开发计算机模型 试图解释错误信息传播方式并提出应对措施

2022-01-14 07:58 · 稿源: cnbeta

塔夫茨大学的研究人员提出了一个计算机模型,该模型显示了错误信息在现实生活中的传播方式。研究人员说,这项工作可能为如何保护人们免受当前威胁公众健康和民主健康的错误信息传染提供启示。

我们的社会一直在努力解决对阴谋的广泛信仰、日益严重的政治两极化和对科学发现的不信任。这个模型可以帮助我们掌握错误信息和阴谋论是如何传播的,以帮助提出应对策略。研究信息传播的科学家们从流行病学家那里得到启发,开发了模型来研究错误信息如何通过社会网络传播。

Computer-model-seeks-to-explain-the-spread-of-misinformation-and-suggest-counter-measures-.jpg

塔夫茨大学的研究人员将他们的模型建立在这样一个概念上:我们预先存在的信念会强烈影响我们是否接受新的信息。许多人拒绝有证据支持的事实性信息,如果这些信息与他们已经相信的东西相差太远。医护人员对这种影响的强度进行了评论,他们观察到一些死于COVID的病人坚持认为COVID并不存在。为了在他们的模型中说明这一点,研究人员为人工社会网络中的每个人分配了一个"信念"。为了做到这一点,研究人员在计算机模型中用0到6的数字表示个人的信念,0代表强烈不相信,6代表强烈相信。这些数字可以代表任何问题上的信仰光谱。例如,人们可能会认为数字0代表强烈不相信COVID疫苗有帮助和安全,而数字6可能是强烈相信COVID疫苗事实上是安全和有效的。

然后,该模型创建了一个由虚拟个人以及虚拟机构来源组成的广泛网络,该网络中的许多信息都是由这些虚拟机构提供的。在现实生活中,这些人可能是新闻媒体、教会、政府和社交媒体影响者,基本上是信息的超级传播者。这个模型从一个机构来源开始,将信息注入网络。如果一个人收到的信息与他们的信念相近,例如,与他们目前的6级相比,5级,他们就有更大的概率将该信念更新为5级。如果收到的信息与他们目前的信念相差很大,例如,与6级相比,2级,他们可能会完全拒绝,并坚持他们的6级信念。

虽然目前的模型表明信仰只能逐步改变,但也可以模拟其他情况,导致信仰的更大转变。例如,当影响者发生戏剧性事件,他们恳求其追随者改变主意时,就会出现从3到6的跳跃。研究人员说,随着时间的推移,计算机模型可以变得更加复杂,以准确反映实地发生的情况。研究人员表示,现在越来越清楚的是,仅仅广播事实信息可能不足以对公众心态产生影响,特别是在那些被锁定在不以事实为基础的信仰体系中的人。

举报

  • 相关推荐
  • 韩国研究人员开发小样本学习模型,仅凭脑波数据就能发现人的意

    韩国Daegu科技大学机器人与机械工程系的SanghyunPark教授领导的研究团队宣布,他们已经成功开发了一种小样本学习模型,仅需少量信息就能够准确分类脑波。这一突破性的研究可能会对未来与脑波相关的研究产生积极影响。这一研究的突破性将有望在未来的医疗和脑机接口领域产生深远的影响,为更好理解和应用脑波数据打开了新的可能性。

  • Meta研究人员提出轻量级微调方法RA-DIT 以增强语言模型知识检索能力

    Meta的研究人员提出了一种名为检索增强双指令调优的新型人工智能方法,用于提升语言模型的知识检索能力。该方法试图解决大型语言模型在捕获较为冷门知识时的局限性以及大规模预训练的高计算成本问题。该研究证明了轻量级指令调优对检索增强语言模型的有效性,特别是在涉及大规模外部知识源的场景中。

  • AI研究人员发现了主要大语言模型中关键漏洞 可低成本复制

    大型语言模型如ChatGPT和Bard在全球范围内引起了广泛的关注,众多公司投资数百万美元用于开发这些人工智能工具一些领先的AI聊天机器人的估值已达到了数十亿美元。这些LLM主要被应用于AI聊天机器人,它们通过整合互联网上的大量信息来学习和为用户提供请求的答案,这些请求通常被称为“提示”。”这项研究为我们提醒了虽然AI技术带来了巨大的机会,但也伴随着一系列潜在的威胁,因此必须谨慎行事。

  • 微软研究人员用儿童故事进行训练:微型语言模型进入成熟期

    学习英语并不容易,许多学生都深有体会。但当学生是一台计算机时,有一种方法表现出奇地出色:只需将大量来自互联网的文本输入到一个名为神经网络的巨大数学模型中。他们的研究结果暗示了可能有助于训练更大型模型并理解其行为的新研究方向。

  • 研究人员推出深度学习模型RECAST 改进地震预测

    来自加州伯克利分校、圣克鲁斯分校以及慕尼黑工业大学的研究人员发表论文,阐述了一种崭新的模型,将深度学习引入地震预测领域。该模型被命名为RECAST,相比自1988年问世以来改进有限的当前标准模型ETAS,RECAST可利用更大的数据集,提供更高的灵活性。你会看到它朝着正确的方向发展。

  • 斯坦福大学研究人员提出MAPTree算法,改进决策树建模

    决策树是一种广泛使用的著名机器学习算法,可用于分类和回归任务。斯坦福大学的研究人员在最新论文中提出了一种称为MAPTree的决策树归纳算法,这是基于贝叶斯决策树理论的一种改进方法。这项突破不仅利于决策树算法本身的发展,也为决策树在数据挖掘等领域的应用带来了新的契机。

  • DeepMind研究人员发现,深度学习模型像和音频压缩方面表现出色

    Google旗下的人工智能子公司DeepMind发布的一项研究表明,大型语言模型除了在文本数据处理方面表现出色之外具备出色的图像和音频数据压缩能力。这一发现为重新审视LLMs的潜力提供了新的角度。这表明LLMs的性能与数据集的大小有关,压缩率可以作为评估模型对数据集信息学习的指标。

  • 研究人员发现使用少见语言即可绕过GPT-4的限制

    布朗大学的计算机科学研究人员发现了OpenAI的GPT-4存在的安全性问题。通过使用不常见的语言,如祖鲁语和盖尔语,他们成功绕过了GPT-4的限制性设置。尽管他们意识到这一研究可能会给网络犯罪分子提供想法,但他们仍然认为将这一漏洞公之于众是必要的,因为利用现有的翻译API轻松实施这些攻击,因此那些试图绕过安全防护的恶意行为者最终会发现这一漏洞。

  • 中国研究人员提出DualToken-ViT:CNN和视觉Transformer的融合,提高像处理效率和准确性

    视觉Transformer成为各类视觉任务如物体识别和图片分类的有效架构。这是因为自注意力可以从图片中提取全局信息卷积核大小限制了卷积神经网络只能提取局部信息。他们的贡献有:1)提出了紧凑高效的视觉Transformer模型DualToken-ViT,通过卷积和自注意力的优势实现有效的注意力结构;2)提出位置感知全局令牌,通过图像位置信息来增强全局信息;3)DualToken-ViT在相同FLOPs下在多个视觉任务上表现最好。

  • 特斯拉为「Dojo」超级计算机建造新家:AI 野心持续升级

    特斯拉的Gigafactory不断发展扩张该公司在德克萨斯州奥斯汀的工厂中出现的一个建筑结构近日引起了一些关注。有人称这个新建筑可能将用于容纳特斯拉的Dojo超级计算机集群的操作,以训练公司用于完全自动驾驶系统的人工智能神经网络。这个计算集群有望在明年初成为全球最强大的超级计算机之一。