首页 > 业界 > 关键词  > AGI最新资讯  > 正文

“人工智能教父”称:AI存在消灭人类的小风险

2023-03-28 09:57 · 稿源:站长之家

站长之家(ChinaZ.com)3月28日 消息:随着人工智能技术的进步,超级智能机器人的出现越来越成为可能。一些专家称,如果未来的AI系统达到人类智商水平并掌控财政、武器和关键基础设施,将可能摧毁文明或甚至销灭人类。

英国计算机科学家杰弗里·辛顿 (Geoffrey Hinton) 被称为“人工智能教父”。他在神经网络方面的开创性工作通过模仿人类认知过程打破了常规,并继续形成了当今机器学习模型的基础。

机器人 人工智能 AI

在接受CBS 新闻的长篇采访中,Hinton 分享了他对 AI 现状的看法,他认为人工智能正处于“关键时刻”,通用人工智能 (AGI) 的出现比我们想象的更近了思考。

Hinton 说道:“此前,我还认为需要20到50年才能拥有通用人工智能,而现在我认为可能是20年或更短。”

(站长之家注:AGI即Artificial general intelligence的简写,计算机科学与技术专业用语,专指通用人工智能。这一领域主要专注于研制像人一样思考、像人一样从事多种用途的机器。AGI能够自行学习和思考以解决大量问题)。

当前,人们经常提及AGI的预兆来提升当前模型的能力,但不管行业怎样欢呼它的到来,或者它真正到来的时间有多长,Hinton表示我们现在应该仔细考虑它的后果,其中可能包括它试图消灭人类这个小问题。

尽管如此,Hinton仍然坚持认为眼下我们面临的真正问题是,我们已有的AI技术(不管是AGI还是其它)可能会被渴望权力的政府和企业垄断(例如:原本是非营利组织而现在变成了营利组织的OpenAI)。

据Hinton在采访中的说法,人类仍有一点儿时间来化解危机,因为当前公开可用的模型还是相当愚蠢的。“我们现在正处于这个转变点,ChatGPT 是这种白痴学者,它也并不真正了解真相。因为它正试图调和训练数据中不同和相反的观点。这与一个试图拥有一致世界观的人非常不同。”

Hinton预测,“我们将走向能够理解不同世界观的系统”,这很吓人,因为这不可避免地意味着,无论是谁操纵人工智能,都可以用它来推动自己的世界观。

Hinton警告称,“你不想让一家大型营利性公司决定什么才是真的。”

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词: