11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
近年来,随着云计算、大数据、物联网、移动互联和人工智能的发展,智能科技应用不断落地,逐渐走入了人们的日常生活,“云大物移智” 从经济、文化、政治、能源、教育、价值观、生活方式等方面为人类发展提供了全新的机遇,全方位影响着人类社会。仅从人工智能来看, 2018 年,麦肯锡发布的研究报告指出,到 2030 年,人工智能新增经济规模将达 13 万亿美元,对世界经济贡献和全球变革影响不亚于以蒸汽机为引领的第一次工业革命。?
如何防止AI干出不利于人类的事情?阿西莫夫在机器人系列中设定了三个法则,但正如阿西莫夫自己所描述的,机器人是可以不违反特定法则的情况下违反法则意图的。如果人类程序员难以枚举所有的人类价值,那么是否可以让AI去学习人类价值?美国乔治亚理工学院的MarkO.Riedl和BrentHarrison发表了一篇论文(PDF),描述了让AI阅读和理解故事去学习人类的价值。