首页 > 业界 > 关键词  > 正文

普林斯顿大学教授认为,生成式AI炒作已“失控”

2023-08-24 10:13 · 稿源:站长之家

文章概要:

1. 普林斯顿大学教授认为,目前生成式AI的炒作已经失控,存在许多风险和不道德的开发行为。

2. 作者认为,对不同类型的AI不能一概而论,生成式AI确实 powerful,但不能被过度炒作。

3. 作者建议生成式AI公司应增加 透明度,政府应增加技术人员以更好地监管。

站长之家(ChinaZ.com)8月24日 消息:普林斯顿大学计算机科学专家Arvind Narayanan和他的学生Sayash Kapoor将出版新书“AI Snake Oil”,探讨人工智能领域存在的许多炒作。他们认为,尽管生成式AI取得很大进步,但部分炒作已经失控。

人工智能 AI 机器人 机械手 (1)

Narayanan教授认为,不能将所有类型的AI放在一起考虑,生成式AI确实是一项强大技术,已经为许多人带来好处,但同时也存在很多风险、伤害事件、不道德的开发行为,因此不能过度炒作。

Kapoor认为,与Facebook不同,当前生成式AI公司完全没有 透明度,无法知道用户如何使用这些平台。他建议生成式AI公司应增加透明度报告。

两人还认为,政府应增加技术人才,以更好地监管人工智能。现有法律已经可以覆盖人工智能大部分监管,关键是执行。增加技术人才可以避免法律漏洞。

总之,作者希望人们对不同类型的AI有区分对待,承认生成式AI的进步,但也需要警惕其风险和炒作,通过transparency、政府监管等措施推动生成式AI的健康发展。

举报

  • 相关推荐
  • 大家在看
  • 秒懂生成式AI—大语言模型是如何生成内容的?

    备受关注的大语言模型,核心是自然语言的理解与文本内容的生成,对于此,你是否好奇过它们究竟是如何理解自然语言并生成内容的,其工作原理又是什么呢?要想了解这个,我们就不得不先跳出大语言模型的领域,来到机器翻译这里。传统的机器翻译方式是采用RNN循环神经网络。以上就是大语言模型的工作原理了,强大Transformer的实用性还不止于在自然语言处理领域,包括�

  • 戴尔发布生成式AI工具 提供预训练模型

    科技公司戴尔发布了一款名为“DellValidatedDesignforGenerativeAIwithNVIDIAforModelCustomization”的生成式人工智能工具,旨在帮助企业从数据中提取智能。这一工具的特点在于提供了预训练的模型,用户无需从头开始构建模型,即可快速提取数据中的智能信息。生成式AI模型的定制和微调可以帮助企业更好地利用其数据资源,实现更高效的工作流程和更准确的决策。

  • 加拿大发布关于生成式AI系统的自愿行为准则

    加拿大政府最近发布了一份关于生成式人工智能系统的自愿行为准则,旨在规范这一新兴技术的发展与使用。这一准则对生成式AI系统的开发者和管理者提出了一系列要求,以确保其发展与运营在公平、安全、透明、有人工监督和有效性方面达到一定标准。AIDA法案已经在工业与技术委员会审议中,加拿大政府提出了一系列修改,包括明确定义“高影响”系统类别、为通用AI系统制定特定义务、加强AI系统价值链的区分、明确拟议AI专员的角色,并进行与欧盟和其他OECD法域立法一致的修改,以确保加拿大企业能够与其他法域互操作并进入国际市场。

  • 《洛基》第二季宣传海报遭争议 涉嫌使用生成式AI

    Disney的《洛基》i第二季宣传海报引发了一场轩然争议,原因是有人声称该海报部分使用了生成AI技术。这一争议是由插画师KatriaRaden在社交媒体上引发的,她指出了海报背景中的螺旋时钟图案可能是通过生成AI创作的,因为其显示出典型的AI生成特征,如图像中出现无意义的曲线和线条。Disney并没有回应关于是否在Loki宣传艺术中使用了AI以及公司是否已获得了上述Shutterstock图片的许可的请求。

  • 密歇根大学发布UM-GPT等3款生成式AI产品并应用于教学

    美国顶级公立大学密歇根大学发布了3款自主研发的生成式AI产品,用于支撑学校的教学、行政管理和学术科研等工作,这在高等教育机构中具有开创性的意义。密歇根大学推出了UM-GPT,这是一个类似ChatGPT的问答机器人,能够回答各类问题,自动总结文本,甚至可以根据用户喜好推荐影视作品或音乐。虽然仍需关注潜在的安全隐患,但这一举措无疑为其他高校智能化提供了宝贵借鉴。

  • 毕马威:72%的CEO认为生成式AI是最重要的投资优先事项

    咨询公司KPMG最近发布的一份报告凸显出,首席执行官们对人工智能的兴奋程度前所未有,同时也认识到了一些重要的担忧。令人印象深刻的是,有72%的首席执行官在受访时表示,对生成式AI的投资是他们公司的最重要优先事项。77%的首席执行官表示,关于生成式AI的监管程度应该与气候承诺的监管程度相符。

  • 首个生成式AI安全指导性文件发布 包含31项安全要求

    最新发布的生成式AI安全规定明确了31项安全要求,只有符合这些要求的生成式AI服务提供者才能“持证上岗”。这一规范涵盖了语料安全、模型安全、安全措施和安全评估等四大关键领域。这对于保护用户权益和社会安全具有重要意义。

  • 调查显示:超一半新西兰Z世代员工正使用生成式AI工具

    Kordia委托Perceptive开展的一项独立调查显示,超过一半的Z世代新西兰员工正在使用像ChatGPT或DalleE这样的生成式AI工具,其中超过四分之一的人表示已经将其用于工作。然值得注意的是,只有五分之一的受访者意识到AI使用存在网络安全或隐私风险。与任何新技术一样,不要盲目采用是定义想要实现的价值或结果,这样才能有效和安全地在组织中实现它。

  • 用文本就能直接P图,Adobe全面开放生成式AI

    10月10日,全球多媒体软件领导者Adobe在官方宣布,在Photoshop、Illustrator、AdobeExpress等产品中,正式发布生成式AI功能Firefly。Firefly是Adobe在今年3月发布的一款文本生图产品,用户通过文本就能生成3D、平面、素描等多种类型图片,与Midjourney的使用方法、功能类似。Firefly无论对于专业设计师还是小白,在图片生成、处理方面帮助非常大。

  • 超70%新闻机构认为,生成式AI为新闻业带来新机遇

    一份由伦敦政治经济学院的JournalismAI计划发布的新报告显示,生成式AI对新闻业带来了新的机遇。这份报告在2023年4月至7月之间对来自46个国家的100多家新闻机构进行了调查。一位来自菲律宾的受访者评论道:“AI技术主要以英语为主要语言开发不是许多亚洲语言...我们必须加倍努力来创建能够使用我们本地语言的AI系统。

今日大家都在搜的词:

热文

  • 3 天
  • 7天