首页 > 业界 > 关键词 > 人工智能最新资讯 > 正文

游戏显示人机协作的“黑暗面” OpenAI要求Latitude立即采取行动

2021-05-10 12:08 · 稿源:cnbeta

据外媒WIRED报道,2019年12月,犹他州创业公司Latitude推出了一款名为《AI Dungeon》的先锋网络游戏,展示了一种新的人机协作形式。该公司利用人工智能公司OpenAI的文本生成技术,创造了一个由《龙与地下城》启发的自选冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时,算法将为他们的个性化、不可预测的冒险制作下一阶段的内容。

去年夏天,OpenAI让Latitude提前接触到了其技术的更强大的商业版本。在营销材料中,OpenAI将《AI Dungeon》作为编写算法的商业和创意潜力的一个例子来吹捧。

上个月,OpenAI表示,它发现《AI Dungeon》也显示了人类与AI合作的“黑暗面”。一个新的监控系统显示,一些玩家输入的词语导致游戏产生了涉及儿童的性爱故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官Sam Altman在一份声明中说:“在某些情况下,内容审核的决定是困难的,但这一次不是。这不是我们任何人想要的人工智能的未来。”

上周,Latitude开启了一个新的审核系统,并在其用户中引发了反感。一些人抱怨它过于敏感,他们不能在不触发警告信息的情况下提及一台“已使用8年的笔记本电脑”。另一些人说,该公司计划手动审查被标记的内容,这将不必要地窥探私密的、虚构的创作,这些创作是色情的,但只涉及成年人--这是AI Dungeon的流行使用案例。

简而言之,Latitude试图将人和算法结合起来,对由人和算法产生的内容进行监管,结果变成了一团糟。在Twitter和AI Dungeon的官方Reddit和Discord社区,愤怒的模因和关于取消订阅的说法纷至沓来。

“社区感到被背叛了,Latitude会扫描并手动访问和阅读私人虚构的文学内容,”一位AI Dungeon的玩家说,他的名字叫Mimi,并声称在AI的帮助下,估计总共写了超过100万字,包括诗歌、暮光之城的模仿和情色冒险。Mimi和其他不高兴的用户说,他们理解该公司对公开可见的内容进行监管的愿望,但他们说该公司做得太过分了,毁掉了一个强大的创造性游戏场所。Mimi说:"它使我能够探索我心理的某些方面,而我从未意识到这些方面的存在。

Latitude发言人说,其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾禁止那些他们得知利用AI Dungeon产生以儿童为主角的性内容的玩家。但在OpenAI最近的警告之后,该公司正在进行 “必要的改变”,该发言人说。Latitude公司上周在一篇博客文章中承诺,AI Dungeon将 “继续支持其他NSFW内容,包括双方同意的成人内容、暴力和亵渎”。

阻止人工智能系统创建某些类型的性或成人内容,同时允许其他内容,将是困难的。像OpenAI这样的技术可以生成许多不同风格的文本,因为它是使用机器学习算法构建的,这些算法已经消化了从网络上获取的数十亿字中的语言使用统计模式,包括不适合未成年人的部分。该软件能够进行惊人的模仿,但并不像人们那样理解社会、法律或流派类别。

OpenAI在2019年年底将其文本生成技术作为开源技术发布,但在去年将一个大幅升级的版本,即GPT-3,变成了一项商业服务。像Latitude这样的客户付费输入文字串,并得到系统对后面应该有什么文字的最佳猜测。在被授予早期访问权的程序员分享了由该技术产生的令人印象深刻的流畅笑话、十四行诗和代码之后,这项服务引起了科技行业的注意。

OpenAI表示,这项服务将赋予企业和初创企业权力,并授予OpenAI的大额支持者微软对基础算法的独家授权。WIRED和一些尝试过该系统的程序员和人工智能研究人员表明,它也可以生成不受欢迎的文本,如反犹太主义的评论和极端主义的宣传。OpenAI表示,它将仔细审查客户以剔除不良行为者,并要求大多数客户--但不是Latitude--使用人工智能供应商创建的过滤器来阻止亵渎、仇恨言论或性内容。

在风口浪尖之外,AI Dungeon为OpenAI的文本生成技术提供了相对不受约束的机会。在2019年12月,也就是使用OpenAI技术的早期开源版本推出游戏的那个月,它赢得了10万名玩家。一些人很快发现并开始珍惜它对性内容的流畅性。其他人则抱怨人工智能会不由自主地提出性主题。

Latitude联合创始人Nick Walton在游戏的官方Reddit社区上承认了这个问题。他说有几个玩家给他发了一些例子,让他们 "感到非常不舒服",并补充说该公司正在研究过滤技术。从游戏的最初几个月开始,玩家们也注意到了,并且在网上发帖标明,游戏有时会把儿童写进性爱场景中。

AI Dungeon的官方Reddit和Discord社区增加了专门的频道来讨论游戏中产生的成人内容。Latitude增加了一个可选的 "安全模式",可以过滤掉来自人工智能的某些词汇的建议。然而,像所有自动过滤器一样,它并不完美。一些玩家注意到,所谓的安全设置改善了文本生成器的色情写作,因为它使用了更多的比喻和委婉语。该公司还增加了一个高级订阅层以创造收入。

2020年7月,当AI Dungeon加入OpenAI更强大的商业写作算法时,写作变得更加令人印象深刻。"一位资深玩家说:"创造力和讲故事的能力的纯粹跳跃是天堂般的。这个人说,该系统在探索性爱主题的能力方面也明显更有创造力。去年有一段时间,玩家注意到Latitude在试验一个过滤器,它可以自动将出现的 "强奸 "一词替换为 "尊重",但这个功能被放弃了。

这位资深玩家是人工智能地牢的爱好者之一,他们将游戏作为人工智能增强的写作工具来探索成人主题,包括在一个专门的写作小组中。算法中不需要的建议可以从故事中删除,以引导它向不同的方向发展;结果不会公开发布,除非有人选择分享它们。

Latitude公司拒绝分享关于有多少冒险包含性内容的数字。OpenAI的网站说,AI Dungeon每天吸引了超过2万名玩家。

一名AI Dungeon玩家上周发布了一个安全漏洞,该漏洞使游戏中产生的每一个故事都可以被公开访问,他说他在4月份的四天里下载了几十万个创建的冒险内容。他分析了其中18.8万个样本,发现31%的样本含有暗示它们是性爱的文字。这一分析和安全漏洞(现已修复)增加了一些玩家对Latitude公司新的内容管理方法的愤怒。

Latitude现在面临的挑战是如何赢回用户的信任,同时满足OpenAI对其文本生成器进行更严格控制的要求。OpenAI的一位发言人说,这家初创公司现在必须使用OpenAI的过滤技术。

如何负责任地部署摄取了大量互联网文本的人工智能系统,包括一些不光彩的部分,已经成为人工智能研究中的一个热门话题。在经理们反对一篇主张谨慎使用此类技术的论文后,两位知名的谷歌研究人员被迫离开了公司。

该技术可以在非常有限的情况下使用,例如在谷歌搜索中,它可以帮助解析长篇查询的含义。OpenAI帮助AI Dungeon推出了一个令人印象深刻但又充满问题的应用程序,让人们提示该技术或多或少地解开它所能做的事情。

华盛顿大学的研究人员Suchin Gururangan说:“真的很难知道这些模型会有什么表现。”他与华盛顿大学和艾伦人工智能研究所的研究人员一起参与了一项研究和互动式在线演示,显示当从网络上借来的文本被用来提示五种不同的语言生成模型时,包括来自OpenAI的模型,都能够喷出有毒文本。

Gururangan现在是许多试图找出如何对人工智能语言系统进行更多控制的研究人员之一,包括对他们学习的内容更加谨慎。OpenAI和Latitude表示,他们也在研究这个问题,同时也试图从该技术中赚钱。

这篇文章对你有价值吗?

  • 相关推荐
  • 大家在看
  • 研究人员警示:人工智能算法可以影响人们的决定 需就算法的影响进行公共教育

    在一系列新的实验中,人工智能(A.I.)算法能够影响人们对虚构的政治候选人或潜在的浪漫伴侣的偏好,这取决于建议是明确的还是隐蔽的。西班牙毕尔巴鄂德乌斯托大学的Ujué Agudo和Helena Matute于2021年4月21日在开放性期刊PLOS ONE上发表了这些发现。从Facebook到谷歌搜索结果,许多人每天都会遇到人工智能算法。私人公司正在对其用户的数据进行广泛的研究,产生对人类行为的见解,而这些见解是不公开的。学术社会科学研究落后于?

  • 人工智能算法帮助揭开量子系统的物理学基础

    来自布里斯托尔大学量子工程技术实验室(QETLabs)的科学家们开发了一种算法,为量子系统的基础物理学提供了宝贵的见解:为量子计算和传感的重大进展铺平了道路,并有可能翻开科学研究的新一页。在物理学中,粒子系统及其演变是由数学模型描述的,需要理论论证和实验验证的成功互动。更为复杂的是对粒子系统在量子力学水平上相互作用的描述,这通常是用哈密尔顿模型来完成的。由于量子态的性质,从观测中制定哈密顿模型的过程变得?

  • Reddit发布Clubhouse克隆产品Reddit Talk

    据外媒报道,在Clubhouse最新筹款活动之后,Reddit今日(当地时间4月19日)正式发布了Clubhouse的竞争对手Reddit Talk。此前Mashable报道称,该公司一直在开发基于音频的社交网络功能。像许多新推出的Clubhouse克隆一样,Reddit的语音聊天体验跟Clubhouse的整体设计没有相差很多。不过在Reddit的版本中,它将这种Clubhouse式的形式应用于自己的社区,即subreddit。最初,Reddit Talk将在subreddits中进行,subreddits是针对特定话?

  • 欧盟起草的人工智能政策旨在控制大技术

    周三,欧盟宣布了新的人工智能条例草案,限制了政府和企业如何使用人工智能在道德上更加可疑的方面。积极地试图监管人工智能用于邪恶的用途,欧盟的规则草案将禁止"人工智能系统被认为是对人们的安全、生计和权利的明显威胁。"拟议的规则将对各种使用案例产生深远的影响,包括自动驾驶汽车。据报道,苹果正在研发一款"苹果汽车",这是一款自动驾驶电动车,预计将于2024年至2028年期间推出。据报道,这些政策还将对执法人工智能进行

  • 明略科技亮相2020中国人工智能产业年会 解读吴文俊人工智能技术发明一等奖成果

    2021 年 4 月 10 日- 12 日,中国人工智能学会主办的吴文俊人工智能科学技术奖十周年颁奖盛典暨 2020 中国人工智能产业年会成功举办。明略科技,作为第十届吴文俊人工智能科学技术发明一等奖获得者,受邀参会。在主论坛和智能系统专题论坛上,明略科技集团首席科学家、明略科学院院长吴信东,对此次获奖成果进行深度解读,就HAO智能理论和知识图谱的自动构建发表主题演讲,并与来自学术界、产业界的权威学者和顶级专家共同探讨人工

  • 再携手民生银行,国双产业人工智能赋能数字金融

    近日,国双签约民生银行智能法律服务二期项目,双方将基于一期建设成果与应用以来的数据与知识积累,进一步升级诉讼智库;同时打造前沿的智能化服务产品,提高民生银行法律智能化水平。国双产业人工智能再度收获场景化落地硕果,护航数字金融稳健发展。数智技术创造法律服务新能力银行诉讼智能化企足而待银行融通各行各业,是市场经济活动中最活跃的参与者与现代经济正常运行的核心,深刻影响着社会经济活力。在我国经济新常态下,?

  • 人工智能进行时—王者荣耀助力产学研 共享AI新生态

    生物的进化的速度要以百万年的时间来计算,而人工智能却在以肉眼看得见的速度进化。半个世纪前,人类需要使用一部重达 1270 公斤的电脑对抗国际象棋大师时,不会想到在半个世纪后的王者荣耀中,AI可进化至职业电竞水平,这就是王者荣耀的AI——「绝悟」,「绝悟」从离线的玩家对局样本进行模仿学习,为了突破上限,又采用了AI自对弈的强化学习,然后在“绝悟挑战”中测试强度。王者荣耀执行制作人,腾讯天美L1 工作室总经理黄蓝枭?

  • 欧盟正考虑禁止将人工智能用于大规模监控和社会信用评分

    欧盟正在考虑禁止将人工智能用于多种目的,包括大规模监控和社会信用评分。这是根据一份泄露的提案,该提案在预计下周正式宣布之前已经在网上流传。如果该提案草案获得通过,欧盟将对人工智能的某些应用采取强硬立场,使其与一些国家区分开来。一些用例将以类似于欧盟在GDPR立法下对数字隐私的监管方式进行监管。例如,成员国将被要求成立评估委员会,对高风险的人工智能系统进行测试和验证。而在欧盟开发或销售被禁止的人工智能软

  • 海信一举斩获三项“吴文俊人工智能科学技术奖”

    日前,中国智能科学技术最高奖“吴文俊人工智能科学技术奖”十周年颁奖盛典在北京举行,青岛有 4 个项目荣获科技进步奖, 1 个项目获得企业技术创新工程项目奖,海信独占其中三项。其中,海信网络科技公司参与的“多源高维数据协同表征及应用”项目获科技进步奖一等奖,海信电子公司参与的“语义驱动的视频智能分析及适配传输关键技术与应用”项目获科技进步奖二等奖,海信视像公司、山东大学和山东科技大学共同参与的“跨媒体知识

  • Alphabet X研发团队希望将人工智能引入电网 让其可视化

    谷歌母公司Alphabet一直在为电网开展 "登月行动",其X研发团队的一个秘密项目旨在找出如何使电力使用比现在更稳定、更绿色。这项研究在白宫领导人气候峰会上被披露,在过去三年中一直在进行。X研发团队开始是Google X,然后在谷歌创建Alphabet作为其总体母公司时被剥离出来成为一个独立的部门。X研发团队并不打算自己架设电线和安装太阳能电池板和风力涡轮机。相反,它正在研究对电网更全面的了解是否有助于向环境稳定的资源过渡。

  • 联邦贸易委员会警告正计划打击有偏见的人工智能技术

    美国联邦贸易委员会警告各公司不要使用有偏见的人工智能技术,因为它们可能违反消费者保护法。一篇新的博客文章指出,人工智能工具可以反映出 "令人不安的"种族和性别偏见。如果这些工具被应用于住房或就业等领域,虚假宣传为无偏见,或以欺骗性方式收集的数据进行训练,该机构表示它可以进行干预。访问购买:爱奇艺周年庆 - 京东联名年卡5.5折仅138元联邦贸易委员会律师Elisa Jillson写道:"在急于拥抱新技术的时候,要小心不要过

  • 相芯科技亮相国际人工智能展,多款AR解决方案惊艳获拥趸

    4 月 11 日,由工信部和商务部支持、中国电子器材有限公司组织的 2021 中国(深圳)国际人工智能展览会圆满落幕。作为中国电子信息博览会旗下的人工智能专业展会,该展会吸引了华为、荣耀、中国移动、相芯科技等科技龙头和新锐创企齐聚一堂,集中展示了大量智能制造解决方案和人工智能技术应用等硬核科技。相芯科技作为国内XR创新应用的头部玩家,在人工智能展览会上展示了AR视频特效、虚拟化身与智能虚拟人技术,凭借生动有趣的AR视

  • Reddit因未删除美国儿童性虐待内容而被起诉

    据国外科技媒体报道:美国一名女子起诉Reddit未能删除儿童性虐待内容,包括前男友发布的她色情图片。她正在进行一场集体诉讼,其中包括Reddit上所有未经请求的色情图片的受害者。

  • 拒绝职场焦虑 讯飞智能录音笔H1让你赢在人工智能时代

    智能录音笔正在悄悄成为职场人的新刚需。近几年,科大讯飞陆续推出了一系列智能录音笔,在高中低端市场均表现优异,驱动录音笔进入智能转写时代。近日,讯飞乘胜追击,推出新品——讯飞智能录音笔H1,旨在用A.I.帮助职场人成功进阶。职场角色随心切换 自如应对人工智能时代与传统录音笔不同,讯飞智能录音笔背靠讯飞强大的A.I.语音识别技术实力,集录音、转写、翻译等多种功能于一身,不但是记者、讲师、律师等专业人员的必备品,?

  • 人工智能助力因材施教——区域教育信息化创新实践论坛”在厦门举办

    4月23日,第79届中国教育装备展示会盛大启幕。同期,由中国教育电视台主办、科大讯飞承办的“人工智能助力因材施教——区域教育信息化创新实践论坛”在厦门圆满召开。来自人工智能领域的教育和科技专家,各地教育管理者、一线工作者共聚一堂,聚焦未来教育发展趋势,交流区域教育信息化实践经验,探究乡村教育振兴路径,为发展更加公平、更高质量的教育凝心聚智。中国教育电视台全媒体中心主任闫勇,科大讯飞股份有限公司高级副总?

  • 腾讯汤道生:腾讯将助力培养 10000 名人工智能教师

    4月20日,第二届MEET教育科技创新峰会在北京举办。腾讯公司高级执行副总裁、云与智慧产业事业群总裁汤道生在《深耕智慧教育,助力学习者“生长”》的主题演讲中表示,经过十年发展,教育信息化建设正在从“工具驱动”,转变为“数据驱动”:从单一的教学工具迈向以数据应用提升整体教学能力、助力个性化发展的新阶段。汤道生强调,腾讯教育在其中始终坚持做好“数字化助手”的角色:截至目前在全国落地了10多万所标杆院校,服务了1000多个教

  • Reddit联合创始人:我投资了两件事,我自己和比特币

    据国外科技媒体报道:Reddit联合创始人兼投资者亚历克西斯·奥哈尼安(Alexis Ohanian)表示,不管风险有多大,他投资的恰恰是两样东西——他自己和比特币。他进一步将加密货币以太坊列入名单。Ohanian一直是加密货币的坚定支持者,也支持Lolli,一家向用户提供比特币奖励的初创公司。

  • 时趣CEO张锐、CTO赵伟受邀出席北大光华“人工智能与社会科学系列讲座”

    4 月1 日,北京大学光华管理学院人工智能与社会科学交叉学科横向发展平台举办了“人工智能与社会科学系列讲座”,邀请行业内领先的AI大数据企业,与北大光华学院师生面对面交流,增加对AI的实践、认识和理解。时趣创始人兼CEO张锐、CTO赵伟受邀出席了北京大学光华管理学院“人工智能与社会科学系列讲座”,以“时趣洞察引擎驱动营销产业新变革”为主题进行了分享,并与线下线上嘉宾就AI大数据营销、品牌创意管理和品牌消费者洞察等

  • 2021世界人工智能大会拟于7月8日-10日在上海召开

    据上海市经信委表示, 2021世界人工智能大会拟于7 月8日- 10 日召开,主会场继续设在浦东世博地区。

  • 首批入选!云从科技入选新一代人工智能产业创新重点任务揭榜优胜单位

    近日,工业和信息化部办公厅印发新一代人工智能产业创新重点任务揭榜优胜单位名单,云从科技成为首批入选的企业之一。人工智能产业创新重点任务揭榜工作是工信部为推动人工智能和实体经济深度融合,加快我国新一代人工智能产业创新发展的重要举措。该项工作于 2018 年底启动; 2019 年底工信部遴选出 203 家揭榜单位和潜力单位; 2020 年 10 月,工信部组织开展了对揭榜项目的测评验收。经实地考察、专家评议和第三方专业机构测评?

  • 热门标签