首页 > 业界 > 关键词  > 人工智能最新资讯  > 正文

游戏显示人机协作的“黑暗面” OpenAI要求Latitude立即采取行动

2021-05-10 12:08 · 稿源: cnbeta

据外媒WIRED报道,2019年12月,犹他州创业公司Latitude推出了一款名为《AI Dungeon》的先锋网络游戏,展示了一种新的人机协作形式。该公司利用人工智能公司OpenAI的文本生成技术,创造了一个由《龙与地下城》启发的自选冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时,算法将为他们的个性化、不可预测的冒险制作下一阶段的内容。

去年夏天,OpenAI让Latitude提前接触到了其技术的更强大的商业版本。在营销材料中,OpenAI将《AI Dungeon》作为编写算法的商业和创意潜力的一个例子来吹捧。

上个月,OpenAI表示,它发现《AI Dungeon》也显示了人类与AI合作的“黑暗面”。一个新的监控系统显示,一些玩家输入的词语导致游戏产生了涉及儿童的性爱故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官Sam Altman在一份声明中说:“在某些情况下,内容审核的决定是困难的,但这一次不是。这不是我们任何人想要的人工智能的未来。”

上周,Latitude开启了一个新的审核系统,并在其用户中引发了反感。一些人抱怨它过于敏感,他们不能在不触发警告信息的情况下提及一台“已使用8年的笔记本电脑”。另一些人说,该公司计划手动审查被标记的内容,这将不必要地窥探私密的、虚构的创作,这些创作是色情的,但只涉及成年人--这是AI Dungeon的流行使用案例。

简而言之,Latitude试图将人和算法结合起来,对由人和算法产生的内容进行监管,结果变成了一团糟。在Twitter和AI Dungeon的官方Reddit和Discord社区,愤怒的模因和关于取消订阅的说法纷至沓来。

“社区感到被背叛了,Latitude会扫描并手动访问和阅读私人虚构的文学内容,”一位AI Dungeon的玩家说,他的名字叫Mimi,并声称在AI的帮助下,估计总共写了超过100万字,包括诗歌、暮光之城的模仿和情色冒险。Mimi和其他不高兴的用户说,他们理解该公司对公开可见的内容进行监管的愿望,但他们说该公司做得太过分了,毁掉了一个强大的创造性游戏场所。Mimi说:"它使我能够探索我心理的某些方面,而我从未意识到这些方面的存在。

Latitude发言人说,其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾禁止那些他们得知利用AI Dungeon产生以儿童为主角的性内容的玩家。但在OpenAI最近的警告之后,该公司正在进行 “必要的改变”,该发言人说。Latitude公司上周在一篇博客文章中承诺,AI Dungeon将 “继续支持其他NSFW内容,包括双方同意的成人内容、暴力和亵渎”。

阻止人工智能系统创建某些类型的性或成人内容,同时允许其他内容,将是困难的。像OpenAI这样的技术可以生成许多不同风格的文本,因为它是使用机器学习算法构建的,这些算法已经消化了从网络上获取的数十亿字中的语言使用统计模式,包括不适合未成年人的部分。该软件能够进行惊人的模仿,但并不像人们那样理解社会、法律或流派类别。

OpenAI在2019年年底将其文本生成技术作为开源技术发布,但在去年将一个大幅升级的版本,即GPT-3,变成了一项商业服务。像Latitude这样的客户付费输入文字串,并得到系统对后面应该有什么文字的最佳猜测。在被授予早期访问权的程序员分享了由该技术产生的令人印象深刻的流畅笑话、十四行诗和代码之后,这项服务引起了科技行业的注意。

OpenAI表示,这项服务将赋予企业和初创企业权力,并授予OpenAI的大额支持者微软对基础算法的独家授权。WIRED和一些尝试过该系统的程序员和人工智能研究人员表明,它也可以生成不受欢迎的文本,如反犹太主义的评论和极端主义的宣传。OpenAI表示,它将仔细审查客户以剔除不良行为者,并要求大多数客户--但不是Latitude--使用人工智能供应商创建的过滤器来阻止亵渎、仇恨言论或性内容。

在风口浪尖之外,AI Dungeon为OpenAI的文本生成技术提供了相对不受约束的机会。在2019年12月,也就是使用OpenAI技术的早期开源版本推出游戏的那个月,它赢得了10万名玩家。一些人很快发现并开始珍惜它对性内容的流畅性。其他人则抱怨人工智能会不由自主地提出性主题。

Latitude联合创始人Nick Walton在游戏的官方Reddit社区上承认了这个问题。他说有几个玩家给他发了一些例子,让他们 "感到非常不舒服",并补充说该公司正在研究过滤技术。从游戏的最初几个月开始,玩家们也注意到了,并且在网上发帖标明,游戏有时会把儿童写进性爱场景中。

AI Dungeon的官方Reddit和Discord社区增加了专门的频道来讨论游戏中产生的成人内容。Latitude增加了一个可选的 "安全模式",可以过滤掉来自人工智能的某些词汇的建议。然而,像所有自动过滤器一样,它并不完美。一些玩家注意到,所谓的安全设置改善了文本生成器的色情写作,因为它使用了更多的比喻和委婉语。该公司还增加了一个高级订阅层以创造收入。

2020年7月,当AI Dungeon加入OpenAI更强大的商业写作算法时,写作变得更加令人印象深刻。"一位资深玩家说:"创造力和讲故事的能力的纯粹跳跃是天堂般的。这个人说,该系统在探索性爱主题的能力方面也明显更有创造力。去年有一段时间,玩家注意到Latitude在试验一个过滤器,它可以自动将出现的 "强奸 "一词替换为 "尊重",但这个功能被放弃了。

这位资深玩家是人工智能地牢的爱好者之一,他们将游戏作为人工智能增强的写作工具来探索成人主题,包括在一个专门的写作小组中。算法中不需要的建议可以从故事中删除,以引导它向不同的方向发展;结果不会公开发布,除非有人选择分享它们。

Latitude公司拒绝分享关于有多少冒险包含性内容的数字。OpenAI的网站说,AI Dungeon每天吸引了超过2万名玩家。

一名AI Dungeon玩家上周发布了一个安全漏洞,该漏洞使游戏中产生的每一个故事都可以被公开访问,他说他在4月份的四天里下载了几十万个创建的冒险内容。他分析了其中18.8万个样本,发现31%的样本含有暗示它们是性爱的文字。这一分析和安全漏洞(现已修复)增加了一些玩家对Latitude公司新的内容管理方法的愤怒。

Latitude现在面临的挑战是如何赢回用户的信任,同时满足OpenAI对其文本生成器进行更严格控制的要求。OpenAI的一位发言人说,这家初创公司现在必须使用OpenAI的过滤技术。

如何负责任地部署摄取了大量互联网文本的人工智能系统,包括一些不光彩的部分,已经成为人工智能研究中的一个热门话题。在经理们反对一篇主张谨慎使用此类技术的论文后,两位知名的谷歌研究人员被迫离开了公司。

该技术可以在非常有限的情况下使用,例如在谷歌搜索中,它可以帮助解析长篇查询的含义。OpenAI帮助AI Dungeon推出了一个令人印象深刻但又充满问题的应用程序,让人们提示该技术或多或少地解开它所能做的事情。

华盛顿大学的研究人员Suchin Gururangan说:“真的很难知道这些模型会有什么表现。”他与华盛顿大学和艾伦人工智能研究所的研究人员一起参与了一项研究和互动式在线演示,显示当从网络上借来的文本被用来提示五种不同的语言生成模型时,包括来自OpenAI的模型,都能够喷出有毒文本。

Gururangan现在是许多试图找出如何对人工智能语言系统进行更多控制的研究人员之一,包括对他们学习的内容更加谨慎。OpenAI和Latitude表示,他们也在研究这个问题,同时也试图从该技术中赚钱。

举报

  • 相关推荐
  • 大家在看
  • 华为 Pocket S是屏下指纹解锁吗?

    不是华为 Pocket S不是屏下指纹解锁,而是侧面指纹解锁方式。由于华为 Pocket S是一款折叠屏手机,因此也有使用外屏的需求,如果是屏下指纹解锁,那么就很难在外屏上解锁并使用很多功能,因此侧面的指纹解锁方式是比较适合这款手机的。

  • 锐龙R7 5800X3D支持AVX2吗?

    支持。锐龙7 5800X3D上提供硬件虚拟化,大大提升了虚拟机性能。使用高级矢量扩展 (AVX) 的程序可以在此处理器上运行,从而提高计算量大的应用程序的性能。除了 AVX,AMD 还包括更新的 AVX2 标准,但不包括 AVX-512。

  • 华为 Pocket S可以防水吗?

    防水性能一般华为 Pocket S防水级别是IP53级别。华为 Pocket S并非专业防水手机,在正常使用状态下可防溅、抗水、防尘,在受控实验室条件下经测试,其效果在 GB/T 4208-2017(国内)/ IEC 60529(海外)标准下达到 IP53 级别。 防溅、抗水、防尘功能并非永久有效,防护性能可能会因日常磨损而下降。请勿在潮湿状态下为手机充电。

  • 锐龙R7 5800X3D支持PICE5.0吗?

    不支持。锐龙R7 5800X3D只支持PICE4.0。总共有 24 个 PCIe Gen4 通道。24 个通道中有 4 个用于与主板芯片组的互连,剩下 20 个通道 Gen 4.0 用于其他用途。16 通道 (PCIe x16) 用于连接为 x16 或两个 x8 的图形卡。从 Gen 3.0 来看,Gen 4.0 x8 链路将提供类似于 PCIe 3.0 x16 的带宽。CPU 的另外四个 PCIe 通道专为快速存储而设计,例如与 PCIe 4.0 NVMe 兼容的 SSD。

  • 华为 Pocket S支持哪些拍照模式?

    微电影、高像素模式、延时摄影等华为 Pocket S后置拍摄功能:微电影、高像素模式、延时摄影、超大广角、大光圈虚化、双景录像、超级夜景、超级微距、微距视频、微距画中画、人像模式、专业模式、慢动作、全景模式、黑白艺术、智能滤镜、水印、文档矫正、AI摄影大师、动态照片、熄屏快拍、4D预测追焦、笑脸抓拍、声控拍照、定时拍照、连拍、快拍;前置拍摄功能:慢动作、智能广角切换、人像模式、全景模式、延时摄影、动态照片、智能滤镜、水印、笑脸抓拍、自拍镜像、声控拍照、定时拍照。

  • 锐龙R7 5800X3D支持ECC内存吗?

    支持。锐龙R7-5800X3D是支持ECC内存的,这是任务关键型系统的一项重要功能,可避免数据损坏。在内存中ECC能够容许错误,并可以将错误更正,使系统得以持续正常的操作,不致因错误而中断,且ECC具有自动更正的能力,可以将Parity无法检查出来的错误位查出并将错误修正。一些厂商推出的入门级低端服务器使用的多是普通PC用的SDRAM,不带ECC功能,在选购时应该注意这个指标。

  • 华为 Pocket S有光学防抖吗?

    没有华为 Pocket S后置镜头在视频拍摄的时候最大支持4K(3840x2160)视频录制,支持AIS防抖; 前置摄像头视频拍摄 最大支持4K(3840 x 2160)视频录制,支持AIS防抖;这款手机没有光学防抖功能,因此有一些运动状态拍摄视频或照片时稳定性不是非常出色,当然它定位的就不是拍照手机。

  • 锐龙R7 5800X3D是多少线程?

    16线程。锐龙R7-5800X3D是16线程的处理器。线程(英语:thread)是操作系统能够进行运算调度的最小单位。它被包含在进程之中,是进程中的实际运作单位。一条线程指的是进程中一个单一顺序的控制流,一个进程中可以并发多个线程,每条线程并行执行不同的任务。在Unix System V及SunOS中也被称为轻量进程(lightweight processes),但轻量进程更多指内核线程(kernel thread),而把用户线程(user thread)称为线程。

  • 华为 Pocket S是DC调光方式吗?

    不是华为 Pocket S使用的是PWM调光,其中内屏是OLED,最高支持120Hz刷新率,1440Hz高频PWM调光,300Hz触控采样率;外屏是OLED,最高支持60Hz刷新率,120Hz触控采样率。

  • 锐龙R7 5800X3D是什么针脚接口类型?

    AM4。锐龙R7 5800X3D是一款 8 核台式机处理器,于 2022 年 4 月推出。它是 Ryzen 7 系列的一部分,采用 Zen 3 (Vermeer) 架构和 Socket AM4。AMD AM4 平台灵活主板 DDR4 内存、PCIe® 4.0 NVMe 显示和显卡,并且在芯片组类别排列超支持高速 USB 10Gbps 接口。 AM4 平台实现了直连 SATA 和 USB,可根据实际需求配置,再能够为游戏玩家和创意人士带来所需的功能。

  • 华为 Pocket S外屏有哪些功能?

    外屏卡片、外屏主题、自拍显示等华为 Pocket S的外屏可以用来显示卡片、主题以及在自拍的时候用来显示拍照画面等功能,此外还可以显示时间、未接电话等一些基本通信信息,可以说很多情况下不需要打开折叠屏就可以看到一些重要的通知短消息等。华为 Pocket S使用了一块1. 04 英寸OLED屏幕,分辨率340 x340 像素,最高支持60Hz刷新率,120Hz触控采样率。

  • 锐龙R7 5800X3D是台积电还是三星代工?

    台积电。锐龙R7 5800X3D硅芯片不是在 AMD 制造的,而是在台积电的代工厂制造的。AMD 与 TSMC 开发的 3D 堆叠工艺的另一个主要优势是绑定了这个额外的缓存小芯片(在新标签中打开)处理核心和 L3 缓存使其占用空间足够小,以使所有这些都适合与 Ryzen 5800X 相同的封装。

  • 华为 Pocket S处理器性能怎样?

    高通骁龙778G 4G华为 Pocket S处理器型号是高通骁龙778G 4G,采用台积电6nm工艺,集成八核心CPU,包括一个大核A78 2.4GHz、三个中核A78 2.2 GHz、四个小核A55 1.9GHz,同时集成Adreno 642L GPU。该处理器安兔兔跑分大约是52万分,CPU成绩 159545 分、GPU成绩 157046 分、UX成绩84097、MEM成绩则是125216,这个数据属于中端处理器的水平。

  • 锐龙R7 5800X3D是什么架构?

    Zen3架构。AMD 锐龙R7-5800X3D 的底层 Zen3架构与八核16线程AMD Ryzen7-5800X 相同,此外Ryzen75800X3D 的不同之处在于引入了 AMD 新的3D 堆叠缓存,称为3D V-Cache。这个额外的裸片与5800X 的底层核心复合裸片 (CCD) 结合在一起(尽管裸片本身已经被化学刮掉,以便为新的高速缓存裸片腾出空间)。

  • 锐龙R7 5800X3D的3D V-Cache有什么用?

    有以下功能。AMD3D V-Cache是适用于服务器和桌面应用程序的创新3D 堆叠封装技术。为7nm x86-64CPU 实现 Hybrid-Bonded64MB 堆叠缓存,这是一种不同的处理器布局方式,并且由于 CPU 制造商在芯片上放置组件的方式取得了进步,AMD 能够在不制造大型 CPU 的情况下压缩更多缓存。AMD 仅在游戏领域构建了额外的缓存,AMD表示它可以提供平均15% 的改进。更多的 L3缓存允许处理器流式传输和存储更多指令,从而减少从 RAM 中提取指令所需的次数。自然,这并不能在所有情况下都提供性能优势。但是,在 CPU 处理多条指令的情况下,例如游戏,额外的 L3缓存应该会提供很大的提升。

  • 锐龙R7 5800X3D价格多少钱?

    2999元。2022年4月20日,AMD 宣布 R75800X3D 游戏处理器上市,售价3099元。AMD R75800X3D,是AMD旗下处理器(CPU)。采用7nm工艺,8核16线程,3.4-4.5GHz,三级缓存达到了96MB,默认功耗为105W。

  • 华为 Pocket S电池多大?

    4000mAh华为 Pocket S电池容量是4000mAh,手机支持最大10V/4A华为超级快充,兼容10V/2.25A或4.5V/5A或5V/4.5A或9V/2A或5V/2A充电器,数据接口为USB Type-C,USB 2.0。考虑到这款手机是折叠屏,因此在内部电池上市两块电池的设计,比同尺寸的直板手机电池小一些,但已经可以满足一天的基本使用。

  • 华为 Pocket S机身尺寸多大?

    展开态:170mm(长)*75.5mm(宽)*7.2mm(厚)华为 Pocket S机身尺寸为展开态:170mm(长)*75.5mm(宽)*7.2mm(厚);折叠态:87.3mm(长)*75.5mm(宽)*15.2mm(厚),机身重量约 190 克(含电池)。

  • 华为 Pocket S充电速度多少W?

    40W华为 Pocket S支持最大10V/4A华为超级快充,兼容10V/2.25A或4.5V/5A或5V/4.5A或9V/2A或5V/2A充电器。最大支持40W华为超级快充(仅支持有线充电),需搭配40W华为超级快充充电套装使用。

  • 华为 Pocket S屏幕参数怎么样?

    内屏6.9英寸,外屏1.04英寸,内屏最高支持120Hz刷新率华为 Pocket S内屏是6. 9 英寸OLED屏幕、10. 7 亿色,分辨率FHD+,2790 x1188 像素,最高支持120Hz刷新率,1440Hz高频PWM调光,300Hz触控采样率,442 ppi;外屏是1. 04 英寸OLED屏幕, 1670 万色,分辨率340 x340 像素,最高支持60Hz刷新率,120Hz触控采样率,328 ppi。

今日大家都在搜的词:

热文

  • 3 天
  • 7天