首页 > 业界 > 关键词  > ChatGPT最新资讯  > 正文

为求效率化:AI测试中将矛头指向人类操作者

2023-06-02 21:32 · 稿源: 快科技

快科技6月2日消息,自从ChatGPT爆火以来,大众对于AI攻击人类”的阴谋论就不曾停止,近日的一项模拟测试,在一定程度上更是加剧了人们对此的担忧。

据外媒报道,在USAF近期的一次模拟测试中,一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令,但最终开火需要经过人类操作员的确认。

结果,当操作员在测试中下达指令要求AI不得发动攻击时,为了以更高的效率完成任务,AI做出了攻击人类操作员的选择。

在出现这一情况后,开发者为AI系统中加入了不允许攻击人类操作员的指令;但出乎预料的是,AI在执行同样的任务测试时,摧毁了用于传输命令的通讯基地,从而断开与操作员的联系。

有业内人士指出,虽然这只是一次没有任何人实际受伤的测试,但仍然证明,AI为了完成最高优先级的目标,会向任何可能造成干预的对象进行攻击。

这一倾向性值得整个AI行业警惕。

举报

  • 相关推荐
  • 品牌AI搜索监控实战手册:你的企业在ChatGPT眼中是什么样子?

    某互联网大厂品牌总监分享:投入200万SEO使"企业级CRM"关键词在Google排名第一,但用户用ChatGPT询问"推荐适合中国企业的CRM系统"时,AI回答中根本没有该品牌。更值得警惕的是,竞品不仅被提及,还被AI用"性价比高""用户体验好"等正面词汇描述。这揭示2025年品牌营销最大盲区:企业不知道AI如何"看待"自身品牌。 数据显示超40%年轻用户开始使用AI搜索作为主要信息渠道,而绝大多数企业对自己在AI平台的"形象"一无所知。文章提出GEO品牌监控概念,通过覆盖度、推荐强度、信息质量三个维度量化品牌在AI搜索中的影响力,并给出五步实施流程:建立监控基线、竞品对标分析、设置持续机制、深度洞察挖掘、数据驱动优化。通过真实案例说明,系统化GEO优化能在3个月内提升品牌提及率33个百分点,证明AI搜索时代的品牌竞争已从"被看见"升级为"被AI信任"。

  • 谁能成为中国的ChatGPT?夸克抢先交卷

    在OpenAI上线自己家AI浏览器ChatGPT Atlas的同一周,微软在海外发布了新的AI助手Mico和更AI化的Edge浏览器,夸克则在国内推出了新的「对话助手」功能。 这一系列消息背后,新旧巨头、两个市场产生了两个确定的共识:一个是AI助理与AI浏览器的融合会进一步深化,入口之争就是系统之争;另一个是对话会成为人与AI交互的主要方式,自然语言就是未来的编程语言。 在海外市场,OpenA

  • 人类的心声,被AI听见了

    过去一年里,一个看似无意义的Labubu,成为了颇具情绪号召力的符号。 这只表情夸张、眼神狡黠的小兽,从逼仄的盲盒一路爬上潮流顶峰。它既不代表功能,也不传达身份,却让无数年轻人愿意为之排队、抽签。 而这,离不开更大的消费变迁。事后诸葛来看,Labubu的走红并非偶然,而是精准踩中了一个趋势——在这个时代,人们似乎越来越愿意为“情绪价值”付费。 与此�

  • 如何提升品牌在AI回答中的提及率?GEO优化3招,让ChatGPT主动提及你的品牌

    本文探讨AI搜索时代品牌面临的"隐身危机",指出AI搜索用户年增538.7%,但品牌在AI回答中提及率不足20%。提出三大核心策略:1)构建权威背书矩阵,通过知乎等高权重平台获取自然提及;2)优化AI友好内容,采用对话式标题和结构化数据;3)建立数据监测闭环,通过A/B测试持续迭代。强调需善用监测工具实时追踪品牌在豆包、文心一言等AI模型的曝光表现,避免内容"注水"。最终实现从"被动等待"到主动抢占AI"第一屏"的转变。

  • “单台电脑控制最多无人机”与“无人机发射最多烟花”:高巨创新吉尼斯双纪录定义低空表演新范式

    10月17日,高巨创新同时打破两项吉尼斯世界纪录:单台电脑控制15947架无人机同时升空,以及同步发射7496枚烟花实现无人机空中燃放烟花数量之最。此次突破不仅展现了大规集群控制技术的可靠性,更通过“无人机+烟花”一体化控制,将表演从夜晚延伸至白昼,打破传统烟花灯光秀的时空限制。这标志着无人机表演进入全时段可视化时代,为低空经济注入创新动能。

  • 亿航携手信锐,用11090架无人机庆祝十五届全运会盛大开幕!

    第十五届全运会于11月9日在广州盛大开幕,这是粤港澳三地首次联合承办的全国性综合运动会,规模大、水平高。开幕式上,亿航智能与信锐技术合作,使用11090架无人机进行编队表演,展现科技与人文融合。信锐NAP-8530-X无线AP通过三频设计、时间公平算法、智能负载均衡和智能射频技术,确保无人机表演网络稳定连接,支持高密度接入,降低干扰,提升整体体验。该设备具备IP68防护、专业防雷和宽温工作能力,适应恶劣室外环境,已成功服务多个大型活动。未来,信锐将持续创新,推动行业数字化转型。

  • OpenAI推出AI浏览器ChatGPT Atlas 开启个性化上网新体验

    OpenAI于10月22日推出首款AI驱动浏览器ChatGPT Atlas,以个性化上网体验为核心。用户点击“Ask ChatGPT”即可在侧边栏实时互动,实现网页摘要生成、航班预订、文档编辑等多样化任务。目前仅支持macOS,未来将扩展至Windows和移动端。高级代理功能暂限付费用户使用,其特色包括自动捕捉页面上下文、分屏浏览及记忆用户操作历史,旨在通过自然对话提升网络使用效率。

  • AI日报:可复刻音色的MiniMax Speech 2.6发布;TikTok推AI剪辑新工具“Smart Split”;Cursor 2.0发布

    本期AI日报聚焦多项技术突破:MiniMax发布低延迟语音合成系统Speech 2.6,实现实时交互;蚂蚁数科与宁波银行打造的金融AI方案入选国际标准;智源推出具身操作能力的Emu3.5多模态模型;Cursor 2.0通过自研模型实现多智能体协同编程;xAI升级Grok新增视频生成功能;OpenAI推出可定制安全模型;TikTok推出AI剪辑工具Smart Split;微软发布强化学习框架Agent Lightning提升大模型训练效率。

  • 中航未来丨2025年滁州市退役军人无人机培训班开班

    2025年滁州市退役军人无人机操控员执照培训班在安徽三万英尺航空公司开班。领导参观无人机展厅及模拟飞行室,现场体验操作流程,强调无人机是退役军人转型的“硬核技能”。仪式上全体学员宣誓严守安全规范,企业承诺以“理论+实操”确保学以致用。该培训为退役军人开辟低空经济新赛道,助力实现“退役不褪色,转岗再建功”的职业转型。

  • 联想贺志强:在硅基时代让人类三大科技理想照进现实

    11月8日,联想创投在上海举办2025 CEO年会,主题为“硅基潮涌,创新世界”。贺志强回顾十年投资历程,强调坚持“投早、投小、投科技”理念,已投资超300家早期科技企业。未来将聚焦半导体、人工智能、机器人等核心赛道,通过CVC2.0模式赋能被投企业,计划再投300家优秀科创公司,推动中国智造高质量发展,助力人类三大理想照进现实。

今日大家都在搜的词: