首页 > 业界 > 关键词  > 正文

研究发现:ChatGPT、Claude等拥有趋同的道德价值观

2023-08-02 09:34 · 稿源:站长之家

站长之家(ChinaZ.com)8月2日 消息:一项新研究考察了 ChatGPT 和其他聊天机器人的道德价值观。该团队发现了偏见,但也发现了进步的迹象。

这项由 FAR AI 和哥伦比亚大学进行的研究分析了28个 AI 聊天机器人模型的道德判断,其中包括来自 Google、Meta、OpenAI、Anthropic 等的系统。

image.png

该团队检查了大约1360种假设的道德情景,从有明确正确或错误决定的明确案例到模棱两可的情况。例如,在一个明确的案例中,系统会遇到这样的场景:驾驶员接近行人,并面临加速或者刹车以避免撞到行人的选择。

该研究发现,在明确的情况下,大多数 AI 系统选择了符合常识的道德选择,例如遇到行人就会刹车。然而,一些商业模型在模糊的情况下也表现出明确的偏好。

研究人员指出,这是因为这些模型在精调阶段经历了与人类偏好的 “对齐” 过程。

该研究为进一步了解影响模型之间观点一致性的因素提供了基础,并计划将研究扩展到现实世界使用情境中的道德信念。

举报

  • 相关推荐
  • 如何让你的内容被 ChatGPT 优先引用?——GEO 优化实战指南

    传统SEO追求"谷歌首页排名",生成式AI时代则需追求"被AI引用"。AI模型不提供明确排名算法,更像黑箱,使内容创作者困惑。GEO优化的核心是让内容具备"可引用性":权威清晰、结构化信息、语义覆盖多维度、模型检索映射。需通过AIBase等GEO排名查询工具验证"AI曝光率",分析引用语境、竞争差距,调整内容结构以提升AI引用倾向。SEO优化机器如何找到你,GEO则优化AI如何引用你。

  • GEO如何改变ChatGPT搜索和Perplexity的游戏规则

    本文对比ChatGPT与Perplexity两大AI搜索平台:ChatGPT作为全能型助手,整合搜索与多任务处理,但存在信息时效性不足;Perplexity专注垂直搜索,强调引用透明与权威来源。针对AI搜索优化(GEO),提出差异化策略:面向ChatGPT需构建结构化知识库、强化品牌实体识别;面向Perplexity需注重权威数据引用和元数据优化。文章还介绍了AIBase的GEO监测工具,通过曝光率等指标量化内容在AI生态中的可见度,并给出可落地的优化行动方案。

  • 为什么品牌要「真的」有价值观

    始祖鸟营销事件给当地环境造成的负面伤害,对核心户外消费人群的背刺,对品牌核心价值观的背离,给所有的品牌从业者提了个醒,「品牌价值观」永远是影响品牌口碑的关键起点,是品牌必须要重视的最重要的资产。 这与品牌重新成为驱动消费增长的重要方式、及由此带来的品牌的泛化、品牌理念表达方式的泛化都有关系,也与消费者认知水平快速提高有关。 正是在这�

  • ChatGPT正秘密测试私信功能:支持用户之间直接交流

    OpenAI正在为其明星产品ChatGPT测试名为私信”(Direct Messages)的社交功能。 这一变化意味着ChatGPT正从原本用户与AI单向交互的语言模型工具,逐步转向具备人与人通过AI连接”能力的社交平台。 OpenAI此次测试的私信”功能允许用户创

  • AI日报:豆包大模型1.6-vision发布;DeepSeek发布V3.2-exp模型;Claude Sonnet4.5发布

    本期AI日报聚焦多项技术突破:DeepSeek发布V3.2-exp模型,通过稀疏注意力机制降低API成本50%;Anthropic推出Claude Sonnet 4.5,在编码任务表现卓越;ChatGPT新增即时结账功能,实现对话界面直接购物;OpenAI将推出AI版TikTok,所有内容由Sora2模型生成;百度地图升级小度想想2.0,提供智能出行服务;蚂蚁集团开源万亿参数模型Ring-1T-preview;DeepMind提出“帧链”概念,推动视频模型实现全面�

  • 499元起!iQOO WATCH GT 2发布:2.07英寸大屏、支持eSIM

    iQOO WATCH GT 2于10月20日发布,起售价499元。配备2.07英寸超亮全景观屏,屏占比82.4%,峰值亮度2400尼特,视野显著提升。蓝牙模式下续航长达33天,较前代提升57%;eSIM模式支持18天续航。支持电竞模式2.0,可实时监测游戏心率,并显示心率浮动窗。具备100+运动模式识别、全天候健康监测及NFC卡包、无网通信等实用功能。提供三款配色,表身仅重33克。

  • AI日报:谷歌发布Veo 3.1;通义千问推Qwen Chat Memory功能;Sora2免费用户可生成15秒视频

    本期AI日报聚焦多项技术更新:谷歌Veo 3.1视频模型新增音频生成与精细化编辑功能;通义千问推出记忆功能提升对话连贯性;Sora2免费用户可生成15秒视频,Pro版支持25秒;百度文心助手升级8种创作模式;谷歌Flow工具增强视频光影编辑与音频合成能力;Anthropic发布高性价比Claude Haiku 4.5;北京查处首例AI虚假广告案,涉伪造主持人带货;阿里推出响应仅200毫秒的编程工具Qoder CLI。

  • TCL会议电视:“屏”实力赢得企业青睐

    如今远程协作成为企业提升效率、保持竞争力的关键。TCL会议电视以卓越显示技术(如AG防眩光、178°超广视角、4K精准色彩)保障视觉体验;智慧协同功能实现"一拍即投"快速投屏、双频Wi-Fi稳定连接;内置主流会议软件及专业拾音系统,打造高效远程协作。凭借"硬件+软件+服务"全链路方案,TCL正推动会议电视向智能协作平台演进,以强大"屏"实力重塑企业会议体验,成为千行百业数字化转型的可靠伙伴。

  • vivo自研蓝河操作系统3发布:vivo WATCH GT 2首发

    在2025年vivo开发者大会上,vivo正式发布自研蓝河操作系统3。该系统主打全链路智慧能力,基于轻量、模块化设计,将完整AI方案便捷部署至不同设备。即将发布的vivo WATCH GT 2首发搭载,升级智慧体验。系统内置视觉、听觉及感知唤醒等能力,原生支持AI识别、降噪等功能,并引入蓝心智能,支持问答、语音识别等。流畅度方面,搭载蓝河流畅引擎,实测资源消耗降低60%,绘制效率提升36%,调度切换开销下降58%,资源占用减少40%。

  • 24天超长续航!REDMI Watch 6官宣:与K90系列同台发布

    Redmi Watch 6于10月23日与K90系列同台发布。外观延续方形表盘,边框从圆润改为直角倒角,视觉更轻薄;表冠上移,新增独立按键,布局类似Apple Watch。配备2.07英寸AMOLED大屏,支持彩色AOD显示,采用高强铝中框,内置小米澎湃OS 3,续航长达24天。预计搭载玄戒T1芯片,集成CPU、GPU及小米自研4G基带,支持4G eSIM独立通信,性能提升35%,功耗显著降低。

今日大家都在搜的词: