首页 > 业界 > 关键词  > OpenAI最新资讯  > 正文

OpenAI 研究员因安全问题辞职后加入 Anthropic

2024-05-29 09:36 · 稿源:站长之家

划重点:

- 🚀 OpenAI 研究员 Jan Leike 因安全问题离职,现已加入竞争对手 Anthropic

- 🌱 Anthropic 是一家公益公司,致力于谨慎推进人工智能技术发展。

- 💼 Leike 的加入与 Anthropic 的价值观一致,该公司注重确保智能系统与人类价值观相一致。

站长之家(ChinaZ.com)5月29日 消息:OpenAI 的关键研究员 Jan Leike 本月早些时候因 “安全问题” 而辞职,最近他宣布加入竞争对手 Anthropic,从事 “可扩展的监督、从弱到强的泛化和自动对齐研究”。

Anthropic 是一家公益公司,致力于谨慎推进人工智能技术发展,其创始人是一些离开 OpenAI 的前员工,他们认为 OpenAI 在与微软签订了10亿美元交易后,偏离了其开发更安全、更符合伦理要求的人工智能的使命,过于关注商业利益。对于关注人工智能领域发展的人来说,Leike 加入 Anthropic 并不令人意外。

Claude2,Anthropic,人工智能,聊天机器人

“我们迫切需要认真对待人工通用智能 (AGI) 的影响。我们必须优先准备好应对这些影响,” 几周前,Leike 在关于他辞职的帖子中如此表示。“只有这样,我们才能确保 AGI 造福于全人类。”Leike 之前在 OpenAI 的 “超对齐” 团队工作,而这与他在 Anthropic 的职责相符,即确保智能系统设计与人类价值观一致。在宣布辞职后,Leike 批评 OpenAI 未能提供足够的计算资源来确保成功。

Anthropic 采用 “宪法型人工智能”,将伦理原则融入人工智能模型的训练中,通过收集公众意见和整合联合国《人权宣言》等来源的概念,正如我之前报道的那样。

OpenAI 的另一位联合创始人 Ilya Sutskever 也离开了该公司,他在本月早些时候离职,并据称自从他在11月发起对 CEO Sam Altman 的未遂政变后一直未出现在办公室。尽管 Sutskever 已经辞职并且尚未表明他的下一步行动,但他的价值观与 Anthropic 一致,这使得 Anthropic 成为他的可能去向之一。

举报

  • 相关推荐
  • 剑指谷歌Chrome!OpenAI即将推出AI浏览器

    据媒体报道,OpenAI即将推出的AI浏览器,利用人工智能技术彻底重塑用户的网络浏览体验,直接向占据市场主导地位的谷歌 Chrome 发起挑战。 凭借庞大的每周4亿活跃ChatGPT用户基础,OpenAI的浏览器若被广泛接纳,将对谷歌的广告生态系统、网络数据流和搜索流量构成实质性威胁。谷歌Chrome长期以来是Alphabet广告业务的基石,为其精准广告投放和将流量导向自家搜索引擎提供了关�

  • 在版权诉讼中,Anthropic 赢下了关键AI训练裁决

    就像任何渴望成为作家的读者一样,Anthropic的语言模型并非为了抄袭或取代原作,而是为了创造出完全不同的内容……

  • OpenAI核心模型采用物理隔离:为防窃密 上网需明确许可

    据媒体报道,OpenAI近期全面升级其安全体系,以应对企业间谍活动风险。此次升级的核心举措之一是推出信息隔离”政策,旨在严格限制员工对敏感算法和新产品的访问权限。 例如,在开发o1模型期间,OpenAI规定只有经过严格审查并获得相应权限的团队成员,才可在公共办公区域讨论相关细节。 同时,公司还采取了多项物理与网络安全强化措施:将核心专有技术存储在隔离�

  • OpenAI披露GPT系列新进展,微美全息(WIMI.US)正加速AI技术融合与产业变革

    OpenAI创始人Sam Altman宣布将推出开源大模型,性能远超业界预期,其强大的本地运行能力将极大推动AI技术普及。同时透露GPT-5将于今夏面世,支持语音、图像、代码等多模态输入。AI模型成本持续下降,微美全息等企业加速布局"AI+大模型"创新应用。中金指出,未来AI发展将呈现两大趋势:垂直领域定制化Agent需求增长,以及高质量场景数据价值凸显。2025年被视为AI应用大规模落地元年,但技术发展需兼顾创新与安全。

  • 自研大模型遥遥无期!苹果Siri考虑用外援:转向OpenAI合作

    据媒体报道,知名爆料人马克古尔曼透露,苹果正重新评估其人工智能发展策略,考虑放弃自研大语言模型(LLM)计划,转而与OpenAI展开合作谈判。 若合作达成,苹果原定于2026年推出的基于自研Apple Foundation Models”的Siri升级计划可能被搁置,这一变动或引发行业广泛关注。 目前,由苹果AI负责人约翰詹南德雷亚(John Giannandrea)主导的LLM Siri”项目仍在进行中,但进展不及预�

  • ChatGPT们重塑了对话框,钉钉今天要重塑表格

    ​自从1979年,丹·布里克林(Dan Bricklin)和鲍勃·弗兰克斯顿(Bob Frankston)在苹果当时划时代的 Apple II 电脑上做出了第一张可以自动计算和更新的电子表格 VisiCalc 后,表格就成为了计算机用数据方式理解人类世界的基座。不过,在更多的时候,没人这样讨论它。横横竖竖几个格子,表格无处不在,它看起来太普通了。 然而计算机诸多繁荣的根基,都建立在一张张表格之上,无�

  • 致态TiPro9000蝉联鲁大师《2025年PC半年报》电脑硬盘性能排行榜榜首

    鲁大师发布《2025年PC半年报》,致态TiPro9000固态硬盘以42万+性能得分蝉联硬盘性能榜首。该产品采用PCIe5.0协议和晶栈Xtacking4.0架构,顺序读取速度达14000MB/s,写入12500MB/s,4K随机读取性能2000K+IOPS,能轻松应对高负载场景。报告基于海量用户真实数据,被视为消费级PC市场的性能风向标。致态持续技术创新,通过旗舰产品突破性能边界,为消费者提供更优质的存储体验。在数字化浪潮中,存储设备性能已成为影响系统效率的关键因素之一。

  • 苹果最强平板!iPad Pro将首发M5芯片

    苹果记者Mark Gurman爆料称,iPad Pro将会成为首款搭载苹果M5芯片的智能设备,新品最快会在10月份登场,这将是苹果最强平板。 据悉,苹果上一次更新iPad Pro系列是在2024年5月,该系列首次搭载了M4芯片和OLED显示屏,从M4到M5间隔了大约17个月时间。 由于2024款iPad Pro首次引入了OLED屏幕,完成了从Mini LED到OLED的过渡,所以2025款不会有太大改动,其外观、OLED屏都将会延续2024款的设计

  • 中国无纸化2024年度TOP10企业重磅发布!itc保伦股份荣获全国第一!

    ITC保伦股份凭借技术实力和广泛市场覆盖,在2024年中国无纸化企业市场排名中位居榜首。其无纸化会议系统实现全流程管理,满足文档发送、阅读、共享、交流等需求,并整合会议生态,提供扩声、语音转写、视频会议等功能。公司拥有80亩工业园和16000平方米全自动生产车间,产品覆盖党政机关、法院、医院等多个领域。ITC坚持国产化研发,采用SM2、SM3、SM4国密算法保障信息安全,已成功应用于杭州亚运会等多个重要项目。随着数字化浪潮推进,无纸化作为数字化基石的重要性日益凸显,ITC将继续引领技术创新,推动行业迈向更智能、安全、普惠的未来。

  • AI营销席卷中东,Infinix和Snapchat首个AI营销合作如何在当地实现破圈?

    开年以来,AI 图片赛道迎来一轮小高潮。今年3月,在我们统计的月访问量超200万的 Web 端 AI 图片产品中,有45款产品访问量呈现环比上涨,最高增幅超过600%。这些爆款背后的共同特征,是一股席卷社交平台的“吉卜力风”。 回顾2022年至今几轮 AI 爆款产品(如 Lensa、妙鸭相机、黏土滤镜、吉卜力),其流量爆发的逻辑始终贯穿着四大共性:操作门槛极低、个性表达鲜明、用户�