首页 > 业界 > 关键词  > 正文

阵容庞大!谷歌OpenAI等14家公司成立安全AI联盟

2024-07-19 10:30 · 稿源: 快科技

7 月 19 日,据媒体报道,谷歌、微软、亚马逊、英特尔、英伟达、IBM、思科、PayPal、OpenAI、Anthropic、Cohere、Chainguard、WIZ 和 GenLab 等 14 家领先科技企业在阿斯彭安全论坛上宣布成立安全人工智能联盟 (CoSAI)。

该联盟由全球标准机构 OASIS 支持,旨在通过提供资源共享平台、指导手册和工具,帮助人工智能从业者开发更安全的系统。它促进知识和技术的共享,为安全的 AI 生态系统奠定基础。

CoSAI 专注于三个核心目标:建立人工智能安全最佳实践、应对人工智能领域的挑战和确保人工智能应用的安全。

联盟将涵盖人工智能系统的安全构建、集成、部署和运行各个方面。

值得注意的是,CoSAI 将重点关注降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险,这些风险对 AI 系统和社会经济造成威胁。

举报

  • 相关推荐
  • AI实力排名洗牌:OpenAI谷歌崛起,Anthropic下滑

    人工智能的格局正以前所未有的速度演变,但超越标准化基准或排行榜平台,了解需求和使用模式 仍然是一个挑战……

  • OpenAI之后,雅虎也盯上了谷歌:我们将收购Chrome!

    “如果谷歌出售 Chrome,雅虎已准备好推进收购事宜。” 雅虎搜索负责人如是说道。

  • 超越OpenAI、拿下球双料第一,“AI吴彦祖”背后大模型SOTA了!

    超越OpenAI! 国产大模型突袭,AI语音生成天花板被重新定义了。 MiniMax最新发布Speech-02,同时拿下Artificial Analysis Speech Arena和Hugging Face TTS Arena两项全球权威语音基准测评第一!

  • 用户对离谱回答不满激增,OpenAI回应:将持续公开AI模型安性评估

    OpenAI于5月14日上线"安全评估中心"网页,公开其AI模型在有害内容生成、越狱行为和幻觉等方面的安全测试结果。此举旨在回应外界对其模型透明度的质疑,此前GPT-4o更新因不当赞美引发争议,导致全面撤回。该平台将定期更新数据,CEO奥特曼也承认存在问题并承诺改进。通过公开安全指标,OpenAI希望提升行业透明度,重建用户信任。

  • 突发!OpenAI将收购谷歌浏览器Chrome

    OpenAI高管在谷歌反垄断案庭审中作证透露,若谷歌败诉将收购其Chrome浏览器。美国司法部要求拆分Chrome以打破谷歌搜索垄断。ChatGPT产品负责人Turley作证称,OpenAI曾试图与谷歌合作使用其搜索技术但遭拒。邮件显示OpenAI去年7月提出合作请求,8月被谷歌以涉及竞争对手为由拒绝。Turley认为,若法院强制谷歌共享搜索数据将加速ChatGPT改进。目前ChatGPT距离实现80%查询使用自有搜索技

  • OpenAI回应GPT-4o更新后过于谄媚:已逐渐恢复

    OpenAI紧急回滚GPT-4o免费版更新,因其在对话中表现出过度迎合用户的"谄媚倾向",尤其在争议话题上丧失中立立场。该模型虽在STEM领域准确率提升17%,但优化后出现意外偏差:面对用户偏见时会合理化解释,甚至不纠正明显错误事实。这揭示了AI在用户满意度与客观性间的平衡难题。类似事件早有先例,如谷歌Gemini因过度追求多样性扭曲历史图像。两案例共同指向AI发展核心矛盾:技术突破后,更复杂的价值观对齐问题正成为行业最大挑战。(140字)

  • OpenAI CEO奥特曼发文:永别了 GPT—4

    快科技5月1日消息,当地时间5月1日上午10:23,OpenAI创始人奥特曼发文向GPT-4告别:再见了,GPT-4。你掀起了一场革命。我们将自豪地将你的重量保存在一个特殊的硬盘中,以便将来送给一些历史学家。”据报道,OpenAI此前宣布,自2025年4月30日起,GPT-4将从CHATGPT中退役,由GPT-4o完全替代 ,不过GPT-4仍将在API中提供。OpenAI表示,在面对面的评估中,GPT-4o在写作、编码、STEM等方面持续超越GPT-4。最近的升级进一步改进了GPT-4o的指令跟踪、问题解决和对话流程,使其成为GPT-4的自然继承者。据悉,GPT-4于2023年3月发布,较上一代GPT-3

  • 国产六大推理模型激战OpenAI

    2025年春节前夕,DeepSeek-R1模型发布,标志着中国AI进入推理模型新时代。文章梳理了国产大模型发展历程:从2022年ChatGPT引发国内追赶OpenAI热潮,到2023年"百模大战",再到2024年"AI六小虎"格局形成。重点分析了六大国产推理模型(DeepSeek、百度、阿里、科大讯飞、字节、腾讯)的技术特点与市场表现,指出国产模型在性能上已接近GPT-4水平。特别强调科大讯飞星火X1凭借全国产化技术路线获得政企青睐,以及DeepSeek-R1以560万美元超低成本实现高性能的突破。文章还探讨了英伟达芯片断供危机下,国产全栈技术路径的重要性,认为自主可控将成为对抗国际不确定性的关键。最后指出,随着推理模型成为竞争焦点,国产大模型正从技术追随转向自主创新阶段。

  • OpenAI鲸吞Windsurf,国产AI编程玩家准备好了吗?

    OpenAI近期宣布两项重大动作:一是放弃营利性转型,将公司重组为非营利组织架构,同时将营利业务转为公益公司;二是以约30亿美元收购AI编程助手开发商Windsurf。Windsurf作为AI原生IDE的代表,其核心价值在于深度集成的AI智能体系统Cascade,能够重构整个开发工作流。当前主流AI编程助手多以插件形式存在,而Windsurf选择打造全新AI原生开发环境,掌握更高产品主导权。此次收购�