首页 > 业界 > 关键词  > OpenAI最新资讯  > 正文

OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺

2024-05-24 09:15 · 稿源:站长之家

站长之家(ChinaZ.com) 5月24日 消息:近日,OpenAI、谷歌、微软和智谱AI等来自不同国家和地区的16家公司,在“人工智能首尔峰会”(AI Seoul Summit)上共同签署了前沿人工智能安全承诺(Frontier AI Safety Commitments)。这一承诺标志着AI开发领域的一次重大进展,旨在加强AI技术的安全性和透明度。

人工智能审查 监管

图源备注:图片由AI生成,图片授权服务商Midjourney

1. 承诺要点

  • 确保前沿AI安全的负责任治理结构和透明度
  • 基于人工智能安全框架,负责任地说明如何衡量前沿AI模型的风险
  • 建立前沿AI安全模型风险缓解机制的明确流程

图灵奖得主Yoshua Bengio认为,这一承诺的签署是建立国际治理制度以促进人工智能安全的重要一步。OpenAI全球事务副总裁Anna Makanju也表示,这一承诺是推动先进AI系统安全实践的重要一步。

2. 背景与动因

近期,OpenAI联合创始人、首席科学家Ilya Sutskever与OpenAI超级对齐团队共同领导人Jan Leike相继离开OpenAI。Leike在X发布帖子,批评OpenAI忽视安全问题。这一事件在业界引发广泛关注,凸显了当前AI安全问题的严峻性。

5月21日,图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等业内专家在《Science》期刊上刊文,呼吁世界各国领导人采取更有力的行动应对AI风险,警告AI的无节制发展可能导致生命和生物圈的大规模损失。

作为中国的大模型公司,智谱AI也签署了前沿人工智能安全承诺。智谱AI在顶会ICLR2024上分享了他们的AI安全具体做法,强调了超级对齐技术在提升大模型安全性方面的重要性。智谱AI透露,其GLM-4V模型内置了安全措施,以防止有害或不道德行为,保护用户隐私和数据安全。

5月22日,欧盟理事会正式批准了《人工智能法案》(AI Act),这是全球首部AI全面监管法规,将于下月生效。这部具有里程碑意义的法案采用“基于风险”的方法,规定对社会造成更高风险的AI技术需要遵守更严格的规则,对违反规定的公司将处以严厉罚款。

比利时数字化大臣Mathieu Michel表示,这一法案是世界上第一部此类法规,旨在解决全球性技术挑战,同时为社会和经济创造机遇。

总结

AI安全问题正在全球范围内引起广泛关注。从企业到政府,各方都在采取措施预防和解决AI安全问题。OpenAI、谷歌、微软和智谱AI等公司的前沿人工智能安全承诺,以及欧盟《人工智能法案》的出台,都是为确保AI技术安全发展的重要举措。随着AI技术的不断进步,确保其安全性和透明度将是各方共同努力的方向。

举报

  • 相关推荐
  • “人工智能强化学习可持续发展计划”发布,“教育普惠+标准共建”助力全球人工智能体系构建

    6月11日,第二届"一带一路"科技交流大会人工智能赋能可持续发展论坛在成都举行。腾讯联合多家机构发起"人工智能强化学习可持续发展计划",包含AI教育普惠和强化学习标准共建两大板块。该计划将面向全球高校开放《人工智能通识课》和《人工智能强化学习专业课》教学资源,助力构建高质量AI教学体系。同时,腾讯开悟人工智能全球公开赛颁奖典礼作为"学赛研产"联动的重要环节,吸引了19个国家和地区的近400所高校队伍参赛。2025年赛事将首次联合全国高校计算机能力挑战赛,围绕AI前沿产业真实场景设置赛题。腾讯还通过"青云计划"为全球顶尖AI人才提供就业机会,推动人才与产业高质量发展。北京大学等机构牵头制定了强化学习系统系列技术标准,填补了领域内标准空白。

  • 人工智能创新创业大赛进入关键评审阶段,前沿AI项目角逐决赛席位

    "智汇运河·智算未来"人工智能创新创业大赛进入关键阶段。经过全球征集筛选,50个代表AI前沿创新的项目脱颖而出,涵盖智能制造、智慧城市、生命健康、智慧物流四大"AI+"赛道。赛事聚焦技术突破性、模式创新性和产业落地潜力,旨在推动AI技术从实验室走向应用场景。杭州拱墅区通过大赛汇聚全球智慧,加速构建人工智能产业高地。7月6日决赛将展现顶尖项�

  • 寒武纪荣获2025人工智能领域金牛上市公司科创奖

    2025科创金牛奖获奖名单揭晓,寒武纪凭借在人工智能芯片领域的卓越表现,荣获人工智能领域金牛奖。该奖项由中国证券报打造,是中国资本市场最具影响力的奖项之一。寒武纪专注AI芯片研发,提供云边端一体化智能芯片产品和平台化基础系统软件,其通用型智能芯片产品技术壁垒高、应用场景广。2024年公司研发投入达10.72亿元,新增专利授权314项。此次获奖既是对其科技创新成果的肯定,也是对其推动AI技术产业化应用的认可。未来寒武纪将加速产品迭代升级,为我国人工智能产业发展筑牢技术根基。

  • 极光GPTBots成功完成“生成式人工智能服务登记”

    极光旗下AI开发平台GPTBots.ai近日在广东省网信部门完成生成式人工智能服务登记,成为合规经营的AI服务提供商。该平台严格遵循国家《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法规要求,标志着其在技术创新、服务模式和数据安全等方面获得关键合规认可。此次登记体现了极光对法律法规的严格遵守和对安全责任的高度重视,为区域AI生态发展注入新活力。未来,极光将继续优化技术与服务,保障用户权益,推动生成式AI技术的健康规范发展。

  • GAITC2025全球人工智能技术大会 | 每日互动方毅:开源大模型+闭源小数据是AI时代的重要路径

    文章探讨了"人工智能"更应称为"人造智能",对应"神造智能"的概念。作者指出AI模拟了神造智慧过程中的规律,人类可从AI身上重新学习"神"的智慧。通过三种棋类游戏分析AI发展:五子棋代表专注规则,深蓝代表深度思考,AlphaGo代表强化学习。数据是AI的重要命脉,需通过可信数据空间转化使用。AI已在交通安全、医疗健康、反诈宣传等领域带来改变,如高速视觉AI检测、脑卒中早筛模型等。未来最重要的是个人知识库和提问能力,人类需学会驾驭AI而非被其取代,2%的人将成为定义问题的深度思考者,98%则是幸福生活者。技术应成为托举大众的方舟而非割裂世界的鸿沟。

  • 专业AI工具导航与人工智能学习平台AIbase.cn 连接现在与AI未来的智能桥梁

    AI技术正重塑各行各业,从语音助手到自动驾驶,从医疗诊断到金融分析,已从科幻变为现实。面对AI快速发展,许多人感到迷茫:如何跟上技术前沿?如何在AI浪潮中找到机遇?AIbase.cn应运而生,致力于成为连接现在与未来的智能桥梁。平台汇聚全球最新AI资讯、实用技术资源和前沿行业洞察,为新手、开发者和企业家提供一站式解决方案。核心服务体系包括:前沿资讯精选、精品AI工具库、系统化教程、商业化指南和开发者生态支持。通过专业内容与活跃社区,帮助用户在快速变化的AI领域保持敏锐洞察力,实现从概念到应用的跨越。AIbase.cn已成为数万AI从业者的首选平台,期待与您共同探索智能时代的无限可能。

  • 国内有哪些AI新闻网站?2025年最全人工智能资讯平台推荐

    本文介绍了国内优质AI新闻网站,帮助读者快速掌握人工智能领域最新动态。重点推荐了AIbase.cn、机器之心、量子位和AI工具集四个平台,分别从资讯全面性、技术深度、行业洞察和工具导航等角度分析其特色。文章指出,在AI技术快速迭代的背景下,专业AI新闻网站能提供更及时、深入的行业资讯,建议读者根据需求选择合适平台,建立日常阅读习惯,多元化获取信息,并积极参与社区讨论,以保持对行业趋势的敏锐度。

  • 微算法科技(NASDAQ:MLGO)将人工智能驱动的任务调度策略与边缘计算区块链集成,增强物联网系统稳定性

    物联网(IoT)技术快速发展,边缘计算成为解决海量数据处理的关键方案。微算法科技(NASDAQ:MLGO)创新性地将AI驱动的CO-ETS任务调度策略与区块链技术结合,构建了智能、安全、高效的物联网任务调度系统。该系统通过模拟棕熊觅食行为的优化算法,动态调整任务分配,最小化能耗并最大化执行效率;同时利用区块链技术确保任务调度的透明性和不可篡改性。该方案可广泛应用于智慧城市、工业物联网和智能家居等领域,显著提升系统性能和安全性,为物联网发展带来革命性突破。

  • 微算法科技(NASDAQ:MLGO)基于可解释的人工智能技术XAI,增强区块链网络威胁检测的决策能力

    微算科技(NASDAQ:MLGO)创新性地将可解释人工智能(XAI)技术应用于区块链网络安全领域,开发出智能威胁检测系统。该系统通过深度学习模型识别攻击模式,并利用可解释性模块清晰展示决策依据,显著提升了检测准确率和可信度。目前已成功应用于异常交易识别、恶意节点检测和智能合约审计等多个场景,帮助区块链网络实现更高效、透明的安全防护。该技术不仅提高了威胁检测能力,也为后续模型优化提供了依据,未来将在更广泛领域推动构建更安全的网络空间。

  • 长红30多年,全球第一的冰淇淋公司要IPO

    当各家冰淇淋品牌“争奇斗艳”的时候,国际冰淇淋巨头“梦龙冰淇淋”也在这个热浪滚滚的七月迎来关键进展。 7月1日,梦龙冰淇淋公司正式完成了从联合利华集团的剥离。一直以来,联合利华的冰淇淋业务拥有和路雪、梦龙、可爱多等多个知名品牌,占据全球20%的市场份额,是名副其实的冰淇淋巨头。 若用2024年份额绝对值来计算,联合利华冰淇淋业务的体量约等于2个雀