首页 > 业界 > 关键词  > 正文

蚂蚁集团、OpenAI、科大讯飞等联合编制 大模型安全国际标准发布

2024-04-17 20:10 · 稿源: 快科技
国际数字技术领域的重大突破

突破性成果在联合国科技大会上公布

在瑞士日内瓦举行的第 27 届联合国科技大会上,世界数字技术院 (WDTA) 宣布了两项革命性的国际标准:

  • 《生成式人工智能应用安全测试标准》
  • 《大语言模型安全测试方法》

这些标准是由包括 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软和腾讯在内的众多国际专家协作开发的,其中《大语言模型安全测试方法》由蚂蚁集团领衔制定。

这些标准汇集了全球人工智能安全领域的专业知识,填补了大语言模型和生成式人工智能应用安全测试领域的空白。它们为行业提供了统一的测试框架和明确的测试方法,旨在提升人工智能系统的安全性、促进负责任的 AI 技术发展,并增强公众对 AI 的信任。

WDTA 致力于推动全球数字技术发展和国际合作。AI STR(安全、可信、负责任)倡议是 WDTA 的核心项目,旨在确保人工智能系统的安全性和可信度。

蚂蚁集团是 AI STR 倡议的积极参与者。从 2015 年起,蚂蚁集团一直致力于可信 AI 技术的研究,并建立了全面的大模型综合安全治理体系。此外,蚂蚁集团还开发了业界领先的大模型安全综合解决方案 "蚁天鉴",用于评估 AIGC 的安全性和真实性。

《大语言模型安全测评方法》标准基于 "蚁天鉴" AI 安全检测体系的实践,并与全球合作伙伴共同制定。蚂蚁集团还成立了科技伦理委员会和专门团队,以评估和管理生成式 AI 的风险,确保其安全性和可信度。

举报

  • 相关推荐
  • 三登MIT“50家聪明公司”榜单,科大讯飞给出AI的“中国式解法”

    科大讯飞第三次入选MIT“50家聪明公司”榜单,其星火X1大模型以更少参数实现顶尖效果,显著领先行业同行。讯飞不仅技术实力过硬,更注重AI落地应用,赋能教育、医疗、办公等领域,服务超5万所学校、7.5万家基层机构。其全栈自主可控技术打通“任督二脉”,产品出海日韩市场受青睐,推动中文学习覆盖全球194个国家和地区。讯飞证明,真正的“聪明”在于让技术解决具体问题,而不仅是追求参数竞赛。

  • 赫力昂联合Springer Nature旗下自然定制揭秘大脑抗衰

    全球老龄化加速,大脑健康成为焦点。9月16日是中国脑健康日,9月21日是世界阿尔茨海默病日。数据显示,2020至2023年全球60岁以上人口增长40%,达14亿;中国60岁以上人口超3亿,占比22%。阿尔茨海默病带来的经济负担约占GDP的1.47%。科学界正探索维持大脑年轻态的机制,企业合作举办高峰论坛,专家分享前沿研究成果,强调40-60岁是干预黄金窗口期。复合维生素矿物质等营养干预手段显示认知改善潜力,未来需跨学科协作推动大脑抗衰研究普及。

  • 蚂蚁财富开放平台3.0升级:与机构全场景联合运营,开放三大AI助手

    我国“人工智能+”行动加速落地金融产业。证监会印发方案推动公募基金高质量发展,鼓励机构加大AI等新技术应用。蚂蚁财富开放平台3.0升级,面向金融机构开放三大AI助手,提升投研、运营和内容创作效率。数据显示AI已助力上百家金融机构提质增效,七成机构看好AI+金融价值。专家指出AI将广泛应用于投研自动化、风险预警等领域,推动财富管理向更高效、透明、普惠方向发展。

  • 华为联合伙伴景联文、吉大正元发布城市存力中心解决方案

    在2025年华为全联接大会上,华为联合景联文、吉大正元共同发布城市存力中心解决方案。该方案聚焦AI、算力与存力融合,旨在构建安全可控的数据基础设施,释放海量数据价值。通过聚合数据要素,打造数据开发、流通、治理和安全保障中心,推动城市数字化转型,助力经济高质量发展。

  • OpenAI发布GPT-5-Codex:可完成7小时单次编程任务

    OpenAI宣布推出新一代AI编程模型GPT-5-Codex,其最大亮点是创新的动态时间分配系统。 不同于传统AI追求秒级响应”,该模型可根据任务复杂度灵活调整处理时长,从数秒到7小时不等,以更接近人类专家的决策方式优化代码质量。 GPT-5-Codex产品负责人亚历山大恩比里科斯解释称,传统模型在任务初期即固定计算资源,而GPT-5-Codex能实时评估需求:动态决定加速推进、暂停语法核�

  • 海尔冰箱联合央视频发起囤鲜挑战

    9月21日,海尔冰箱联合央视视频发起“一台冰箱装下中国百味”挑战。活动首站成都,现场展示科学收纳格局与磁控全空间保鲜科技,实现食材分类精准储存,杜绝串味。挑战难点在于食材种类繁多、保鲜要求苛刻,海尔麦浪冰箱凭借576L大容量、M5分储格局及阻氧干湿分储技术,成功保持各类食材新鲜口感。在火锅宴现场,所有食材经涮煮检验,获一致好评。该冰箱搭载获国家科技进步奖的磁控保鲜科技,满足超3500种食材储鲜需求,为9月26日新品发布会预热。

  • 行业首份AI CRM选型标准发布,销售易携手中国信通院共谋AI CRM未来发展新路径

    中国信息通信研究院与销售易联合发布《智能驱动增长-人工智能客户关系管理系统研究报告》,标志着AI+CRM领域进入标准化发展新阶段。报告系统分析了AI原生架构、大模型应用及行业实践,为产业提供权威框架。销售易凭借市场领导地位、前瞻技术布局及服务大型企业的实践经验,成为行业标杆。此次合作体现了国家智库与领军企业共同推动数字经济高质量发展的示范意义。

  • 械妆联合创研未来:YOUMAGIC舒立缇研发公司与贝泰妮集团达成战略合作

    近日,YOUMAGIC舒立绯研发公司威脉医疗与专注敏感肌与皮肤健康护理的贝泰妮集团达成战略合作。双方将结合威脉医疗的临床科研能力与贝泰妮在功效护肤领域的研发优势,共同探索围手术期皮肤护理的创新解决方案。合作将开发针对术后敏感肌的专用护理产品,优化射频抗衰治疗材料,并构建“术前评估-术中防护-术后修复”的一体化全周期皮肤健康管理流程,推动医美行业向治疗与护理并重的规范化方向发展。

  • 直击企业AI安全痛点,百度智能云发布《千帆大模型平台安全白皮书》为大模型落地护航

    百度智能云千帆大模型平台4.0发布《千帆大模型平台安全白皮书》,系统阐述企业级AI安全框架。白皮书聚焦平台安全、模型安全、数据安全、内容合规等六大维度,提出覆盖全生命周期的防护方案,包括混合云部署、数据加密传输、模型防窃取及内容过滤机制,助力企业安全使用大模型技术,推动AI在合规可信环境下赋能业务创新。

  • AI日报:美团发布推理大模型LongCat-Flash-Thinking;阿里Wan-Animate开源;字节推豆包翻译大模型

    AI日报栏目聚焦人工智能领域最新动态。美团推出高性能推理大模型LongCat-Flash-Thinking;阿里开源Wan-Animate模型革新AI视频生成;字节跳动发布豆包翻译模型,支持28种语言互译;华为与浙大联合推出安全大模型DeepSeek-R1-Safe;阿里云即将发布跨模态模型Qwen3-Omni;xAI推出计算成本降低98%的Grok4Fast模型;YouTube发布多项AI创作辅助功能;IBM推出轻量级文档处理模型Granite-Docling-258M;中科院发布类脑大模型SpikingBrain实现百倍速度突破;OpenAI将推出仅限Pro用户的计算密集型新功能。

今日大家都在搜的词: