突破性成果在联合国科技大会上公布
在瑞士日内瓦举行的第 27 届联合国科技大会上,世界数字技术院 (WDTA) 宣布了两项革命性的国际标准:
- 《生成式人工智能应用安全测试标准》
- 《大语言模型安全测试方法》
这些标准是由包括 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软和腾讯在内的众多国际专家协作开发的,其中《大语言模型安全测试方法》由蚂蚁集团领衔制定。
这些标准汇集了全球人工智能安全领域的专业知识,填补了大语言模型和生成式人工智能应用安全测试领域的空白。它们为行业提供了统一的测试框架和明确的测试方法,旨在提升人工智能系统的安全性、促进负责任的 AI 技术发展,并增强公众对 AI 的信任。
WDTA 致力于推动全球数字技术发展和国际合作。AI STR(安全、可信、负责任)倡议是 WDTA 的核心项目,旨在确保人工智能系统的安全性和可信度。
蚂蚁集团是 AI STR 倡议的积极参与者。从 2015 年起,蚂蚁集团一直致力于可信 AI 技术的研究,并建立了全面的大模型综合安全治理体系。此外,蚂蚁集团还开发了业界领先的大模型安全综合解决方案 "蚁天鉴",用于评估 AIGC 的安全性和真实性。
《大语言模型安全测评方法》标准基于 "蚁天鉴" AI 安全检测体系的实践,并与全球合作伙伴共同制定。蚂蚁集团还成立了科技伦理委员会和专门团队,以评估和管理生成式 AI 的风险,确保其安全性和可信度。
(举报)