突破性成果在联合国科技大会上公布
在瑞士日内瓦举行的第 27 届联合国科技大会上，世界数字技术院 (WDTA) 宣布了两项革命性的国际标准：
- 《生成式人工智能应用安全测试标准》
- 《大语言模型安全测试方法》
这些标准是由包括 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软和腾讯在内的众多国际专家协作开发的，其中《大语言模型安全测试方法》由蚂蚁集团领衔制定。
这些标准汇集了全球人工智能安全领域的专业知识，填补了大语言模型和生成式人工智能应用安全测试领域的空白。它们为行业提供了统一的测试框架和明确的测试方法，旨在提升人工智能系统的安全性、促进负责任的 AI 技术发展，并增强公众对 AI 的信任。
WDTA 致力于推动全球数字技术发展和国际合作。AI STR（安全、可信、负责任）倡议是 WDTA 的核心项目，旨在确保人工智能系统的安全性和可信度。
蚂蚁集团是 AI STR 倡议的积极参与者。从 2015 年起，蚂蚁集团一直致力于可信 AI 技术的研究，并建立了全面的大模型综合安全治理体系。此外，蚂蚁集团还开发了业界领先的大模型安全综合解决方案 "蚁天鉴"，用于评估 AIGC 的安全性和真实性。
《大语言模型安全测评方法》标准基于 "蚁天鉴" AI 安全检测体系的实践，并与全球合作伙伴共同制定。蚂蚁集团还成立了科技伦理委员会和专门团队，以评估和管理生成式 AI 的风险，确保其安全性和可信度。
（举报）