首页 > 业界 > 关键词  > 微软最新资讯  > 正文

微软推出 Azure AI 内容安全服务:帮助用户检测和过滤有害的 AI 和用户生成的内容

2023-10-19 10:08 · 稿源:站长之家

站长之家(ChinaZ.com) 10月19日消息: 微软宣布全面推出 Azure AI Content Safety 内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的 AI 和用户生成的内容

微软

该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论

「通过关注内容安全,我们可以创建一个更安全的数字环境,促进 AI 的负责任使用,并保护个人和整个社会的福祉,」Azure Anomaly Detector 产品经理 Louise Han 在一篇博文中宣布了该服务的推出。

Azure AI Content Safety 具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用 AI 算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的 360 度全面的安全措施。

该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从 0 到 7。

0-1 级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为 2-3 级,即低级别。

中等严重性的内容被评为 4-5 级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为 6-7 级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。

Azure AI Content Safety 还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。

「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着 AI 生成的内容变得普遍,确保 AI 生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对 AI 技术的信任,」Han 写道。

Azure AI Content Safety 的定价基于按需付费。有兴趣的用户可以在 Azure AI Content Safety 定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。

举报

  • 相关推荐
  • 政策引领人工智能教育全面启动,猿力科技人工智能通识课覆盖千校

    国务院推动“人工智能+”行动,北京中小学新学期首次系统开设人工智能通识课程,每学年不少于8课时。猿力科技旗下飞象星球成为重要推动力量,其课程覆盖小学至初中全学段,包含10门课程、160节课,实践导向突出。该课程已服务北京298所学校、9.8万名学生,并推广至全国25个省市超1000所学校,覆盖15万学生,成为国内覆盖最广的人工智能通识课程之一。

  • 三旺通信入选大湾区人工智能+重点企业榜单TOP50

    8月27日,三旺通信在2025深圳国际通用人工智能大会上荣登“2025粤港澳大湾区人工智能+重点企业TOP50”榜单。该公司深耕工业互联领域二十余年,凭借在工业通信、边缘计算等领域的技术积累,积极布局AI应用,将人工智能能力融入智能制造、智慧交通等重点场景,推动产业实现更高效、更安全的数字化升级。未来,三旺通信将继续依托深圳及大湾区创新沃土,以开放姿态拥抱AI产业生态,携手产业链上下游共同推动人工智能与工业互联网的深度融合。

  • 迎“人工智能+”政策东风!2025中国智能产业大会&吴文俊人工智能创新大会即将落地常州

    在全球AI竞争加剧背景下,国务院印发《关于深入实施“人工智能+”行动的意见》,推动AI与经济社会深度融合。中国人工智能学会主办的“2025第十四届中国智能产业大会暨吴文俊人工智能创新大会”将于8月30-31日在常州举行,聚焦破解AI产业“卡脖子”难题。大会设置15场专题会议和3场特色活动,覆盖基础技术突破、核心应用落地、交叉学科融合等领域,为产学研各界搭建高

  • 北电数智亮相世界人工智能大会,“四链融合”推动AI产业落地

    2025世界人工智能大会“人工智能+”战略领军人才与创新发展论坛圆满落幕。论坛聚焦“人才领航智启未来”主题,汇聚中科院、社科院专家及中国联通、腾讯云等机构代表,围绕“人工智能+”行动分享经验,为AI高质量发展筑牢人才根基、激发创新动能。北电数智CMO杨震出席并发表演讲,分享AI行业落地实践,强调紧跟国家战略,推进产业、创新、人才、资本四链融合,打造面向不同场景的AI解决方案,全方位助力AI产业发展。

  • 下一个爆款在哪儿?2025英特尔人工智能创新应用大赛获奖名单揭晓

    8月16日,2025英特尔人工智能创新应用大赛总决赛在深圳落幕。40支优秀团队从2817支队伍中脱颖而出,围绕工业、教育、心理健康、游戏等领域展开对决。大赛展示了AI从云端走向边缘的趋势,依托酷睿Ultra处理器和低代码开发工具,推动AI应用本地化落地。获奖作品包括动力电池机器人协作拆卸系统和AI生成PPT服务,体现AI与产业需求的深度融合。英特尔与联想、惠普等合作伙伴共同为开发者提供全栈支持,加速AI技术普及和商业化进程。

  • 微算法科技(NASDAQ:MLGO)基于人工智能优化构建混合ARIMA模型,提高比特币价格预测准确性

    随着数字资产市场兴起,比特币等加密货币价格预测成为焦点。传统模型难以准确捕捉其非线性波动,微算法科技引入AI技术优化ARIMA模型,结合LSTM网络构建混合模型,提升预测准确性。通过AI算法自动处理数据缺失、异常值检测及参数优化,实现更可靠的比特币价格预测,为投资者提供决策支持。

  • 海尔冰箱唯一获批“制冷家电人工智能技术山东省工程研究中心”

    海尔冰箱在人工智能领域取得新突破,主导建设的"制冷家电人工智能技术山东省工程研究中心"成为2025年山东省工程研究中心认定名单中唯一入选的冰箱品牌。该中心聚焦人工智能、物联网、大数据等技术方向,开发了全空间智慧保鲜舱冰箱等140多项行业首创产品,近三年获授权发明专利803件。海尔冰箱还推出行业首款接入DeepSeek的AI全空间保鲜冰箱,具备方言识别、降噪技术等功能,显著提升用户体验。市场数据显示,2023年1-7月海尔冰箱以47%市场份额稳居行业第一。通过AI技术赋能,海尔冰箱正引领行业向精准、智能保鲜时代跨越。

  • ISC.AI 2025 人工智能安全治理与创新实践论坛圆满召开

    ISC.AI2025人工智能安全论坛在北京召开,聚焦AI安全治理与创新实践。论坛汇集顶尖专家,探讨大模型安全评估与防护、智能体安全、AI治理等前沿议题。360集团张向征指出,随着Agent技术爆发式应用,AI安全已成为产业核心焦点。专家们强调需构建AI安全防护体系,应对大模型直接访问核心系统带来的全新挑战。中国电子院彭健提出企业合规建设需关注九大要素,清华大学苏航揭示智能体安全风险远超传统AI。华为云范建军倡导端到端大模型安全防护,中国信通院杨哲超呼吁构建协同治理框架。论坛为构建安全、普惠、负责任的人工智能未来贡献智慧。

  • 用AI构建智能生态 三星Galaxy开启AI手机主流时代

    过去十余年,智能手机发展从性能提升转向影像升级,如今AI成为核心动力。AI已渗透信息获取、跨应用操作及影像创作等方方面面,改变用户习惯。三星Galaxy AI通过多模态感知与跨应用执行能力,显著提升日常效率。调查显示近半数用户高度依赖AI功能,语音指令使用率与打字相当。AI正从尝鲜走向普及,推动行业进入智能体验主导的新周期。

  • 微软发布AI截图工具,截图一键转PPT

    微软电脑管家推出全新“智能圈选”功能,通过AI技术实现截图内容的智能识别与重构。用户只需圈选截图区域,即可一键完成文字提取、多语言翻译及PPT转换等操作,大幅提升办公和学习效率。该功能支持100多种语言,保留原始格式,并能智能修复遮挡内容,彻底改变了传统截图处理方式。

今日大家都在搜的词:

热文

  • 3 天
  • 7天