首页 > 传媒 > 关键词  > 正文

腾讯安全王翔:AIGC企业需构建全链路内容治理体系

2023-10-20 15:02 · 稿源: 站长之家用户

自ChatGPT发布以来,生成式人工智能研究与应用热度居高不下。和以往的人工智能技术相比,生成式人工智能(AIGC)体现出强人机交互、强语料依赖等典型特征,在技术发展与风险控制两方面存在诸多挑战。

10 月 18 日,为进一步促进AIGC服务健康发展和规范应用,推动高校院所与产业界协同创新,由北京市科学技术协会指导,北京软件和信息服务业协会主办,北京人工智能产业联盟人工智能安全专委会协办的“生成式人工智能应用与安全”专场活动在北京举办,来自信通院、中国政法大学、腾讯等各界专家学者受邀参会。在圆桌交流会上,腾讯安全内容安全总经理王翔围绕AIGC相关政策、技术趋势、安全风险与治理等问题作重点分享。

王翔介绍到,随着《生成式人工智能服务管理暂行办法》正式施行,我国首 次填补在生成式人工智能研发与服务方面的政策空白,这也是全球首部针对生成式人工智能进行监管的法律文件。“《办法》对生成式人工智能服务实行包容审慎和分类分级监管,规定推动公共数据分类分级有序开放,将促进行业的发展和应用更加健康规范,进一步激发市场活力和社会创造力。”

生成式人工智能的发展,标志着人工智能正在从专用智能发展到通用智能,进入了崭新的发展阶段。相关数据显示,我国人工智能产业蓬勃发展,核心产业规模达到 5000 亿元,创新成果不断涌现,AIGC行业将迎来更大的发展机遇。其中,AIGC厂商共有 300 多家,主要分为应用层、模型层、数据层、算力层。王翔提到,目前应用层厂商占极大比重,主要集中在营销、客服、办公、交互设计、数字人、写作助手等六大场景,因此能够快速贴合终端用户的公司仍有机会突破;而模型层、数据层、算力层的技术要求则相对较高,因此这些赛道的企业需重点围绕效果、成本、服务质量不断精进,以实现更大的突破。

生成式人工智能的快速发展也存在内容安全、数据安全、AI应用安全等诸多潜在风险。从风险来源来看,基本涵盖模型训练阶段、生成阶段到应用上线之后的全链路;从风险类型来看,数据质量和可信度问题、对抗样本攻击、信息安全问题、技术滥用和道德风险、用户隐私和身份安全等问题同样饱受诟病。此外,由于AIGC的生成能力主要来自数据和模型,而数据来源本身可能就会产生侵犯他人著作权、肖像权、名誉权、个人信息等多项权利的风险,因此全球范围内关于如何保护人类主体的智力活动呼声将会越来越高。

王翔提到,AIGC赛道的企业需严格把控从模型训练到上线运营的全链路内容安全治理,保障数据源的真实、无害和可用性,同时搭建安全团队,通过机器审核+人工审核对生成内容进行全方位审核,以满足监管需求和避免侵权问题。同时,企业也可以寻求外部三方厂商的接入和助力。

针对这些问题,腾讯安全具备AIGC全链路的内容安全解决方案,提供包含审校服务、安全专家服务、机器审核服务、版权保护服务四大能力板块,覆盖AIGC类应用从模型训练到内容生成再到事后运营全过程的内容安全建设,可以助力企业更有效地应对挑战。

该方案可以通过三个层面的风控措施来帮助企业解决AIGC内容风控难题。首先是在输入端部署相应的风控策略,来判断输入指令是否违规,从源头上避免违规内容的产出。然后再加以屏蔽的措施,例如当输入的违规词条触发部署的风控策略后,该词条会反馈给客户,并提示问法有问题,或者是不合规等等,以避免不合规的消息吐出。在输出端也会进行相应风控,可以通过标记黑样本并保存至样本库,在输出端匹配关联特征并拦截,避免模型生成不合规内容。

目前,腾讯安全在AIGC内容安全领域有多个场景实践落地,为文生文、文生图、医疗级视频内容、长小说文本等类型企业提供内容安全服务。从 2019 年 9 月起, 腾讯安全就对B站平台上UP主上传的原创视频进行版权监测服务,累计监测作品 500 余万部,累计发现侵权链接近 3000 万条,发起维权近百万次,维权成功率达98%。此外,依托丰富的版权素材库,腾讯安全通过“生成图片”与“图片库”的版权比对,成功帮助某文生图AIGC创作APP消除侵权风险。

王翔提到,“虽然全世界都在积极拥抱AIGC,但其内容安全风险也将给社会、经济、文化等多个层面带来影响,如何促进生成式人工智能有序健康发展值得政府、企业等社会各界共同关注。未来,腾讯会秉持科技向善理念,打造安全可信的AIGC技术和应用,助力AIGC时代实现高质量、健康可持续的发展。”

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • Version AI:AI版本管理,自动化API和端点版本控制

    apiversion.dev是一个基于人工智能的平台,可以自动化API和端点版本控制,确保准确和标准化的版本号。它提供全面的版本历史记录、语义版本控制、日历版本控制、增量版本控制等功能。同时,它还支持开发者反馈、沟通、更新监控、增强客户信心和提高开发效率。不同的定价计划适用于不同阶段的创业公司和企业。

  • Omnifact:隐私第一的企业生成式AI平台

    Omnifact是专为工作场所打造的隐私第一的生成式AI平台。充分利用生成式AI的潜力,同时保护您的数据主权。Omnifact提供安全的企业级生成式AI平台,旨在提升生产力,简化知识管理,推动创新,并优先考虑数据安全和隐私。

  • ProDream:你的一站式学术写作AI解决方案

    ProDream是你在学术写作中的一站式AI解决方案。ProDream的AI写作助手可以提高你的写作速度,提升写作技巧,协助研究论文,简化引用,避免抄袭。我们的AI助手由经验丰富的专家团队提供支持,拥有几十年的学术经验,并通过Harvard Innovation Lab和Microsoft Founders Hub孵化。

  • sunoh.ai:AI医学记录助手

    Sunoh是一款基于人工智能的医学记录助手,将医生和患者之间的自然对话转化为临床记录。Sunoh为医生和患者提供独特而沉浸式的体验,使临床记录的过程比以往更快捷高效。与您的电子健康记录系统(EHR)一起使用,加速您的记录工作。

  • Nara AI: | 通过拍照解答数学和物理题

    Nara AI是一款通过拍照解答数学和物理题的智能应用。它能快速准确地解答各种难题,提供易于理解的解题步骤和解析。Nara AI已经在印度尼西亚被数百名学生使用,受到广泛好评。价格信息请访问官方网站。

  • TuingAI:启迪新时代的产品营销!

    图应是一款基于AIGC技术的产品营销工具,帮助用户快速、高效、经济地创建高质量商品图,提升商拍效果,降低成本。通过AI模特、真人人台和AI商品图等功能,为用户提供全方位的图像处理服务。无论是艺术创作、设计还是商业运营,图应都能帮助您轻松实现独特且引人注目的图像效果。

  • PDF Flex | AI Chat with PDF:转换PDF文件,即时聊天与PDF并获取深度答案

    PDF Flex是一款能够帮助用户转换PDF文件格式并与PDF进行即时聊天的工具。它可以将PDF文件转换成多种格式,并且可以向PDF提问问题并立即获得详细回答,提高研究效率。PDF Flex还提供了丰富的功能和使用场景,适用于个人和企业用户。定价方案包括免费和付费版本,用户可以根据自己的需求选择合适的版本。

  • Pen2txt:手写识别AI助手

    Pen2txt是一款利用OCR和人工智能进行手写文本识别的产品。它可以将手写笔记转换为可编辑、可搜索的数字文本,适用于学生、专业人士以及任何需要将纸质文件转换为数字形式的人群。Pen2txt凭借准确、可搜索和可编辑的结果,提高了工作效率。

  • SheetMagic:在Google Sheets中使用AI和无限网络爬虫

    SheetMagic是一个在Google Sheets中使用AI和无限网络爬虫的插件。它能够生成AI内容和AI图片,实现无限的AI提示,并且能够从网站和搜索引擎结果页面获取实时数据。除此之外,它还可以进行数据分析、数据准备和其他多种功能,全部在Google Sheets内完成。

  • Nurmonic: 你的全能 Discord 机器人

    Nurmonic 是一款功能全面的 Discord 机器人,提供聊天互动、图片视频生成、支持票务等多项功能。适用于各类 Discord 社群,为用户带来便利和娱乐。价格根据不同版本和功能选项而定。

  • KaraboAI:为您的业务创建自定义的AI聊天机器人

    KaraboAI Custom ChatGPT Chatbots是一个用于网站的自定义AI聊天机器人平台。您可以在2分钟内创建定制的AI聊天机器人,并嵌入到您的网站中。该聊天机器人可以根据您的业务需求执行各种复杂任务,如知识检索、商务咨询、数据收集、预约日历、电子商务、报价生成和预订管理等。它提供方便的上游数据集成和下游聊天机器人部署集成,支持多种功能和定价选项。

  • Studia AI:使用AI创建您自己的课程

    Studia AI是一个使用人工智能生成学习步骤的平台。它可以帮助用户创建自己的课程,包括功能丰富的学习步骤生成、个性化定制、智能推荐等。定价根据不同的套餐和功能进行收费。

  • Filmora:易於使用的影片編輯軟體

    Wondershare Filmora是一款簡單易用的影片編輯器,可讓您在Windows和Mac上編輯影片和音訊。Filmora提供了豐富的功能和創意視覺效果,讓您可以創建令人驚嘆的影片。它定位於個人和小型企業用戶,並有多個定價方案供選擇。

  • Dreamora: AI解梦

    Dreamora是一款基于人工智能技术构建的解梦应用,提供准确全面的梦境解释。它包含了从伊本·西里恩(Ibn Sirin)和阿尔·纳布尔西(Al-Nabulsi)等主要解梦师那里得出的所有梦境解释,还有最新的信息和持续更新。只需将您的梦境输入应用程序,人工智能将在几秒钟内提供准确的解释。最重要的是,使用这个应用程序完全免费。

  • Suinfy:AI-powered YouTube视频摘要器

    Suinfy是一个AI-powered YouTube视频摘要器,提取长视频中的关键思想和见解。节省您的时间,提高您的生产力。

  • Amplifiles:转化PDF为动态体验

    Amplifiles可以将PDF转化为动态体验,为销售和营销专业人员提供AI语音解说、自定义CTA、CRM集成等功能,提升销售效果。详细定价和功能列表请访问官网了解。

  • ImageAI.QA:100%免费AI图片描述生成器

    AI图片描述生成器是一个能够使用人工智能自动生成图片描述的工具。它可以帮助艺术家、设计师等创作者揭示他们作品背后的隐藏细节、情感和含义。该工具提供全新的视角,让人们可以更深入地理解和欣赏艺术作品。AI图片描述生成器是一个早期测试版本,部分功能可能还不稳定。如果您在使用过程中遇到任何问题或有任何建议,请随时与我们联系。您的反馈对我们非常重要,将帮助我们改进该工具。

  • SpeedProof:快速修改、检查语法、翻译、解释、总结

    SpeedProof: One-Click AI Text Edit是一个一键式的AI文本编辑插件,可以快速修改、检查语法、翻译、解释和总结所选文本。只需选中文本,点击SpeedProof插件图标,选择所需操作即可使用ChatGPT进行修改。支持检查语法、总结、翻译、重新表达等功能,可在任何语气下进行操作。

  • AI Detector:检测AI生成的内容

    AI Detector是一个在线工具,使用先进的算法和机器学习来检测文本是否由AI生成。它可以分析写作风格和句子结构,判断内容是否由ChatGPT、GPT 4、Bard、Claude或人类创作。您可以免费使用AI Detector,每次最多检测1000个字,并获得95%的准确率。

  • WitChat:AI支持的最佳客户服务系统

    WitChat是一款具有AI集成的客户服务系统。我们的软件通过文本、手机、电话、电子邮件、聊天和社交媒体等多种渠道增强客户互动体验。

今日大家都在搜的词: