首页 > 传媒 > 关键词  > 正文

腾讯安全王翔:AIGC企业需构建全链路内容治理体系

2023-10-20 15:02 · 稿源: 站长之家用户

自ChatGPT发布以来,生成式人工智能研究与应用热度居高不下。和以往的人工智能技术相比,生成式人工智能(AIGC)体现出强人机交互、强语料依赖等典型特征,在技术发展与风险控制两方面存在诸多挑战。

10 月 18 日,为进一步促进AIGC服务健康发展和规范应用,推动高校院所与产业界协同创新,由北京市科学技术协会指导,北京软件和信息服务业协会主办,北京人工智能产业联盟人工智能安全专委会协办的“生成式人工智能应用与安全”专场活动在北京举办,来自信通院、中国政法大学、腾讯等各界专家学者受邀参会。在圆桌交流会上,腾讯安全内容安全总经理王翔围绕AIGC相关政策、技术趋势、安全风险与治理等问题作重点分享。

王翔介绍到,随着《生成式人工智能服务管理暂行办法》正式施行,我国首 次填补在生成式人工智能研发与服务方面的政策空白,这也是全球首部针对生成式人工智能进行监管的法律文件。“《办法》对生成式人工智能服务实行包容审慎和分类分级监管,规定推动公共数据分类分级有序开放,将促进行业的发展和应用更加健康规范,进一步激发市场活力和社会创造力。”

生成式人工智能的发展,标志着人工智能正在从专用智能发展到通用智能,进入了崭新的发展阶段。相关数据显示,我国人工智能产业蓬勃发展,核心产业规模达到 5000 亿元,创新成果不断涌现,AIGC行业将迎来更大的发展机遇。其中,AIGC厂商共有 300 多家,主要分为应用层、模型层、数据层、算力层。王翔提到,目前应用层厂商占极大比重,主要集中在营销、客服、办公、交互设计、数字人、写作助手等六大场景,因此能够快速贴合终端用户的公司仍有机会突破;而模型层、数据层、算力层的技术要求则相对较高,因此这些赛道的企业需重点围绕效果、成本、服务质量不断精进,以实现更大的突破。

生成式人工智能的快速发展也存在内容安全、数据安全、AI应用安全等诸多潜在风险。从风险来源来看,基本涵盖模型训练阶段、生成阶段到应用上线之后的全链路;从风险类型来看,数据质量和可信度问题、对抗样本攻击、信息安全问题、技术滥用和道德风险、用户隐私和身份安全等问题同样饱受诟病。此外,由于AIGC的生成能力主要来自数据和模型,而数据来源本身可能就会产生侵犯他人著作权、肖像权、名誉权、个人信息等多项权利的风险,因此全球范围内关于如何保护人类主体的智力活动呼声将会越来越高。

王翔提到,AIGC赛道的企业需严格把控从模型训练到上线运营的全链路内容安全治理,保障数据源的真实、无害和可用性,同时搭建安全团队,通过机器审核+人工审核对生成内容进行全方位审核,以满足监管需求和避免侵权问题。同时,企业也可以寻求外部三方厂商的接入和助力。

针对这些问题,腾讯安全具备AIGC全链路的内容安全解决方案,提供包含审校服务、安全专家服务、机器审核服务、版权保护服务四大能力板块,覆盖AIGC类应用从模型训练到内容生成再到事后运营全过程的内容安全建设,可以助力企业更有效地应对挑战。

该方案可以通过三个层面的风控措施来帮助企业解决AIGC内容风控难题。首先是在输入端部署相应的风控策略,来判断输入指令是否违规,从源头上避免违规内容的产出。然后再加以屏蔽的措施,例如当输入的违规词条触发部署的风控策略后,该词条会反馈给客户,并提示问法有问题,或者是不合规等等,以避免不合规的消息吐出。在输出端也会进行相应风控,可以通过标记黑样本并保存至样本库,在输出端匹配关联特征并拦截,避免模型生成不合规内容。

目前,腾讯安全在AIGC内容安全领域有多个场景实践落地,为文生文、文生图、医疗级视频内容、长小说文本等类型企业提供内容安全服务。从 2019 年 9 月起, 腾讯安全就对B站平台上UP主上传的原创视频进行版权监测服务,累计监测作品 500 余万部,累计发现侵权链接近 3000 万条,发起维权近百万次,维权成功率达98%。此外,依托丰富的版权素材库,腾讯安全通过“生成图片”与“图片库”的版权比对,成功帮助某文生图AIGC创作APP消除侵权风险。

王翔提到,“虽然全世界都在积极拥抱AIGC,但其内容安全风险也将给社会、经济、文化等多个层面带来影响,如何促进生成式人工智能有序健康发展值得政府、企业等社会各界共同关注。未来,腾讯会秉持科技向善理念,打造安全可信的AIGC技术和应用,助力AIGC时代实现高质量、健康可持续的发展。”

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 知了zKnown:致力于信息降噪 / 阅读提效的个人知识助手

    知了 zKnown 是一款 AI-Native 构建的个人知识助手,专注于信息降噪和阅读提效。它通过多端同步、多渠道总结、长文本支持等功能,帮助用户高效地管理和整理信息。产品的主要优点包括:- 多端同步:用户可以在移动app、桌面客户端、网页版、小程序等多个平台同步使用。- 多渠道总结:支持微信公众号、知乎、简书、36Kr、少数派等多个渠道的文章总结。- 长文本支持:最长支持总结3万字的文章内容。- 摘要导出:用户可以将摘要保存到 Notion、Flomo 等平台。- 产品背景:知了 zKnown 致力于通过 AI 技术提升用户的阅读和信息管理效率,适合需要高效处理大量信息的用户。

  • MBox AI Meet:实时转录与会议总结的谷歌会议扩展

    MBox AI Meet是一款免费Chrome扩展,专为Google Meet设计,提供实时转录和自动生成会议总结的功能。它利用AI技术帮助用户在会议中专注于讨论,而无需担心记笔记。该工具通过实时转录捕捉会议的每一个细节,并在会议结束后自动生成总结,确保用户不会错过任何重要信息。MBox AI Meet的隐私优先策略确保会议安全,不存储任何音频或视频内容。此外,该扩展还计划在未来更新中增加更多AI功能,如发言人识别、实时AI助手等。

  • Klee:本地安全AI,保障数据隐私。

    Klee是一款macOS原生的AI助手应用程序,专注于本地处理数据,确保数据安全和隐私。它使用先进的AI技术,如RAG(检索增强生成)和开源大型语言模型,如Llama 3和Mistral,为用户提供高效、智能的笔记、搜索和知识管理功能。Klee的主要优点包括本地运行以保护隐私、支持团队协作、免费使用以及优化的macOS体验。

  • Kipps.AI:快速构建AI助手,提升业务效率

    Kipps.AI 是一个在线平台,允许用户在短短两分钟内构建自己的AI助手,并将其集成到业务中。该平台支持多种数据源,如PDF、Notion、网站链接和文本,用户只需提供这些数据,Kipps.AI 会处理其余部分。它还与常用的工具如GoDaddy、Wordpress、Drupal、Squarespace、Magento和Wix等进行集成,使得用户可以轻松地将AI助手集成到现有的业务流程中。

  • CrossPrism for MacOS:图像识别、标注和关键词生成工具

    CrossPrism for MacOS 是一款专为摄影师设计的图像识别、标注和关键词生成工具。它利用多核 CPU、GPU 和神经引擎,能够识别物种、生成标题和描述,并支持模型训练的可定制性。用户可以在本地自动标注无限量的原始照片,确保所有照片安全地存储在 Mac 上,无需担心云服务中断、数据锁定或文件传输问题。其20多个专家模型可以对从鸟类到地标的各种内容进行分类,并提供新的视角来整理目录和重新发现旧照片。此外,它还支持视频处理、Lightroom 插件、图像质量评估等功能,使其成为一个强大的筛选工具。

  • ZETIC.ai:构建零成本的设备端AI。

    ZETIC.ai提供了一种革命性的设备端AI解决方案,使用NPU技术帮助企业减少对GPU服务器和AI云服务的依赖,从而显著降低成本。它支持任何操作系统、任何处理器和任何目标设备,确保AI模型在转换过程中不损失任何核心功能,同时实现最优性能和最大能效。此外,它还增强了数据安全性,因为数据在设备内部处理,避免了外部泄露的风险。

  • Kerqu.Ai:一站式AI内容生成器,助力跨境电商提升效率。

    Kerqu.Ai是一个为跨境电商卖家提供一站式AI解决方案的平台,整合了先进的AI技术,帮助用户节约成本、提升品牌影响力和销售转化率。产品通过AI技术实现模特换场景、AI图片创作、批量抠图、图片变高清等功能,同时提供一键撰写文案、优化文案和多语言翻译服务,满足多站点经营需求。

  • ReviewHawk:通过分析用户评论,降低用户流失率。

    ReviewHawk是一个专注于分析应用商店评论的工具,旨在帮助企业降低用户流失率,获取用户反馈,从而改善产品。它通过数据驱动的决策和用户满意度分析,帮助企业了解用户真正想要的功能,从而提升用户留存率和产品满意度。

  • Airtable Cobuilder:快速创建与管理数据的应用程序

    Airtable Cobuilder 是一款强大的应用程序构建工具,旨在通过简单的拖放界面和AI辅助功能,帮助用户快速创建和管理数据。它允许用户连接和简化他们最关键的数据,通过可视化数据、自定义视图和集成其他业务工具,提高团队协作和数据管理的效率。该工具特别适合需要高度定制化和灵活性的业务应用场景。

  • Alertfor:追踪网络信息,及时获取答案变化

    Alertfor 是一个在线平台,通过其专有的AQTA (Ask Question Track Answer) 流程,允许用户提交复杂问题,并在网页上寻找最相关的答案。它通过持续追踪提供连续的更新,确保用户能够获得准确且及时的信息。

  • Unskool:家长支持工具,助力家庭教育

    Unskool是一个由家长为家长制作的辅助工具,旨在简化家庭教育过程。它通过去除繁琐的行政工作,让家长能够专注于创造一个丰富的学习环境,让家长和孩子都能茁壮成长。Unskool提供了跟踪、记录和灵感激发的功能,并通过人工智能生成定制的、按需的课程计划,帮助家长更高效地进行家庭教育。

  • AI Generated Diagram:智能生成图表工具

    AI Generated Diagram 是一款利用人工智能技术生成图表的工具。它通过用户输入的提示(prompts)来创建图表,支持多种布局类型,如水平布局(Horizontal)。用户可以通过编辑、配置等操作来调整图表的细节,并支持导出为SVG格式或导出数据。该工具不仅提高了设计图表的效率,还通过AI技术提升了图表的美观度和准确性。

  • Free AI Image Extender:使用人工智能扩展图像边界

    AI Image Extender 是一款利用人工智能技术扩展图像边界的工具,通过生成新内容与现有图像无缝融合,增强图像的视觉延展性。该产品通过先进的AI算法,能够智能识别图像内容并生成自然过渡的扩展区域,适用于需要图像扩展或背景生成的各种场景。

  • Capacities:一个为你的思维打造工作室的APP

    Capacities是一个旨在改善人们思考方式和工作流程的应用程序。它通过使用对象而非传统文件和文件夹来组织信息,帮助用户更直观地理解和连接复杂的信息结构。该应用支持网络化笔记,使用户能够自然地构建信息网络,激发新的创意。Capacities还提供AI助手,帮助用户与笔记中的对象动态互动,并提高写作质量。此外,该应用注重数据安全和隐私保护,符合GDPR标准,数据存储在欧盟的加密服务器上。

  • CLASI:高质量、类人同声传译系统

    CLASI是一个由字节跳动研究团队开发的高质量、类人同声传译系统。它通过新颖的数据驱动读写策略平衡翻译质量和延迟,采用多模态检索模块来增强特定领域术语的翻译,利用大型语言模型(LLMs)生成容错翻译,考虑输入音频、历史上下文和检索信息。在真实世界场景中,CLASI在中英和英中翻译方向上分别达到了81.3%和78.0%的有效信息比例(VIP),远超其他系统。

  • image-matting:AI抠图项目,使用开源模型实现图像抠图。

    image-matting 是一个基于开源模型 briaai/RMBG-1.4 的AI抠图项目。该项目旨在通过学习AI技术、GUI开发、前端学习以及i18n国际化等技术,实现本地模型算法的图像抠图功能。它支持单张和批量抠图,用户可以通过拖拽和粘贴的方式快速进行图像处理。项目还提供了打包后的运行文件下载链接,方便用户使用。

  • OnlyPans:AI定制周晚餐计划

    OnlyPans是一个利用人工智能技术为用户提供定制化晚餐计划的应用程序。它通过与用户的简短聊天来了解用户的预算、口味偏好、语言习惯、饮食限制以及日常生活的忙碌程度,然后快速生成符合用户需求的晚餐计划。随着用户使用时间的增长,OnlyPans会不断学习和优化,提供更加个性化的服务。此外,OnlyPans还提供智能购物清单功能,帮助用户避免食品浪费和不必要的紧急购物。OnlyPans注重用户隐私保护,承诺不会出售用户的任何信息。

  • Excel Dashboard AI:将Excel转换为仪表板和报告的AI工具。

    Excel Dashboard AI是一款利用人工智能技术,将Excel数据快速转换为交互式仪表板和分析报告的工具。它通过自然语言处理能力,允许用户以对话形式与数据进行交流,从而迅速获得洞察。产品的主要优点包括快速生成多样化的数据分析维度、自然语言编辑和锁定分析视角、一键生成交互式仪表板、AI解读图表含义以及将仪表板转换为详尽的分析报告等。

  • 清影 AI 视频生成服务:基于 AI 技术生成视频内容的智能服务。

    清影 AI 视频生成服务是一个创新的人工智能平台,旨在通过智能算法生成高质量的视频内容。该服务适合各种行业用户,能够快速便捷地生成富有创意的视觉内容。无论是商业广告、教育课程还是娱乐视频,清影 AI 都能提供优质的解决方案。该产品依托于先进的 GLM 大模型,确保生成内容的准确性与丰富性,同时满足用户个性化需求。提供免费试用,鼓励用户探索 AI 视频创作的无限可能。

  • Tempest AI:无需编码,10分钟构建游戏

    Tempest AI是一个无需编码即可快速构建游戏的平台。它利用强大的AI助手帮助用户从零开始创建游戏,支持动态角色、适应性任务和互动世界。用户可以通过拖放编辑器构建世界,设计游戏机制,并通过故事构建器控制游戏叙事。Tempest AI不仅适合游戏开发者,也适合那些希望探索创意和互动叙事的爱好者。

今日大家都在搜的词: