首页 > 业界 > 关键词  > 正文

OpenAI组建Red Teaming Network团队 加强模型安全性

2023-09-20 09:09 · 稿源:站长之家

站长之家(ChinaZ.com)9月20日 消息:OpenAI宣布正在组建一个名为OpenAI Red Teaming Network的专家团队,旨在加强模型安全性。

该团队由经验丰富的专家组成,将为OpenAI提供风险评估和缓解方面的信息和帮助。专家们将根据其专业知识和经验,在模型和产品开发生命周期的各个阶段为Red Teaming Network提供支持和帮助。

微信截图_20230920090757.png

成为OpenAI Red Teaming Network的成员并不需要参与每个新模型或产品的研发,并且每个成员的时间贡献将由自己决定,一年内可能只有5-10小时。在参与Red Teaming Network项目时,成员将获得贡献补偿。

需要注意的是,参与Red Teaming Network和其他项目通常需要签署保密协议或无限期保密协议。OpenAI将滚动选择网络成员,申请截止日期为2023年12月1日。

举报

  • 相关推荐
  • 微星B850 GAMING PLUS WIFI PZ背插主板上市,畅享AM5平台

    微星11月中旬发布B850GAMING PLUS WIFI PZ背插主板,采用纯白PCB搭配蓝色氛围灯条,支持AMD AM5平台,首发价1699元。主板配备12+2+1相供电与双8Pin接口,支持DDR5内存超频至8200MT/s,搭载PCIe 5.0显卡插槽和3组M.2接口(含Gen5)。具备Wi-Fi7与5G有线网卡,通过背插设计隐藏线材,适合打造白色主题主机。在保留核心性能的同时,为主流用户提供了兼顾美观与性价比的AM5平台装机选择。

  • AI全面落地双11,淘宝走出一条和OpenAI不同的路

    ​今年的双11已经进入最后阶段,消费者和商家都有一个明显的感受是,AI的浓度真的很高,并且AI的全面落地应用,真的在改变传统用户购物、商家经营的链路。 消费者能感受到两个比较明显的变化:一个是AI导购开始走进真实的购物场景。淘宝为双11投入了六款AI导购类产品,其公布的数据显示,AI万能搜已经帮助消费者解决了5000万个消费需求。 另一个则是平台推荐的商品越

  • OpenAI发布GPT-5.1:情商大涨 本周开始推送

    OpenAI正式推出GPT-5.1模型,以“智商与情商深度融合”为核心亮点。新模型优化推理能力,强化情绪价值与个性化交互,包含Instant与Thinking两大核心版本:Instant首次引入自适应推理功能,针对复杂任务延长思考时间,简单问题保持极速响应;Thinking版本智能分配思考时长,提升回答透彻度与通俗性。新增Auto功能自动匹配最佳模型,支持六种官方预设风格及精准微调。安全评估首次纳入心理健康与情感依赖维度,防范拟人化风险。付费用户可保留旧版三个月过渡期。

  • 微云全息(NASDAQ:HOLO):嵌套链——区块链架构创新重塑安全性与能耗格局

    微云全息提出嵌套链创新设计,通过分层数据存储架构将敏感信息置于内层区块链严密保护,普通信息存于外层链。采用跨链交互协议确保信息验证安全,节点差异化配置兼顾安全与效率。该方案突破传统单链模式局限,实现信息分类精细管理,为区块链在复杂应用场景中的安全性、能耗优化及运行效率提升提供全新解决路径。

  • 50人团队、1亿美元ARR,AI PPT还在续写“神话”?

    AI 生成 PPT 可以说是去年的热门赛道,尤记得关于这类产品是否具有真正竞争力的热烈讨论,而2025年9月份的数据显示,赛道头部的明星创企 Gamma 却已经默默接近3000万的访问量。并且,今天官宣了由 a16z 领投的6800万美元 B 轮融资,融资后估值达到21亿美元。 而不仅 Gamma,根据 AI 产品榜数据,9月份,AIPPT 赛道的 Top3产品流量平均涨幅30%+,更有一款

  • AI日报:李飞飞Marble 3D世界模型公测;OpenAI首次推出ChatGPT群聊功能;百度发布多模态 AI助手超能小度

    本期AI日报聚焦多项技术突破:World Labs推出Marble 3D模型,实现多模态生成可交互虚拟世界;OpenAI在韩新试点ChatGPT群聊功能,支持多人协作互动;苹果更新隐私政策,要求第三方AI调用需明示授权;百度发布多模态助手“超能小度”,支持空间感知与设备免费升级;LinkedIn推出AI人脉搜索,通过自然语言精准匹配专业人士;Cursor完成23亿美元融资,估值达293亿;Character AI与耶鲁合作实现音画同步技术Ovi;Google NotebookLM上线深度研究工具,支持多格式文件分析与知识库构建。

  • OpenAI和微软的关系没那么糟,跟英伟达也没那么好

    OpenAI的动作比所有人想象的都要快。 上周二,OpenAI完成重组。其中一个重要变化是:彻底取消了与微软的排他性协议,结束了Azure长达六年的云服务独占模式。此前,OpenAI所有模型的训练、推理与部署都必须优先选择Azure,微软还享有优先购买权。 宣布与Azure“分手”后不到一周,OpenAI便火速宣布了与AWS的战略合作——双方达成一项价值380亿美元的云计算协议,OpenAI将全面接入

  • 从“实现需求”到“共创价值”:AI Native时代需要什么样的工程师团队?

    在1024程序员节,小红书技术副总裁风笛出席CCF工程师文化日五周年庆典,分享AI时代技术团队转型方向。他指出传统开发模式下工程师仅1/3时间编码,其余被会议沟通挤占,导致技术成长受阻、创新力下降。提出AI Native时代需重构协作模式:通过任务导向的扁平化组织,让工程师从需求执行者转变为价值创造者。以48小时上线翻译功能为例,展示新型协作效能。强调AI不会取代工程师,而是将其角色提升至系统定义和复杂性管理的新高度。

  • 连涨5个月、全球TOP5,成都团队做的AI工具突破3000万访问量

    如今在全球AI竞赛中,中国厂商已从早期的跟跑者,转变为不可忽视的强力竞争者。 时间回到2023年,AI相关榜单都还被西方产品所霸占,仅过了一年这个格局就被打破,中国产品开始频繁出现在榜单中,并在多个细分领域跻身高位。 这点在AI生图赛道尤为明显。其中由成都厂商开发的SeaArt,最近一年流量增长很猛,先

  • 2025乌镇峰会:易鑫发布汽车金融行业首个Agentic大模型XinMM-AM1

    易鑫集团在2025世界互联网大会乌镇峰会上发布汽车金融行业首个Agentic大模型XinMM-AM1。该模型具备300亿参数、响应延迟低于200ms等技术优势,能提升获客、风控与运营效率,优化用户体验。通过全链路智能决策能力,推动行业从"单点智能"转向"整体高效"。配套SaaS平台已覆盖超4万家经销商及百余家金融机构,显著提高融资通过率与业务质量,填补领域技术空白,引领汽车金融智能化发展。

今日大家都在搜的词: