首页 > 业界 > 关键词  > AI安全最新资讯  > 正文

人工智能安全研究公司 CEO 称 Rishi Sunak 的全球 AI 安全峰会可能收效甚微

2023-10-23 11:39 · 稿源:站长之家

站长之家(ChinaZ.com) 10 月 23 日消息:一位受邀参加下个月 Rishi Sunak 国际人工智能安全峰会的高管警告说,这次会议可能收效甚微,并指责强大的科技公司试图「操纵」这场具有里程碑意义的会议

黑客,漏洞

人工智能安全研究公司 Conjecture 的首席执行官 Connor Leahy 表示,他相信政府首脑准备同意一种监管方式,允许企业继续开发「上帝般」的人工智能,几乎不受限制

Leahy 是仅有的 100 位受邀者之一,包括外国政府部长、科技高管和民间社会人士,他们受邀参加 11 月在 Bletchley Park 举行的峰会。英国政府希望这次峰会将标志着高级 AI 技术的开发方式发生转变。

官员们已经发布了峰会议程,提到了「负责任的能力扩展」的重要性,即大型科技公司应根据一套指南开发他们的尖端 AI 模型

然而,Leahy 和其他人认为应该完全停止开发人工通用智能——能够在人类或超越人类智能水平执行任务的 AI 模型。

Leahy 表示:「负责任扩展的主要目标是提供一个看起来好像有所作为的框架,以便政客们可以回家说:『我们已经做了一些事情。』但实际政策什么都没有。」

Leahy 和其他人已经发起了一个名为「Control AI」的运动,敦促政策制定者更进一步,敦促政策制定者进一步利用 Bletchley Park 峰会暂停开发最复杂的人工智能形式。

与行业中的一些其他人一样,Leahy 认为,如果人类开发了一个能够逃避人类控制的 AI 系统,人类将面临风险。

他说:「如果你构建的系统在操纵、商业、政治、科学等各方面都比人类更有能力,而我们无法控制它们,那么未来将属于它们,而不属于我们。」

「特别是人工智能公司和它们周围的其他组织正在试图登上顶峰,锁定一场不受监管的灾难竞赛的现状,」他补充道。

Leahy 引用了 AI 公司 Anthropic 首席执行官 Dario Amodei 最近的一次采访,Amodei 表示,AI 系统「在人类文明规模上出现灾难性错误」的机会在 10% 到 25% 之间

Leahy 说:「如果你正在构建一个有这种机会的机器,那么我的建议是:不要这样做。」

政府发言人表示,这次峰会是关于 AI 的「全球对话」的开始,将欢迎「多元的观点」。

然而,Leahy 的言论与 AI 领域的其他人最近发出的警告相吻合。

被称为「AI 教父」的 Geoffrey Hinton 最近辞去了谷歌的工作,发出了关于数字智能带来的「生存风险」的警告。

几周后,包括 Leahy 在内的一群 AI 行业的高管发布了一份简短的声明,称「减轻 AI 带来的灭绝风险应该是全球首要任务,与大流行和核战等社会规模的风险并列」。

这些警告促使 Sunak 于 11 月 1 日至 2 日召开峰会。这次峰会旨在成为国家元首和科技高管首次亲自讨论这些问题的论坛。

英国官员一直在全球各地鼓励各国元首参加这次会议,他们希望这将是一系列此类峰会中的第一次。

前谷歌首席执行官 Eric Schmidt 和 Inflection 和 DeepMind 的联合创始人 Mustafa Suleyman 上周呼吁国际领袖设立一个类似于气候变化政府间专门委员会的全球 AI 专家委员会。英国官员表示,他们支持这样一个机构,但认为应该将其运作的具体细节留给联合国的讨论。

相反,英国政府消息人士表示,他们希望看到 AI 行业放慢其人工通用智能的发展,他们表示,这样的举措在技术史上是前所未有的。

然而,Leahy 认为,模糊的承诺继续负责任地开发先进的 AI 将不够,他补充说,这将意味着技术公司胜过监管机构

政府发言人表示:「AI 安全峰会将汇集各类与会者,包括国际政府、学术界、工业界和民间社会,作为共同合作的一部分,推动安全和负责任的 AI 发展的有针对性、迅速的国际行动。」

「对于这种性质的峰会来说,这是完全正常的,我们不会提前这么长时间确认与会者。这是关于前沿人工智能风险的全球对话的开始,我们欢迎不同的观点——这是峰会的优势。」

举报

  • 相关推荐
  • 大家在看
  • AI Homework Helper:免费AI作业助手,快速解决数学、科学等科目作业。

    AI Homework Helper是一个在线工具,旨在帮助学生解决他们的家庭作业问题。用户可以上传图片或PDF格式的作业,AI会即时提供准确的解决方案和逐步解释,无论是数学、科学还是其他科目,这个工具都能帮助学生更有效地学习和解决问题。

  • DrawL.ink:将URL转换为引人注目的视觉卡片

    DrawL.ink是一个在线服务,可以将任何链接转换成吸引人的图像,从而提高点击率和分享效率。它支持多种设计风格,如现代、经典、创意等,并允许用户自定义生成的图像。这种服务对于需要在社交媒体、博客或任何在线平台上分享链接的用户来说非常有用,因为它可以帮助他们的内容在信息泛滥的网络中脱颖而出。产品背景信息显示,DrawL.ink由YGeeker提供,旨在通过视觉化的方式增强链接的吸引力。关于价格,网站未提供具体信息,可能需要用户直接访问网站查询。

  • Qwen2.5-Coder-1.5B:Qwen2.5-Coder系列中的1.5B参数代码生成模型

    Qwen2.5-Coder-1.5B是Qwen2.5-Coder系列中的一款大型语言模型,专注于代码生成、代码推理和代码修复。基于强大的Qwen2.5,该模型通过扩展训练令牌至5.5万亿,包括源代码、文本代码基础、合成数据等,成为当前开源代码LLM中的佼佼者,编码能力媲美GPT-4o。此外,Qwen2.5-Coder-1.5B还强化了数学和通用能力,为实际应用如代码代理提供了更全面的基础。

  • Qwen2.5-Coder-1.5B-Instruct:Qwen2.5-Coder系列中的1.5B参数代码生成模型

    Qwen2.5-Coder是Qwen大型语言模型的最新系列,专注于代码生成、代码推理和代码修复。基于Qwen2.5的强大能力,该模型在训练时使用了5.5万亿的源代码、文本代码基础、合成数据等,是目前开源代码生成语言模型中的佼佼者,编码能力与GPT-4o相媲美。它不仅增强了编码能力,还保持了在数学和通用能力方面的优势,为实际应用如代码代理提供了更全面的基础。

  • WordLimit:智能精确的文字限制工具

    WordLimit是一个先进的AI驱动文本缩减工具,专注于在保持文本核心信息的同时,精确控制字数和字符数。它适用于学术、专业写作,以及任何需要精确、简洁内容的场合。WordLimit通过智能平衡信息保留与字数减少,优先考虑关键事实、名称、引用和中心论点,即使在高压缩率下也能保持文本的基本含义和重要性。此外,WordLimit保持用户独特的写作风格和声音,无论是扩展还是压缩文本,都能确保个人风格、语调和词汇选择得以体现。WordLimit不引入任何AI生成的文本,确保写作保持真实,不会被AI内容检测工具识别。

  • Image Maker Ai:将您的想象力变为现实,快速制作艺术图像、横幅图像和动漫图像。

    Image Maker Ai 是一个基于人工智能的图像生成平台,利用先进的变换器模型和BlackForestLabs的最新AI研究,提供从高端专业项目到快速个人使用的多种需求。该技术拥有12亿参数和多个模型变体,包括FLUX.1 [Pro]、[Dev]和[Schnell],优化了提示遵循、细节和输出多样性。Image Maker Ai 允许用户输入文本提示,选择风格,并由AI生成高分辨率、细节丰富、逼真的图像,适合各种应用,从个人项目到专业用途。所有由Flux生成的图像都是免版税的,可以用于个人或商业目的,无需担心版权问题。

  • face_anon_simple:人脸匿名化技术,保留关键细节同时有效保护隐私。

    face_anon_simple是一个人脸匿名化技术,旨在通过先进的算法在保护个人隐私的同时保留原始照片中的面部表情、头部姿势、眼神方向和背景元素。这项技术对于需要发布包含人脸的图片但又希望保护个人隐私的场合非常有用,比如在新闻报道、社交媒体和安全监控等领域。产品基于开源代码,允许用户自行部署和使用,具有很高的灵活性和应用价值。

  • HeyGen API:视频创作与翻译解决方案

    HeyGen API是一个可扩展的视频创作和翻译解决方案,它通过集成AI视频技术,使得企业能够轻松地将虚拟角色视频、交互式体验和本地化内容添加到他们的应用程序、网站或产品中。该API套件增强了用户参与度,简化了操作流程,并轻松扩展了视频策略。HeyGen API的主要优点包括自动化、可扩展性和高质量的视频个性化。它通过自动化视频创作和本地化,帮助企业节省时间和资源,同时确保一致性和质量,提供逼真的虚拟角色、准确的翻译和互动元素,有效提升用户参与度和触及全球观众。

  • 智谱清流:企业级AI智能体开发平台,快速构建专业级智能体。

    智谱清流AI开放平台是一个企业级AI智能体开发平台,利用智谱大模型技术,帮助企业快速构建专业级智能体,实现大模型到业务场景的快速应用。平台提供模型服务、智能体构建、数据安全、效果评测和系统集成等功能,支持企业通过内网部署和本地存储保护数据,确保数据安全和知识产权。智谱AI开放平台以其领先的技术、灵活的工作流编排、自主调用企业定义的数据知识和工具,以及成熟的AI原生应用落地经验,成为企业数字化转型的重要助力。

  • Context Autopilot:工作自动化的智能助手

    Context Autopilot是一款AI生产力套件,它能够像人类一样学习、思考并使用工具。这款产品通过集成100多种工具,提供深度理解和新颖的洞察力,帮助用户从数据中获得准确的答案,减少幻觉。它代表了AI在工作场所的应用,通过自动化和智能化提高工作效率和质量。产品背景信息显示,Context Autopilot由Context公司开发,旨在通过AI技术帮助团队更智能地工作,实现更多成就。

  • Endgame:利用AI技术提升账户研究和规划效率的销售工具

    Endgame是一款专注于商业领域的AI销售工具,它通过整合电子邮件、电话、CRM、产品文档、LinkedIn、新闻和财务数据等信息,帮助销售人员深入了解客户,构建信任,从而赢得每一次互动。产品背景信息显示,Endgame旨在解决销售人员在客户互动中面临的数据整合、风险评估和个性化策略制定等挑战,通过AI技术提供即时的账户研究和规划支持。Endgame的价格和定位信息未在页面中明确提供,但可通过页面中的'Get a demo'链接获取更多信息。

  • Draf:AI驱动的任务管理工具,优化你的工作流程。

    Draft是一个AI驱动的任务管理工具,它通过AI技术帮助用户分析任务并自动设置优先级,智能地管理日程,并基于自然语言处理技术自动分配任务的重要性。这个工具的主要优点在于它能够减轻用户在任务管理和时间规划上的压力,提高工作效率。产品背景信息显示,它是由manzi@kakao.com开发的,并且产品定位于提高个人和团队的生产力。目前产品提供免费下载试用,具体价格信息未在页面中提及。

  • CuriosityXR:混合现实学习平台,通过AI和3D模型体验学习魔法。

    CuriosityXR是一个混合现实学习平台,它通过结合AI和超过100万个3D模型,让用户在虚拟环境中以互动的方式学习。这种学习方式强调自我指导和沉浸式体验,摒弃了传统的课程和测验模式。CuriosityXR的技术背景基于最新的混合现实技术,旨在通过直观和互动的方式提高学习效率和知识保留率。产品定位于教育领域,特别适合那些寻求创新学习方式的个人和教育机构。目前,CuriosityXR在Meta Quest平台上提供服务,并且是该平台上排名第一的AI学习应用。

  • Qwen2.5-Coder-3B:Qwen2.5-Coder系列中的3B参数模型,专注于代码生成与理解。

    Qwen2.5-Coder-3B是Qwen2.5-Coder系列中的一个大型语言模型,专注于代码生成、推理和修复。基于强大的Qwen2.5,该模型通过增加训练令牌至5.5万亿,包括源代码、文本代码基础、合成数据等,实现了在代码生成、推理和修复方面的显著改进。Qwen2.5-Coder-32B已成为当前最先进的开源代码大型语言模型,其编码能力与GPT-4o相匹配。此外,Qwen2.5-Coder-3B还为现实世界的应用提供了更全面的基础,如代码代理,不仅增强了编码能力,还保持了在数学和通用能力方面的优势。

  • Qwen2.5-Coder-3B-Instruct:Qwen2.5-Coder系列的3B参数指令调优模型

    Qwen2.5-Coder是Qwen大型语言模型的最新系列,专注于代码生成、代码推理和代码修复。基于强大的Qwen2.5,该系列模型通过增加训练令牌至5.5万亿,包括源代码、文本代码接地、合成数据等,显著提升了代码生成、推理和修复能力。Qwen2.5-Coder-3B是该系列中的一个模型,拥有3.09B参数,36层,16个注意力头(Q)和2个注意力头(KV),全32,768令牌上下文长度。该模型是目前开源代码LLM中的佼佼者,编码能力与GPT-4o相匹配,为开发者提供了一个强大的代码辅助工具。

  • PlayNote:将文件和数据转化为引人入胜的音频创作。

    PlayNote是一款利用尖端AI语音合成技术,将各种文件和数据转换成音频创作的产品。它支持多种文件格式,包括PDF、CSV、TXT等文档,以及PNG、JPEG等图片格式,还有MP4、MOV等视频格式,以及WAV、MP3等音频格式。用户可以上传文件,PlayNote会将文件内容转化为音频,方便用户在各种场合下收听。这项技术的重要性在于它能够提高信息的可访问性,特别是对于视觉障碍人士或者在无法阅读的情况下需要获取信息的用户。PlayNote的背景信息显示,它是由PlayAI提供的,旨在通过技术创新提升工作效率和生活质量。关于价格,用户可以访问Pricing页面了解更多详情。

  • Accio.com:个人采购代理,提供实时数据支持的在线产品搜索平台。

    阿里巴巴在海外推出对话式 AI 搜索引擎 Accio,面向全球商家开放。Accio是一个在线平台,旨在帮助用户进行产品搜索和采购。它利用实时数据为用户提供最新的产品信息,包括创新的圣诞礼物、健身装备套装、可爱毛绒肩包等。Accio的主要优点在于其实时数据更新能力,这使得用户能够获取到最新的市场趋势和产品信息,从而做出更精准的采购决策。此外,Accio还提供了多种语言和货币选项,以满足不同地区用户的需求。

  • Luqo AI:AI驱动的语言学习体验

    Luqo AI是一个AI驱动的语言学习平台,提供个性化的语言学习体验。它通过模拟真实对话和情境,帮助用户提高语言技能,支持多种语言学习,并提供多种学习模式以满足不同用户的需求。Luqo AI由Nexbend公司开发,利用OpenAI技术,并得到Google和AWS等技术的支持。

  • Qwen2.5-Coder-7B:Qwen2.5-Coder系列中的7B参数代码生成模型

    Qwen2.5-Coder-7B是基于Qwen2.5的大型语言模型,专注于代码生成、代码推理和代码修复。它在5.5万亿的训练令牌上进行了扩展,包括源代码、文本代码接地、合成数据等,是目前开源代码语言模型的最新进展。该模型不仅在编程能力上与GPT-4o相匹配,还保持了在数学和一般能力上的优势,并支持长达128K令牌的长上下文。

  • Qwen2.5-Coder-7B-Instruct:7B参数的代码生成语言模型

    Qwen2.5-Coder-7B-Instruct是Qwen2.5-Coder系列中的一款代码特定大型语言模型,覆盖了0.5、1.5、3、7、14、32亿参数的六种主流模型尺寸,以满足不同开发者的需求。该模型在代码生成、代码推理和代码修复方面有显著提升,基于强大的Qwen2.5,训练令牌扩展到5.5万亿,包括源代码、文本代码基础、合成数据等。Qwen2.5-Coder-32B已成为当前最先进的开源代码LLM,其编码能力与GPT-4o相匹配。此外,该模型还支持长达128K令牌的长上下文,并为实际应用如代码代理提供了更全面的基础。

今日大家都在搜的词:

热文

  • 3 天
  • 7天