首页 > 业界 > 关键词  > 正文

Anthropic 将允许未成年人在限制范围内使用其人工智能

2024-05-11 09:41 · 稿源:站长之家

站长之家(ChinaZ.com) 5月11日 消息:人工智能初创公司 Anthropic 最新政策变动引发关注。该公司宣布允许未成年人使用其生成式人工智能系统,但需遵守特定安全要求。这一举措在行业内引发了广泛讨论和关注。

在Anthropic的新政策下,青少年和儿童将能够在特定条件下使用由其人工智能模型支持的第三方应用程序。这一举措被认为对于教育和个人问题解决具有潜在益处。然而,随之而来的挑战是如何确保未成年人安全使用人工智能工具。

Anthropic、克劳德

Anthropic列出了开发人员应采取的安全措施,如年龄验证系统、内容审核和教育资源。同时,公司表示将定期审核应用程序的合规性,终止违规账户,并要求开发人员明确声明他们遵守合规性要求。

这一政策调整也反映了整个行业的趋势。包括谷歌和 OpenAI 在内的竞争对手也在探索更多针对儿童的生成式人工智能用例。去年,OpenAI与 Common Sense Media 合作制定了儿童友好的人工智能指南,谷歌将其聊天机器人 Bard 更名为 Gemini,专为青少年提供服务。

然而,生成式人工智能的潜在风险也备受关注。一些调查显示,一些孩子曾看到同龄人以负面方式使用生成式人工智能。因此,对于儿童使用生成式人工智能的指导和监管变得尤为重要。

在这个充满机遇和挑战的时代,Anthropic的政策调整引发了人们对未成年人使用人工智能的深入思考和讨论。如何平衡利用人工智能带来的好处,同时保护未成年人的安全和隐私,将是未来发展的关键议题。

举报

  • 相关推荐
  • 大家在看
  • 《2024快手未成年人保护报告》发布:八大功能保护未成年人隐私信息

    5月31日,快手发布《2024快手未成年人保护报告》。《报告》显示,快手在2023年持续升级未成年人保护机制,在不断提升平台保障能力和未成年人使用体验的同时,针对未成年人隐私信息保护持续优化产品功能和技术解决方案,截至目前,快手青少年模式已经具备了包括限制未成年人私信功能、限制陌生人关注未成年人等八大功能。快手联合北京市高级人民法院、共青团北京市委员会、北京市妇女联合会、北京互联网法院、首都网警、北京市家庭教育研究会等,推出了《满分爸妈》大咖直播课,邀请法官、检察官、网警、律师、心理咨询师、教育专家等专业人士,以及优质内容创作者,通过5场线上连麦直播,就家长和青少年关心的网络安全问题进行深入交流和答疑。

  • 亚马逊利用生成式人工智能Project PI扫描包裹缺陷

    亚马逊公司宣布,他们正在利用生成式人工智能和计算机视觉技术来扫描包裹,以发现缺陷并降低退货率。该AI模型名为“ProjectPI”,能够在亚马逊的订单处理中心识别订单中的问题产品。它推出了一个服务,提供了几家公司的人工智能模型。

  • Anthropic 进军欧洲并筹集更多资金

    美国生成式人工智能领域最大的竞争对手OpenAI宣布了其GPT大型语言模型的最新Anthropic则宣布了自己在欧洲的扩张。Anthropic周一表示,其AI助手Claude现已在欧洲线,并支持包括法语、德语、意大利语和西班牙语在内的“多种语言”,涵盖了Cla.ai、其iOS应用以及团队业务计划。Amodei表示,Anthropic目前在伦敦办公室有40名员工有一些承商在欧洲国家工作,并计划招聘更多员工,特别是�

  • 专家表示,人工智能助推仇恨内容上升

    专家们表示,人工智能技术使得仇恨内容和误导信息在网上迅速增加。今年早些时候,一名极右翼阴谋论者在前推特上分享了一段视频,这段视频是通过人工智能修改的,其中希特勒用英语发表了反犹太主义言论。专家们一致认为,AI生成的仇恨内容是一个新兴问题,但他们尚未就问题的范围达成一致。

  • Nothing 的下一款手机将全面采用人工智能技术

    Nothing的首席执行官CarlPei发布了一段视频,在其中提出了两个重要观点:智能手机实际上是未来的人工智能设备,人工智能可能会改变我们使用手机的方式。Pei表示:“人们喜欢他们的手机!但是用户体验很长时间以来没有真正改变。他一直在暗示可能很快会有下一个大事件发生,现在听起来这个大事件可能就是你已经拥有的东西,只是稍微不同已。

  • IEEE:如何负责任地使用人工智能

    2021年,一组研究人员开始量化人工智能伦理话题的热度。他们在GoogleScholar上搜索人工智能和伦理的参考文献。一些出版物现在允许人工智能的使用,前提是作者列举了引用的人工智能及其使用日期。

  • 范渊:人工智能+安全,行业跨时代革命的开始

    5月18日,以“智绘安全,乘数上”为主题的2024第12届西湖论剑·数字安全大会在杭州国际博览中心隆重举行。面对AI引领的新质生产力发展机遇,安恒信息董事长范渊发表《AI安全,智绘跨时代的数字“富春山居图”》主题演讲指出,需要建立高远、平远、深远的数字安全观,以人工智能、数据要素作为新质生产力的关键引擎,解决经验不对称问题,重塑共创、共享、共进、共生、共赢的生态新模式,和大家一起智绘、共赏数字时代的富春山居图。范渊用共创、共享、共进、共生、共赢这“五个共”对未来安全生态进行展望,并邀请大家以人工智能作为新质生产力的关键引擎,一起智绘、共赏数字时代下的“富春山居图”。

  • IEEE:什么是通用人工智能

    对于大众来说,人工智能可以说已经非常常见和熟悉了。但是通用人工智能呢?它是一个长期以来在科幻和哲学中讨论的概念,它指的是具有类似人类推理能力的AI。这可能包括将知识从一个环境转移到另一个环境的能力,从有限的数据或例子中学习的能力,以及在新的情况下表现出创造力和适应性的能力。

  • ​Snapchat 计划每年在人工智能上投资 15 亿美元

    Snapchat的开发者Snap表示,该消息平台将增加在人工智和机器学习上的投资。Snap的首席执行官埃文・斯皮格尔在接受彭博社采访时表示:“我们认识到在机器学习方面我们已经落后了,这在某种程度上反映在业务表现上。她还说:“这意味着可以更好地定位、评估和扩大广告活动。

  • OpenAI 研究员因安全问题辞职后加入 Anthropic

    OpenAI的关键研究员JanLeike本月早些时候因“安全问题”辞职,最近他宣布加入竞争对手Anthropic,从事“可扩展的监督、从弱到强的泛化和自动对齐研究”。Anthropic是一家公益公司,致力于谨慎推进人工智能技术发展,其创始人是一些离开OpenAI的前员工,他们认为OpenAI在与微软签订了10亿美元交易后,偏离了其开发更安全、更符合伦理要求的人工智能的使命,过于关注商业利益。尽管Sutskever已经辞职并且尚未表明他的下一步行动,但他的价值观与Anthropic一致,这使得Anthropic成为他的可能去向之一。

  • Mistly:自动记录和分析产品反馈,快速构建更好的产品。

    Mistly是一个AI产品管理工具,能够自动从Slack频道、Zoom通话等地方记录产品反馈,并通过AI技术提供深入的洞察。它可以帮助团队快速了解用户需求,提取功能请求和bug报告,从而加速产品迭代和改进。Mistly还提供每周反馈总结和发布更新通知功能,使客户感到被重视,增强产品与用户之间的联系。

  • Omi:智能合同和文档管理平台

    Omi是一个集中化的平台,提供对财务、合同和供应商的全面监督和管理。它简化了采购流程,实现了财务控制,并通过自动化和实时数据提供决策支持,帮助企业提高效率、节约成本,并确保合规性。

  • iPadOS 18:,带来全新的工作方式和个性化体验。

    iPadOS 18是苹果公司为iPad设备推出的最新操作系统,它通过Apple Pencil、应用程序体验和个性化定制等新功能,进一步增强了iPad的生产力和创造力。该系统利用Apple Intelligence技术,根据用户的个人上下文提供最有帮助和相关的智能服务。

  • 雅意信息抽取大模型:基于大规模数据的高质量信息抽取模型

    雅意信息抽取大模型(YAYI-UIE)由中科闻歌算法团队研发,是一款在百万级人工构造的高质量信息抽取数据上进行指令微调的模型。它能够统一训练信息抽取任务,包括命名实体识别(NER)、关系抽取(RE)和事件抽取(EE),覆盖了通用、安全、金融、生物、医疗、商业等多个场景的结构化抽取。该模型的开源旨在促进中文预训练大模型开源社区的发展,并通过开源共建雅意大模型生态。

  • macOS Sequoia:Mac体验新高度,智能化与生产力的飞跃。

    macOS Sequoia是苹果公司推出的下一代桌面操作系统,它通过iPhone镜像、Safari浏览器的更新、苹果智能技术以及一系列新游戏,为Mac带来了全新的工作方式和变革性的智能特性。它利用了苹果芯片和神经引擎的强大能力,提供了深度集成的个人智能系统,注重隐私保护,并简化了日常任务。

  • iOS 18:iPhone个性化、功能强大、智能化的新高度。

    iOS 18是苹果公司推出的最新操作系统,它通过全新的个性化选项、前所未有的照片应用重设计、强大的连接方式更新以及苹果智能(Apple Intelligence)个人智能系统,为iPhone带来更深层次的个性化体验和智能化功能。

  • Invisibility:您的个人助手,集成到您的操作系统中。

    Invisibility 是一款集成到操作系统中的个人助手应用程序,它通过简单的键盘快捷键,允许用户快速与AI进行交互,提高工作效率。该应用提供了一个平台,结合了所有最新的高级模型,用户无需为多个工具或订阅付费。Invisibility 的设计理念在于简化用户与技术的互动,提供流畅的体验,无需在不同的标签和应用程序之间切换。

  • TeamCreate AI:AI助手,快速构建理想团队

    TeamCreate AI是一个在线平台,提供AI助手来帮助企业在销售、市场、财务、产品和更多领域快速构建团队。这些AI助手是无代码且可定制的,可以快速适应并执行特定任务,帮助企业在没有财务限制和繁琐招聘流程的情况下迅速扩展。

  • Midjourney Personalization:个性化图像生成工具

    Midjourney是一个独立的研究实验室,专注于探索新的思想媒介和扩展人类想象力。它是一个自筹资金的小团队,专注于设计、人类基础设施和人工智能。Midjourney Personalization通过用户对图像对的评分来学习用户的偏好,并根据这些偏好生成个性化的图像。

  • YaFSDP:高效的分布式数据并行框架,专为大型语言模型设计。

    YaFSDP是一个分布式数据并行框架,专为与transformer类神经网络结构良好协作而设计。它在预训练大型语言模型(Large Language Models, LLMs)时比传统的FSDP快20%,并且在高内存压力条件下表现更佳。YaFSDP旨在减少通信和内存操作的开销。

  • Onboard:客户管理的AI邮件平台

    Onboard AI Email Platform是一个专为客户管理设计的AI邮件平台。它集成了先进的AI技术,帮助企业精准地将邮件发送到每个客户的主收件箱,提高邮件的到达率和客户的互动率。该平台通过AI技术对客户进行细分,自动生成个性化内容,并创建AI生成的落地页来驱动客户采取行动。

  • SmartEReply:智能提升您的LinkedIn™互动

    SmartEReply是一个AI驱动的助手,旨在增强您的LinkedIn™互动,通过个性化评论、优化帖子和轻松管理私信来提升您的网络机会。它通过AI生成的内容建议,帮助您快速创建更具吸引力和优化的内容。

  • Freepik Designer:在线设计编辑器,无需设计技能。

    Freepik Designer是一个在线设计编辑器,允许用户无需专业设计技能或软件即可创建或编辑设计作品。它提供了大量的可编辑模板,支持AI工具和功能,如AI写作助手、背景移除、AI翻译器等,以简化工作流程。Freepik Designer由Freepik Company S.L.开发,总部位于阳光明媚的马拉加。

  • Source.Plus:AI训练数据的搜索、整理和丰富工具

    Source.Plus是一个专业的AI训练数据搜索平台,它允许用户通过高级搜索操作符来精确地搜索、筛选和整理所需的数据集。它支持多种数据来源,包括Wikimedia Commons、NMNH - Botany Dept.等,提供广泛的图像和文档资源。平台还具备文件上传功能,使用户能够进一步自定义和丰富自己的数据集。Source.Plus的主要优点包括其强大的搜索能力、数据来源的多样性以及对AI训练数据的特别优化。

  • Awesome-ChatTTS:ChatTTS项目的入门指南和资源汇总。

    Awesome-ChatTTS是一个开源项目,旨在为ChatTTS项目提供常见问题解答和相关资源汇总,帮助用户快速入门并解决在使用过程中可能遇到的问题。该项目不仅整理了详细的安装指南和参数说明,还提供了多种音色种子的示例,以及视频教程等辅助材料。

  • DenseAV:一种自监督的视听特征对齐模型。

    DenseAV是一种新颖的双编码器定位架构,通过观看视频学习高分辨率、语义有意义的视听对齐特征。它能够无需明确定位监督即可发现单词的“意义”和声音的“位置”,并且自动发现并区分这两种关联类型。DenseAV的定位能力来自于一种新的多头特征聚合操作符,它直接比较密集的图像和音频表示进行对比学习。此外,DenseAV在语义分割任务上显著超越了先前的艺术水平,并且在使用参数少于一半的情况下,在跨模态检索上超越了ImageBind。

  • ChatTTS-Forge:基于ChatTTS模型的文本到语音转换项目

    ChatTTS-Forge是一个围绕TTS生成模型ChatTTS开发的项目,实现了API服务器和基于Gradio的WebUI,能够提供全面的API服务,支持生成1000字以上的长文本,保持一致性,并通过内置32种不同风格进行风格管理。

  • WorldDreamer:视频生成的前沿模型

    WorldDreamer是一个创新的视频生成模型,它通过预测遮蔽的视觉令牌来理解并模拟世界动态。它在图像到视频合成、文本到视频生成、视频修复、视频风格化以及动作到视频生成等多个方面表现出色。该模型借鉴了大型语言模型的成功经验,将世界建模视为一个无监督的视觉序列建模挑战,通过将视觉输入映射到离散的令牌并预测被遮蔽的令牌来实现。

  • VividDream:从单一图像或文本生成可探索的3D场景

    VividDream是一项创新技术,能够从单一输入图像或文本提示生成具有环境动态的可探索4D场景。它首先将输入图像扩展为静态3D点云,然后使用视频扩散模型生成动画视频集合,并通过优化4D场景表示来实现一致性运动和沉浸式场景探索。这项技术为生成基于多样真实图像和文本提示的引人入胜的4D体验提供了可能。

  • LlamaGen:自回归模型在可扩展图像生成领域的新突破

    LlamaGen是一个新的图像生成模型家族,它将大型语言模型的原始下一个token预测范式应用于视觉生成领域。该模型通过适当的扩展,无需对视觉信号的归纳偏差即可实现最先进的图像生成性能。LlamaGen重新审视了图像分词器的设计空间、图像生成模型的可扩展性属性以及它们的训练数据质量。

今日大家都在搜的词:

热文

  • 3 天
  • 7天