首页 > 业界 > 关键词  > 正文

Anthropic 将允许未成年人在限制范围内使用其人工智能

2024-05-11 09:41 · 稿源:站长之家

站长之家(ChinaZ.com) 5月11日 消息:人工智能初创公司 Anthropic 最新政策变动引发关注。该公司宣布允许未成年人使用其生成式人工智能系统,但需遵守特定安全要求。这一举措在行业内引发了广泛讨论和关注。

在Anthropic的新政策下,青少年和儿童将能够在特定条件下使用由其人工智能模型支持的第三方应用程序。这一举措被认为对于教育和个人问题解决具有潜在益处。然而,随之而来的挑战是如何确保未成年人安全使用人工智能工具。

Anthropic、克劳德

Anthropic列出了开发人员应采取的安全措施,如年龄验证系统、内容审核和教育资源。同时,公司表示将定期审核应用程序的合规性,终止违规账户,并要求开发人员明确声明他们遵守合规性要求。

这一政策调整也反映了整个行业的趋势。包括谷歌和 OpenAI 在内的竞争对手也在探索更多针对儿童的生成式人工智能用例。去年,OpenAI与 Common Sense Media 合作制定了儿童友好的人工智能指南,谷歌将其聊天机器人 Bard 更名为 Gemini,专为青少年提供服务。

然而,生成式人工智能的潜在风险也备受关注。一些调查显示,一些孩子曾看到同龄人以负面方式使用生成式人工智能。因此,对于儿童使用生成式人工智能的指导和监管变得尤为重要。

在这个充满机遇和挑战的时代,Anthropic的政策调整引发了人们对未成年人使用人工智能的深入思考和讨论。如何平衡利用人工智能带来的好处,同时保护未成年人的安全和隐私,将是未来发展的关键议题。

举报

  • 相关推荐
  • 抖音:全面清理不良信息 守护未成年人用网安全

    今日,抖音黑板报发布公告,宣布将深化治理举措,守护未成年人用网安全。 抖音表示,暑期将至,依据相关法律及平台规则,将全面清理不良信息,深入打击侵害未成年人权益的黑灰产。 在保护技术方面,家长仅需在手机终端统一设置,未成年人模式在多分发平台就会开启。 在开启未成年人模式后,系统默认开启时间锁,单日浏览超过40分钟,需要输入密码才可以继续使

  • 腾讯宣布上线家长管理新神器!专治未成年人不停玩、偷偷玩游戏

    暑假将至,神兽出笼,腾讯宣布今天启动2025暑期未成年人保护专项行动。 在严格落实防沉迷规定的基础上,聚焦家庭账号管理推出游戏临时开关”和家长自助下发人脸识别”两项全新家长工具,专治未成年人不停玩、偷偷玩游戏。 据了解,游戏临时开关功能可以灵活设置单次游戏时长(如15分钟、1小时等),

  • 极光积极参与发起AI安全指引 共筑未成年人保护安全防线

    2025年中国网络文明大会在合肥召开,会上发布了《向未成年人提供生成式人工智能服务安全指引》。该指引由中央网信办等部门指导编制,覆盖AI服务全生命周期,强调"最有利于未成年人"原则。极光公司作为发起单位之一,将自身在AI内容审核、未成年人数据保护等领域的技术实践融入指引。未来极光将持续完善内部治理,推动行业自律,研发适龄化AI产品,并参与面向青少年的AI素养教育活动,构建政府监管、企业履责、社会监督的协同治理生态,为未成年人在AI时代的安全健康成长保驾护航。

  • “人工智能强化学习可持续发展计划”发布,“教育普惠+标准共建”助力全球人工智能体系构建

    6月11日,第二届"一带一路"科技交流大会人工智能赋能可持续发展论坛在成都举行。腾讯联合多家机构发起"人工智能强化学习可持续发展计划",包含AI教育普惠和强化学习标准共建两大板块。该计划将面向全球高校开放《人工智能通识课》和《人工智能强化学习专业课》教学资源,助力构建高质量AI教学体系。同时,腾讯开悟人工智能全球公开赛颁奖典礼作为"学赛研产"联动的重要环节,吸引了19个国家和地区的近400所高校队伍参赛。2025年赛事将首次联合全国高校计算机能力挑战赛,围绕AI前沿产业真实场景设置赛题。腾讯还通过"青云计划"为全球顶尖AI人才提供就业机会,推动人才与产业高质量发展。北京大学等机构牵头制定了强化学习系统系列技术标准,填补了领域内标准空白。

  • 腾讯网易未成年人暑期限玩日历发布:一共可玩27小时

    近日,随着各地中小学陆续结束考试,学生群体正式开启暑假模式。为引导未成年人合理使用网络,腾讯游戏与网易游戏同步公布 2025 年暑期未成年人游戏时间管理方案,两家企业均采取严格时段限制措施。 根据新规,未成年玩家仅允许在每周五、周六、周日的 20 时至 21 时登录游戏,整个暑期累计游戏时长不超过 27 小时。这一时间框架较往年保持一致,通过技术手段对未成

  • 极光GPTBots成功完成“生成式人工智能服务登记”

    极光旗下AI开发平台GPTBots.ai近日在广东省网信部门完成生成式人工智能服务登记,成为合规经营的AI服务提供商。该平台严格遵循国家《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法规要求,标志着其在技术创新、服务模式和数据安全等方面获得关键合规认可。此次登记体现了极光对法律法规的严格遵守和对安全责任的高度重视,为区域AI生态发展注入新活力。未来,极光将继续优化技术与服务,保障用户权益,推动生成式AI技术的健康规范发展。

  • 在版权诉讼中,Anthropic 赢下了关键AI训练裁决

    就像任何渴望成为作家的读者一样,Anthropic的语言模型并非为了抄袭或取代原作,而是为了创造出完全不同的内容……

  • 专业AI工具导航与人工智能学习平台AIbase.cn 连接现在与AI未来的智能桥梁

    AI技术正重塑各行各业,从语音助手到自动驾驶,从医疗诊断到金融分析,已从科幻变为现实。面对AI快速发展,许多人感到迷茫:如何跟上技术前沿?如何在AI浪潮中找到机遇?AIbase.cn应运而生,致力于成为连接现在与未来的智能桥梁。平台汇聚全球最新AI资讯、实用技术资源和前沿行业洞察,为新手、开发者和企业家提供一站式解决方案。核心服务体系包括:前沿资讯精选、精品AI工具库、系统化教程、商业化指南和开发者生态支持。通过专业内容与活跃社区,帮助用户在快速变化的AI领域保持敏锐洞察力,实现从概念到应用的跨越。AIbase.cn已成为数万AI从业者的首选平台,期待与您共同探索智能时代的无限可能。

  • 寒武纪荣获2025人工智能领域金牛上市公司科创奖

    2025科创金牛奖获奖名单揭晓,寒武纪凭借在人工智能芯片领域的卓越表现,荣获人工智能领域金牛奖。该奖项由中国证券报打造,是中国资本市场最具影响力的奖项之一。寒武纪专注AI芯片研发,提供云边端一体化智能芯片产品和平台化基础系统软件,其通用型智能芯片产品技术壁垒高、应用场景广。2024年公司研发投入达10.72亿元,新增专利授权314项。此次获奖既是对其科技创新成果的肯定,也是对其推动AI技术产业化应用的认可。未来寒武纪将加速产品迭代升级,为我国人工智能产业发展筑牢技术根基。