首页 > 业界 > 关键词  > AI最新资讯  > 正文

科技公司担忧,澳大利亚新标准或削弱AI保护在线安全能力

2024-02-29 16:00 · 稿源:站长之家

划重点:

1. 澳大利亚新发布的在线安全标准,被科技公司如微软、Meta等指责可能影响AI系统保护儿童安全和防范恐怖主义材料的效能。

2. 标准针对生成式人工智能(generative AI)潜在的滥用潜力,但微软等公司表示其侦测有问题内容的能力可能受损。

3. 技术公司担心新标准可能使AI训练受限,降低其对儿童虐待和恐怖主义材料的精准侦测,强调AI在内容审查中的关键作用。

站长之家(ChinaZ.com)2月29日 消息:澳大利亚近期发布的新在线安全标准引起了科技公司的担忧,特别是微软、Meta和Stability AI等。这些标准旨在规范生成式人工智能(generative AI)等技术,以防止其被滥用,但科技公司担心这可能对其AI系统的保护在线安全的能力产生负面影响。

根据去年监管机构发布的两项旨在保护儿童安全的强制性标准草案,澳大利亚的eSafety专员朱莉·英曼·格兰特(Julie Inman Grant)提出,服务提供商应在技术上可行的情况下检测和删除儿童虐待材料和恐怖主义材料,同时阻止和威慑这类新材料。这些标准覆盖了多种技术,包括网站、云存储服务、短信和聊天应用,还包括高影响的生成式人工智能服务和开源机器学习模型。

脑机接口 AI机器人

图源备注:图片由AI生成,图片授权服务商Midjourney

在对这些标准进行的咨询中,WeProtect Global Alliance等一百多个政府和七十家公司的非营利联盟强调了eSafety试图解决的问题的本质。他们表示,开源AI已经被用于制作儿童虐待材料和深度伪造,而提议的标准涵盖了正确的平台和服务。

然而,微软、Meta和Stability AI等科技公司则表示,他们的技术正在开发中,已经设置了防范措施,以防止其被用于不当目的。微软警告说,草案中的标准可能限制其用于侦测和标记儿童虐待或恐怖主义材料的AI安全模型的效力。微软表示,确保AI模型和安全系统(如分类器)能够被训练来检测和标记这类内容,需要让AI接触这类内容,并建立评估流程来衡量和减轻风险。

Stability AI同样警告说,AI将在在线内容审查中发挥重要作用,过于宽泛的定义可能使确定必须符合拟议标准的内容变得更加困难。

Meta公司表示,虽然其Llama2模型配备了安全工具和负责任的使用指南,但在工具下载后很难执行防护措施。Google建议在标准中不包含AI,而是将其完全视为当前政府对在线安全法和基本在线安全期望进行审查的一部分。

最终版本的标准将在今年晚些时候提交国会审议。英曼·格兰特在一份声明中表示,这些标准不会要求行业破坏或削弱加密,监视文本或无差别地扫描大量个人数据。她正在考虑对此进行澄清的可能修订。

举报

  • 相关推荐
  • 大家在看
  • 科技创新+践行环保理念 三星始终如一为行业树立新标准

    伴随着AI技术的横空出世,不仅引发了全球科技企业的创新改革,更为消费者在日常生活、办公中带来了诸多惊喜。AI技术的兴起,让各大手机厂商也寻觅到了新方向。IPX8级别防水、装甲铝中框以及Corning®Gorilla®GlassVictus®2玻璃则为三星GalaxyZFold5提供了卓越的防护能力,给予用户更丰富的使用场景,无惧恶劣环境的束缚。

  • 热点直击 | 倍孜网络【个人信息保护技术标准研讨会】要点在线

    6月26日,由倍孜网络联合信通院主办的“金盾计划”—【个人信息保护技术标准研讨会】在上海成功举办。中国信息通信研究院、国家网络与信息系统安全产品质量检验检测中心有关专家以及50余家知名企业的100余名移动应用开发者代表参加此次闭门会议。持续向行业输出安全合规理念,深入解读合规政策,帮助行业构建健康良性的竞争环境,为APP开发者提供高品质商业化变现。

  • 智能驾驭,奇瑞汽车瑞虎8 PRO冠军版定义家庭用车新标准

    在现代都市的繁忙生活中,家庭用车扮演着至关重要的角色,它不仅要具备良好的驾驶性能需要拥有舒适的乘坐体验和先进的智能科技。奇瑞汽车的瑞虎8PRO冠军版,作为一款集豪华、实用与智能科技为一体的中型SUV,不仅以12.69万起的亲民价格和限时购车至高享13000元现金红包等丰厚购车优惠吸引了众多家庭的关注,更在性能配置上展现了其作为理想家庭用车的独特魅力。在未来的日子里,奇瑞汽车的瑞虎8PRO冠军版将陪伴更多的家庭,共同创造更多温馨美好的回忆。

  • 果壳心理,定义在线青少年心理咨询标准

    【喜讯】全国团体标准《互联网青少年心理健康咨询服务规范》正式发布啦!01.历时三年定义在线青少年心理咨询标准由郭磊老师带领专家团队花费了近三年的时间,齐心协力,把青少年线上咨询从业以来的经验、教训、实践真知,全部奉献出来,共同创作了全国团体标准《互联网青少年心理健康咨询服务规范》,于2024年7月12日正式发布,将于2024年10月12日实施。旨在引领并优化青少年线上咨询行业的整体秩序,确保我们的服务达到行业前沿水平,为行业内服务产品的研发与设计工作提供一套系统化、科学化的指导框架,包括明确的专业术语定义、奠定科学的基本原则、确立全面的总体要求、详尽列举服务内容、梳理清晰的服务流程,并设定基本的服务质量门槛。为了实现行业从繁荣起步到规范稳定,推动青少年线上咨询行业走科学、有效发展之路,由果壳心理的郭磊老师带领专家团队创作的《互联网青少年心理健康咨询服务规范》,在中国联合国采购促进会发布。

  • 海南埃汶铭科技有限公司投产AI拓客新工具广受青睐

    随着人工智能技术的飞速发展,越来越多的企业开始探索如何利用AI技术提升业务效率和客户体验。海南埃汶铭科技有限公司成功投产了一款全新的AI拓客工具,该工具凭借其高效、智能的特点,在市场上广受青睐。我们期待在未来,看到更多企业能够借助AI技术实现业务创新和突破。

  • 大利面拌42号混凝土 AI视频竟然给做出来了

    快科技7月16日消息,意大利面拌42号混凝土被网友称为知识搅拌机,独特的脑洞很难想象出画面。而现在有了AI视频,终于能把这句话具象化了。近日,有网友就利用AI视频还原了整段话,哪怕画面再离谱,转场依然很顺滑。据了解,意大利面拌42号混凝土梗出自于博主延边刺客的视频。视频中有两个人出境,一个被称为卧龙,另一位被称为凤雏。其中一人以意大利面拌42号混凝�

  • 新研究:AI测谎能力比人类更强 但需谨慎使用

    德国维尔茨堡大学当地时间12日公布的最新研究显示,在假新闻、政治家的可疑言论和被操纵的视频日益泛滥的时代,人工智能在测谎方面的表现比人类更佳。这项发表在《iScience》期刊上的研究,精心设计了一场实验:参与者被要求撰写周末计划,并巧妙设置半数人需撒谎以换取小额金钱奖励,共收集到来自768名参与者的1536份陈述。测谎仪受限于每日检测人数AI测谎则几乎能�

  • 海南埃汶铭科技有限公司:大湾区举办多场沙龙推广AI工具受直播电商介推崇

    海南埃汶铭科技有限公司:大湾区举办多场沙龙推广AI工具受直播电商介推崇近日,海南埃汶铭科技有限公司在深圳和广州举办了多场沙龙活动,旨在推广其最新研发的AI工具,并受到直播电商界的一致推崇。(图一:AI文明深圳沙龙现场)作为一家专注于人工智能技术研发的公司,埃汶铭科技有限公司一直致力于为企业提供智能化解决方案。此次举办的沙龙活动,旨在向大湾区的

  • 阵容庞大!谷歌OpenAI等14家公司成立安全AI联盟

    全球科技巨头谷歌携手微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共计14家领先企业,于7月18日在阿斯彭安全论坛上正式宣布成立了安全人工智能联盟。该联盟由备受尊崇的OASIS全球标准机构鼎力支持并主办,作为一项前瞻性的开源计划,CoSAI旨在构建一个面向全体AI从业者及开发者的资源共享平台,通过提供详尽的指导手册与高效工具,助力他们设计出更加安全可靠的人工智能系统。尤为重要的是,联盟将重点聚焦于降低一系列潜在风险,包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等,这些威胁不仅威胁着AI系统的稳定与安全,更可能对社会经济造成不可估量的损失。

  • 李佳琦直播间卖假和田玉?公司回应:完符合国家标准

    有关李佳琦直播间销售假冒和田玉的消息引起了公众的广泛关注。美腕公司迅速发表声明,坚决否认了这些指控。品牌方鸳鸯金楼也在同一天发表声明,否认了直播间售卖假和田玉的指控,并表示已经与质检证书机构及事件相关消费者共同出具了澄清说明书。

  • Animate Old Photos:用AI技术让老照片动起来

    Animate Old Photos是一个利用Kling AI技术将老照片转化为生动视频的网站。它通过AI技术使旧时记忆重新焕发活力,为用户带来更加生动和动态的体验。该产品目前处于beta测试阶段,免费提供服务,但随着高级功能的增加,未来可能会推出付费计划。

  • Discovery Outcomes:AI驱动的产品管理操作系统

    Discovery Outcomes是一个AI驱动的产品管理操作系统,旨在简化和增强产品管理流程。它通过集成工具、促进协作,并利用AI提高工作效率。该平台通过统一平台覆盖从设定目标到功能交付的所有内容,解决工具跳跃、数据冗余和信息孤岛等常见挑战。Discovery Outcomes通过AI驱动的效率提升,旨在提高上市时间、生产力、创新率、交付物质量、适应性、灵活性、跨功能协作和投资回报率。

  • Revent.ai:使用AI快速创建专业演示文稿

    Revent.ai 是一个专注于利用人工智能技术帮助用户快速创建专业演示文稿的平台。其核心功能包括演示文稿自动化和设计服务,旨在通过简化设计流程,让用户能够专注于内容的传达,从而提升演示文稿的质量和效率。Revent.ai 的使命是让技术更好地服务于人,强调以人为本,确保质量和价值始终贯穿于产品之中。

  • AI Memory:智能记忆助手,随时随地回忆重要信息

    Flot.ai的AI Memory是一个基于人工智能的个人知识库管理工具,通过AI Memory功能,帮助用户轻松构建和回忆个人知识库。它允许用户通过简单的点击操作,从任何应用程序或网站保存文本到AI记忆中,并随时通过与AI对话来回忆这些信息。产品强调了其无需组织、易于访问和使用的特点,以及对隐私的高度重视,符合GDPR标准。

  • AI数学解题器:智能解决数学问题,提升学习效率

    AI数学解题器是由数学AI和数学GPT模型(如GPT-4o)驱动的在线工具,旨在提供广泛的数学问题解决方案。它利用先进的人工智能技术,为学生和教师提供详尽的分步解答,增强了对数学概念的理解和解题能力。该产品背景是数学学习中对高效解题工具的需求,定位于免费提供高质量的教育支持。

  • CohesiveAI:AI驱动的数据采集与分析工具

    Cohesive是一款集成在Google Sheets中的AI工具,它允许用户通过AI技术进行数据的批量分析、个性化生成以及网页抓取,特别适用于需要大规模数据采集和分析的商业场景。它支持在Google Sheets内直接进行操作,无需学习新平台,简化了数据导入和导出的流程。Cohesive还提供了与ZeroBounce的集成,帮助用户找到或验证电子邮件地址。

  • AI Renamer:智能文件重命名工具

    ai-renamer 是一个基于 Node.js 的命令行工具,利用 Ollama 和 LM Studio 模型(如 Llava, Gemma, Llama 等)智能地根据文件内容重命名文件。它支持视频、图片等多种文件类型,并且可以通过自定义参数来优化重命名过程。该工具使用户能够自动化文件管理,提高效率,尤其适合需要批量处理文件名的开发者和内容创作者。

  • EasyMedia:AI驱动,快速将YouTube视频转化为社交媒体内容。

    EasyMedia是一个利用人工智能技术,帮助用户将YouTube视频内容快速转化为适合不同社交媒体平台的帖子、推文等。它支持Facebook、Instagram、Twitter、LinkedIn等多个平台,能够根据平台特点自动调整内容格式,提高内容的吸引力和传播力。产品背景在于帮助用户节省内容创作时间,同时增加其在数字世界中的影响力。

  • Kuluko:将想法变成有声书

    Kuluko是一款AI驱动的有声书生成器,它允许用户通过简单的提示或个性化的设置来创作属于自己的有声书。它提供了两种模式:简易模式和高级模式,以满足不同用户的需求。简易模式下,用户只需输入一个提示,AI即可生成完整的小说。高级模式则允许用户自定义故事的各个方面,包括角色、类型、背景、故事时间、叙述者声音等。Kuluko将故事转化为长达4小时的有声书,用户可以立即开始收听。此外,Kuluko还具有个人和公共图书馆功能,用户可以选择私密享受或与他人分享。

  • fastn:无代码AI驱动的集成平台

    fastn是一个无代码、AI驱动的集成平台,旨在帮助开发者通过单一、统一的API连接和编排多个数据源。它通过AI代理创建API,支持即时API组合,无需编码即可实现数据流的连接。fastn的主要优点包括降低成本、加速开发和上市时间、提高可靠性和安全性。它通过实时数据编排、统一数据访问和监控与故障排除等功能,帮助企业构建互联生态系统。

  • Wasps:AI代码审查工具,快速理解代码库并修复问题。

    Wasps是一个集成在VSCode中的AI代码审查插件,通过深度分析和理解代码库,能够快速识别并修复代码中的错误和漏洞。它为开发者提供即时反馈,推荐潜在问题和改进建议,帮助提高代码质量和开发效率。

  • LLM Optimize:专业网站审计,提升AI推荐排名

    LLM Optimize 是一套工具,旨在帮助用户优化网站,使其在AI聊天机器人和生成引擎(如ChatGPT和Google的AI Overview)中排名更高。该工具通过专业的网站审计,提供可操作的建议,帮助用户在这些生成引擎中获得更好的展示效果。其重要性在于,随着AI技术的不断发展,传统的SEO策略正在逐渐被LLM(Large Language Models,大型语言模型)优化所取代。LLM Optimize通过分析网站内容和竞争对手的策略,提供定制化的优化方案,帮助用户在AI驱动的搜索结果中获得更高的曝光率。

  • Meme Search:通过文本搜索快速找到完美表情包

    Meme Search是一款通过视觉内容和文本索引表情包的应用程序,它能够让用户通过文本搜索快速找到所需的表情包。该应用使用自然语言处理技术,将图片中的文本描述自动生成并作为向量索引存储,从而实现快速检索。Meme Search的开源特性和创新的搜索方式,使其成为提升表情包搜索效率的有力工具。

  • PDFJourney:快速且经济的PDF创建方式

    PDFJourney 是一个旨在为用户提供快速且经济的PDF创建服务的网站。它通过简化用户界面和操作流程,使得用户能够轻松地创建PDF文件。该产品的主要优点在于其高效的渲染速度和低廉的成本,这对于需要频繁处理文档的用户来说是一个巨大的优势。PDFJourney 是 GPT4 的微调版本,它致力于通过技术手段降低文档处理的复杂性和成本,从而提升用户的工作效率。

  • AnyParser:准确、私密且可配置的文档检索LLM

    AnyParser Playground 是一个基于网页的解决方案,旨在帮助用户从PDF和图像文件中提取信息。它通过使用机器学习技术,能够处理文件的前10页,为用户提供数据的全面洞察。该平台不存储用户数据,保证了数据的隐私和安全性。

  • Reimagic.ai:将照片转化为非凡肖像的革命性应用

    Reimagic.ai是一款革命性的移动应用程序,可以将您的照片转化为非凡的肖像。它具备即时背景转换、无缝融合、多样化使用场景、用户友好界面等功能,适用于人像、宠物和产品摄影,使每张快照都成为杰作。

  • Xspiral:新一代3D可视化设计平台,让创意触手可及。

    Xspiral是一个结合了2D和3D设计的混合平台,通过AI技术增强,提供实时渲染、无需下载、协作功能。它允许用户快速创建、设计、管理、预览、分享和发布3D作品。Xspiral支持使用智能写作功能,如一键重写、总结、扩展和快速思维导图,以及创建和管理交互式3D工作流应用,包括文档、思维导图、流程图等。它还支持在3D空间中进行UI/UX设计,为初学者和专业人士提供了轻松创建3D设计的可能。

  • 如果相机:用AI帮你看见各种「如果」背后自己可能的样子

    如果相机是一款利用人工智能技术,帮助用户探索不同生活选择下自己可能的样子的网站。通过AI技术,用户可以体验到不同的生活方式、外貌变化等,从而发现更多的可能性。该产品的主要优点在于其创新性和趣味性,能够激发用户的想象力和探索欲。

  • Relingo:智能双语翻译,助力词汇记忆

    Relingo是一款专注于提升用户英语词汇记忆能力的教育类APP。它通过在用户阅读和观看视频时自动高亮生词并提供翻译,帮助用户在感兴趣的内容中轻松积累单词。产品支持多种语言,包括中文、英文、日文等,覆盖了全文翻译、视频双语字幕、PDF阅读等多种场景,使用户在沉浸式翻译中提升语言能力。

  • AI Photo Filter:AI滤镜,一键转换照片风格

    AI Photo Filter是一个在线服务,使用人工智能技术将用户上传的照片转换成多种艺术风格,如动漫、粘土、3D、像素艺术等。它适用于初学者和专业人士,只需简单点击即可使用。该技术的主要优点包括操作简便、风格多样、效果生动,能够满足不同用户对照片美化和创意表达的需求。

今日大家都在搜的词:

热文

  • 3 天
  • 7天