只需激活60%的参数，就能实现与全激活稠密模型相当的性能。微软亚洲研究院的一项新研究，实现了模型的完全稀疏激活，让推理成本大幅下降。而且适用范围广泛，无论是从头训练、继续训练还是微调，都能提供有效支持。该方法名为Q-Sparse，在神经元级别上实现了模型稀疏化，相比于其他
......
本文由站长之家合作伙伴自媒体作者“量子位公众号”授权发布于站长之家平台，本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间，为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
Meta发布了Llama3.1系列模型，其中包括Meta迄今为止最大的405B模型，以及两个较小的模型，参数量分别为700亿和80亿。Llama3.1被认为是引领了开源新时代。要在NVIDIANeMo中使用Llama-3.1的SDG微调，可参阅GitHub上的/sdg-law-title-generation部分。
快科技8月31日消息，日前，由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。据悉，该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。单集群智算中心把所有AI加速卡打造成1个集群，用以支持千万亿级参数的大模型进行训练。这个集群智算中心通过先进的智算网络技术把上万块GPU芯片像积木”一样拼接在一起，大幅提升GPU节点间的通信效率，将数据训练完成时间缩短20%，从而形成超级算力集群。这个单集群智算中心共有超过1.8万张AI加速卡，运算能力达到每秒690亿亿次浮点运算，能满足万亿参数的大模型训?
高通即将推出骁龙7sGen3芯片，根据最新泄露的幻灯片，这款芯片在性能、能效以及AI层面将有显著提升。骁龙7sGen3的CPU性能将比上一代快20%，GPU性能提升40%，NPU性能提升30%，同时在能效上也有12%的提升。骁龙7sGen3还将支持蓝牙5.4和空间音频等新特性。
9月5日，腾讯宣布推出新一代大模型“混元Turbo”，相比前代模型，腾讯混元Turbo性能有显著提升，训练效率提升108%，推理效率提升100%，推理成本降低50%，解码速度提升20%，效果在多个基准测试上对标GPT-4o，第三方测评居国内第一。在腾讯全球数字生态大会上，腾讯公司副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏宣布，腾讯混元Turbo在腾讯云上线，输入和输出价格只有前代模型的一半，企业和开发者可以直接在云上接入使用。腾讯旗下协作SaaS产品全面接入腾讯混元大模型。
【新智元导读】近日，来自加州大学尔湾分校等机构的研究人员，利用延迟掩蔽、MoE、分层扩展等策略，将扩散模型的训练成本降到了1890美元。训练一个扩散模型要多少钱?之前最便宜的方法用了28400美元像StableDiffusion这样的模型还要再贵一个数量级。由上表结果可知发现，在所有三个性能指标上，分层缩放方法都优于基线的恒定宽度方法，这表明分层缩放方法更适合DiT的掩蔽�
摩尔线程官方宣布，音频理解大模型MooER”已经正式开源，并公布在GitHub上：https://github.com/MooreThreads/MooER目前开源的内容包括推理代码，以及5000小时数据训练的模型，后续还将开源训练代码，以及基于8万小时数据训练的模型。摩尔线程希望，能够在语音大模型的方法演进和技术落地方面为社区做出贡献。音频理解任务上的效果也会随着基础LLM效果提升提升。
近日，第五代英特尔至强处理器，以优秀的表现通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试。英特尔也成为首批通过AISBench大语言模型推理性能测试的企业。同时还彰显了英特尔至强可以为企业提供开箱即用”的功能，即可以在通用系统上部署一部分AI工作负载，从为客户带来更佳的总体拥有成本优势。
OpenAI向美国加州参议员ScottWiener写了一封反对SB1047法案的信。SB1047是美国加州在今年2月7日拟定的一项针对开源大模型的法案，其中有非常多不合理的条款，例如，如果有人微调了Meta最新发布的Llama-3.1模型，去开发一些恶意、非法的生成式AI产品，那么Meta就会受到很重的处罚。开源大模型倒下了受益最大的便是闭源模型，但他们依然站出来反对这个法案，可见SB-1047的很多条例是有多么的不合理。
在SKIcheonForum2024论坛上，SK海力士副总裁RyuSeong-su宣布，该公司正计划开发一种新的HBM内存标准，该标准将比目前HBM产品快20-30倍。RyuSeong-su表示，公司的目标是推出性能大幅提升的差异化产品，以期在HBM市场中取得领先地位。SK海力士还表达了创建其存储半导体的意向，根据计划，SK海力士和三星都计划在2025年中或年底之前发布各自的HBM4产品，以便及时集成到下一代产品中，如英伟达Robin等架构。
在AI大模型的商业化道路上，“ToBorToC”一直是两难的选择。不过，AI业内有一个共识，创业公司在C端更容易找到机会互联网大厂则更能通过B端获得规模优势。如果最终只有30家大模型能够留下，那么活下来的大模型，不一定是名头最响的，但一定是最实用的。
Humanizar Texto IA 是一款基于人工智能的文本优化工具，旨在将由AI生成的文本转化为更自然、更符合人类语言习惯的文本。该工具使用先进的算法，如基于GPT-3和自然语言处理技术，来改善文本的语法、风格、语调和连贯性。它不仅提高了文本的质量，还有助于用户避免被AI检测工具如ChatGPT Zero识别。Humanizar Texto IA 工具的主要优点包括提升文本质量、降低成本、全天候可用性和保障隐私。
AI俳句生成器是一个在线工具，利用人工智能技术简化了俳句的创作过程。它不仅遵循传统的5-7-5音节结构，还通过提供音节计数、同义词建议、创意提示和多俳句生成等功能，帮助用户探索和创作俳句。这个工具适合所有对日本诗歌感兴趣的人，无论是初学者还是经验丰富的诗人，都能通过它提升写作技巧和创意思维。
EmojiSpark是一个利用人工智能技术为用户提供快速、准确的表情包搜索服务的网站。用户可以通过输入关键词或描述来找到相应的表情包，极大地丰富了在线沟通的趣味性和表达力。该网站支持多种分类搜索，包括表情、动物、食物等，满足不同用户的需求。
EtsyHunt是一个为Etsy卖家提供全面运营服务的平台，包括关键词研究、数据化选品、店铺分析和智能邀评等功能。它通过每日更新的海量商品数据库，帮助卖家挖掘高利润的潜力爆品，优化商品Listing，提升店铺运营效率。EtsyHunt的主要优点包括数据化选品成功率提升、提供AI工具辅助运营、以及实时数据监控等。
Vidful.ai是一个基于AI技术的在线视频生成器，它利用先进的算法将文本和图片快速转换为高质量的视频内容。产品集成了快手Kling AI和Luma AI Dream Machine技术，提供逼真的运动效果和影院级别的视频效果，简化了视频制作流程，使得用户无需专业的视频编辑技能即可制作出专业级的视频。Vidful.ai支持免费在线使用，适合营销、教育、社交媒体创作者和电商等多个领域的用户。
豆包爱学（原河马爱学）是一款专为学习者设计的智能教育APP，依托强大的AI技术，提供解题答疑、作业批改、写作辅导、知识学习、情感陪伴等多功能服务。它旨在成为学习者和家长的全能学习助手，通过智能化手段提高学习效率，激发学习兴趣，促进全面发展。
AlphaProteo是DeepMind推出的首个AI系统，用于设计新型、高强度的蛋白质结合体，作为生物和健康研究的构建模块。这项技术有潜力加速我们对生物过程的理解，并助力新药的发现、生物传感器的开发等。AlphaProteo能够为多种目标蛋白质生成新的蛋白质结合体，包括与癌症和糖尿病并发症相关的VEGF-A。它在实验成功率和结合亲和力方面均优于现有方法，能够显著减少涉及蛋白质结合体的初步实验所需的时间。
Kacha是一款革命性的AI照片应用程序，通过先进的AI技术，能够将用户的普通照片转化为高质量、独特且实用的艺术照片。它提供了多种风格化选项，如卡通头像、职业肖像、教堂婚纱照片等，满足不同用户的需求。Kacha的易用性和创新性使其成为图像处理领域的佼佼者，特别适合需要快速、高效地改善和风格化照片的用户。
聆龙是一款AI笔记助手，它通过语音AI笔记功能，支持用户随时记录信息，并以富文本形式保存。它还具备AI智能标签功能，能够自动生成标题，帮助用户与自己的知识库进行对话。此外，聆龙采用了独创的AI卡片盒笔记法，让用户能够不断记录，实现知识的自然呈现。产品支持多平台同步，包括安卓、苹果和Web版，满足不同用户的需求。
Kuakua夸夸是一个结合心理学和人工智能技术的网站，旨在通过提供积极词汇、理论、任务和实验，帮助用户提升幸福感，成为更好的自己。产品背景信息显示，它鼓励用户专注于当下，接受挑战，拥抱生活，从而实现个人成长和幸福。产品免费提供多种资源，包括积极词汇投票、名人名言、常见问题解答等，以促进用户的积极思考和心理健康。
锐智论文AI写作4.0版是一个专注于学术写作的人工智能平台，它通过最新的学术大模型技术，为用户提供高质量、原创性的论文写作服务。该平台支持多种学科和论文类型，包括毕业论文、开题报告、文献综述等，覆盖从专科到研究生的各个学历层次。它还提供了一系列辅助功能，如文献检索、查重率控制、图表和代码插入等，以满足不同用户的需求。平台注重用户隐私和数据安全，采用阿里云加密技术保护用户论文隐私。
Flux Image Generator是由Black Forest Labs开发的AI图像生成工具，它利用Flux.1模型，能够根据用户的描述生成高分辨率、细节丰富的图像。这款工具不仅能够生成逼真的图像，还支持从简单提示到复杂设计的广泛风格和主题，非常适合艺术家、设计师和内容创作者使用。它的特点包括快速生成图像、提供商业使用权、支持多种图像类型，并且提供退款政策，确保用户满意度。
Ai Chat机器人Plus是一款基于人工智能技术的聊天机器人，它能够理解并流畅地与用户进行交流，提供信息查询、日常咨询、技术支持等服务。这款产品通过模仿人类的对话方式，为用户提供了一个直观、便捷的交互体验。它主要的优点包括快速响应、高准确率的语义理解以及个性化的服务体验。Ai Chat机器人Plus适用于需要快速、智能对话解决方案的个人和企业用户。
AI KATANA是一个专注于人工智能领域的社区网站，它为亚洲的AI爱好者、研究者和专业人士提供一个交流和学习的平台。该网站提供最新的AI新闻、技术动态、行业趋势和深度分析，帮助用户紧跟AI技术的发展。AI KATANA通过分享AI工具、资源和案例，促进知识的传播和创新思维的激发。
薪酬分析助理 AI 是行业首个薪酬分析AI Agent，通过对话形式帮助HR完成日常人力统计报表数据分析，同时支持查询市场薪酬及对标企业招聘动态，有效提升企业人才薪酬竞争力。利用薪酬分析助理 AI，企业能够深入洞察薪酬数据，实现精准的薪酬规划与管理，从而优化人力资源配置，促进业务发展。
Laminar是一个开源的监控和分析工具，专为AI代理和RAG应用设计，提供类似于DataDog和PostHog的功能。它基于OpenTelemetry进行自动监控，支持快速、可靠的数据收集和分析。Laminar使用Rust编写，具有高性能和可靠性，适用于大规模数据处理。它通过提供详细的追踪、事件和分析功能，帮助开发者和企业优化AI应用的性能和用户体验。
JSONGenerator是一个为开发者、测试人员和教育工作者设计的终极数据生成工具，它通过使用模板来定义和生成精确及随机的JSON数据。该工具简化了手动构建JSON数据的过程，提供了一致性和大量数据的快速生成，同时支持数据结构的灵活修改。它遵循RFC 8259和ECMA-404标准，确保生成的JSON数据是经过验证和优化的。
Revideo是一个基于Motion Canvas的开源框架，用于程序化视频编辑。它允许开发者自动化复杂的视频工作流程，或在浏览器中构建完整的视频编辑器。Revideo支持使用Typescript创建视频模板，并能够即时预览和渲染为MP4格式的视频。它适用于大规模视频生成、A/B测试视频广告、构建网页内的视频编辑器或视频游戏等场景。
Replit Agent是一个AI驱动的工具，旨在帮助用户构建软件项目。它能够理解自然语言提示，并协助从头开始创建应用程序，使得软件开发对所有技能水平的用户更加易于接近。Replit Agent是Replit在将AI编码工具普及化方面的最新尝试，它将人类与机器的协作推向了一个新的层次，使得AI代理和人类能够互补、相互填补空白并相互学习。
Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。
