替代注意力机制，SSM 真的大有可为?为了用更少的算力让扩散模型生成高分辨率图像，注意力机制可以不要，这是康奈尔大学和苹果的一项最新研究所给出的结论。众所周知，注意力机制是 Transformer 架构的核心组件，对于高质量的文本、图像生成都至关重要。但它的缺陷也很明显，即计算
......
本文由站长之家合作伙伴自媒体作者“机器之心公众号”授权发布于站长之家平台，本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间，为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
3月29日，知名AI研究实验室AI21在官网开源了，首个基于SSM-Transformer混合架构的商业大模型——Jamba。ChatGPT、StableDifusion、Lyria等产品使用的皆是Transformer架构，虽然在捕捉序列内长距离依赖关系、泛化能力、特征提取等方面非常优秀，但在处理长序列、训练大参数模型时存在AI算力消耗大、过拟合、内存占用大等缺点。耐克、Zoom、沃尔玛、三星、阿迪达斯、airbnb等知名企业在使�
AI21发布了世界首个Mamba的生产级模型:Jamba。这个模型采用了开创性的SSM-Transformer架构，具有52B参数，其中12B在生成时处于活动状态。这意味着Jamba模型在处理需要理解大量文本和复杂依赖关系的任务时，既能保持高效率，又不会牺牲性能或精度。
欢迎来到【今日AI】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。
Jamba是一款基于SSM-Transformer混合架构的开放语言模型，提供顶级的质量和性能表现。它融合了Transformer和SSM架构的优势，在推理基准测试中表现出色，同时在长上下文场景下提供3倍的吞吐量提升。作为基础模型，Jamba旨在供开发者微调、训练并构建定制化解决方案。
人工智能热潮席卷全球，撼动了很多行业的发展模式。以大模型为代表的通用人工智能，深刻改变了当前以人力和时长为主要生产模式的产业形态，从根本上重塑了产业的全球竞争力。”FMossGPT在公共安全、执纪监督、金融反洗钱、知产保护、高校科研等多个数据分析项目中都能展现出强大的实力，无论是在打击犯罪的战场上是在学术研究的领域里，凭借其独特的智慧，为数据分析工作注入新的活力!智器云助推大模型产业生态蓬勃发展在智器云的发展蓝图中，大模型FMossGPT将成为创新解决方案的的核心，以它为基座，将有更多人工智能产品与大家见面!智器云会继续深化大模型在数据情报分析中的应用，不断推出创新产品和服务，以满足不断变化的社会需求，推动大模型产业生态蓬勃发展，助力数据情报分析领域的智能化水平迈上新的高峰!先进科技是推动新质生产力产生的核心驱动力，科技进步需要行业内外的共同努力。
【新智元导读】大模型这把火点燃了整个机器人行业的热情。纵观全世界，过去几个月，国内外大模型大厂和机器人初创公司的合作也是动作不断。科大讯飞所做的，就是用技术革新，让机器人走进每个家庭。
苹果公司在今年2月28日宣布取消了其电动汽车项目，将重心转向生成式人工智能。这一举动标志着苹果结束了长达十年的电动汽车探索计划。据媒体报道，苹果本周向美国加利福尼亚州提交了必要的文件，显示将永久裁员600多名员工。裁员主要集中在加州圣克拉拉市附近几处苹果建筑内，离苹果总部不远。外界推测，这可能是因为苹果放弃了汽车项目，部分
在最新的研究中，提出了一种名为注意力混合模式的新架构，旨在个性化文本到图像扩散模型，可以实现风格参考和人物融合的效果。受大型语言模型中使用的专家混合机制的启发，MoA通过将生成工作负载分配给两个注意力路径来实现给定主题和背景的分离生成。这些应用展示了MoA在个性化图像生成领域的潜在价值和广泛适用性。
WebLlama是一款基于Llama-3-8B模型的智能代理，它通过对话与用户互动，执行网页浏览相关的任务。这款工具能够处理连续的对话，理解并执行用户的指令，自动完成网上搜索、导航和信息检索等操作。随着技术的不断进步和优化，WebLlama有望在自动化网页浏览和信息收集方面发挥更大的作用。
Ollama软件的最新更新为用户带来了一系列显著的性能提升和新功能。这次更新主要集中在优化软件性能，提高VRAM的利用率，减少内存不足的错误，并改善GPU的运行效率。无论是研究人员、开发者还是普通用户，都能够从Ollama的新功能和模型支持中受益。
Chat With Llama 3 是一个开源的聊天机器人，由Meta AI开发。它能够进行多种智能对话，包括解释复杂概念、创作诗歌、编写代码、解决逻辑谜题，甚至帮助用户给宠物起名。这个聊天机器人的主要优点在于它的多功能性和开源性，使其可以被广泛地应用于各种场景，并且可以根据需要进行定制和改进。
AI图片生成与搜索是一个在线平台，利用先进的人工智能技术，允许用户快速生成或搜索各种风格的AI图片。该技术的重要性在于它能够极大提高设计和创意工作的效率，同时降低成本。产品的主要优点包括丰富的图片资源、高效的生成速度、以及用户友好的界面。产品背景信息显示，这是一个面向广大创意工作者和设计师的工具，旨在帮助他们快速实现创意构想。目前，该产品提供免费试用，但具体价格和定位信息未在页面中提供。
OpenPerplex是一个提供广泛知识资源的在线平台，它通过整合多种信息源，为用户提供了一个便捷的知识获取渠道。该产品以其丰富的信息量、高效的检索能力和友好的用户界面而受到用户的青睐。它不仅适用于个人学习，也适合专业人士进行深入研究。
JavaVision是一个基于Java开发的全能视觉智能识别项目，它不仅实现了PaddleOCR-V4、YoloV8物体识别、人脸识别、以图搜图等核心功能，还可以轻松扩展到其他领域，如语音识别、动物识别、安防检查等。项目特点包括使用SpringBoot框架、多功能性、高性能、可靠稳定、易于集成和灵活可拓展。JavaVision旨在为Java开发者提供一个全面的视觉智能识别解决方案，让他们能够以熟悉且喜爱的编程语言构建出先进、可靠且易于集成的AI应用。
AI-Powered Background Removal（AI驱动的背景移除）是一款基于AI技术的在线工具，它能够快速且高效地从用户上传的图片中移除背景。该工具的主要优点在于其隐私保护和本地执行能力，即图片处理在用户设备上完成，无需上传至互联网，保证了数据的安全性和处理速度。此外，作为一款开源且完全免费的工具，它极大地释放了用户的创造力，无需担心成本问题。
SearchForJohn是一个在线搜索工具，旨在帮助用户快速找到所需的信息。它以简洁的界面和高效的搜索算法为特点，为用户提供了一个便捷的信息检索平台。该产品的主要优点包括快速响应、准确的搜索结果和用户友好的界面设计。SearchForJohn的背景信息显示，它是由一群对搜索技术充满热情的开发者创建的，旨在解决用户在信息过载时代中寻找特定信息的难题。目前，该产品提供免费试用，但具体价格和定位信息未在页面上明确展示。
OpenBioLLM-8B是由Saama AI Labs开发的先进开源语言模型，专为生物医学领域设计。该模型在大量高质量的生物医学数据上进行了微调，能够理解并生成具有领域特定准确性和流畅性的文字。它在生物医学基准测试中的表现超越了其他类似规模的开源生物医学语言模型，并与更大的专有和开源模型如GPT-3.5和Meditron-70B相比也展现出更好的结果。
小悟空是一个集成了多种智能工具的网站，旨在提高个人和团队的创作效率和运营效果。它通过提供诸如文章生成、视频脚本创作、笔记创作等多样化功能，满足不同用户在内容创作、个人表达、学习教育等方面的需求。产品背景基于人工智能技术，结合大数据分析，为用户提供个性化、高质量的服务。价格定位为免费试用，部分功能付费，以适应不同用户的需求。
Jasper Chat是一个先进的人工智能聊天工具，它通过数十亿的文章、论坛、视频文字稿和网络内容的学习，能够就复杂主题进行详细对话。它的设计易于使用，能够记住对话内容，快速生成有用、适用且独特的内容，并且支持30多种语言。Jasper Chat不仅功能强大，而且使用起来充满乐趣，可以用于写作诗歌、讲笑话、制作剧本或生成日常星座运势等。
YouTube Transcript Generator可以下载任何YouTube视频的转录文本，并提供复制、下载、搜索和转换等功能。通过AI将YouTube转录文本转换为文章或博客帖子。
Undress AI Tool是一款强大的深度脱衣应用程序，可以修改图像，使人们看起来像是没有穿衣服。它使用先进的技术准确地修改照片，生成DeepNude和AI成人图像。该工具的主要优点是可以快速准确地创建深度脱衣图像。
TinderProfile.ai是一个使用AI技术分析用户自拍和照片，生成一组高质量、专业外观的图片，以确保在约会档案上留下良好的第一印象，增加用户获得更多匹配的机会。
OpenBioLLM-70B是由Saama AI Labs开发的先进开源语言模型，专为生物医学领域设计。该模型在大量高质量的生物医学数据上进行了微调，能够理解和生成具有领域特定准确性和流畅性的文字。它在生物医学基准测试中展示了超越其他类似规模开源生物医学语言模型的优越性能，并且在与更大的专有和开源模型如GPT-4、Gemini、Medtron-70B、Med-PaLM-1和Med-PaLM-2的比较中也展现了更好的结果。
FunGifts.AI是一个提供个性化AI生成的记忆游戏的平台。用户可以上传照片，通过AI生成独特的艺术作品，并打印成为一款记忆卡片游戏。这款游戏拥有30张卡片，印有训练人物的AI艺术作品。FunGifts.AI提供快速的打印和寄送服务，为用户打造一款独一无二的记忆游戏。
Lawdeck是一款利用人工智能技术的在线法律平台，旨在自动化律师事务所的80%例行工作。它可以通过分析输入的详细信息，为用户提供最佳的法律策略，并生成完整的文件供用户编辑和共享。
ChatALL是一款桌面客户端软件，它允许用户同时与多个大型语言模型（LLMs）基础的AI聊天机器人进行对话，帮助用户发现最佳的对话结果。这款软件的主要优点在于其能够并发发送提示给不同的AI机器人，从而快速比较它们在不同任务上的表现，并找到最适合的机器人。产品背景信息显示，ChatALL适合于希望从LLMs中找到最佳答案或创作的专家、研究人员以及LLM应用的开发者。目前，ChatALL是免费提供给用户的。
TTS Generator AI是一款创新的免费在线文本转语音工具，利用先进的AI技术将书面文本转换为高质量、自然流畅的音频。该工具适用于各种用户，包括需要听觉学习材料的学生、想要听长篇文件的研究人员以及希望使其书面内容更易访问的专业人士。TTS工具的一大亮点是它能够支持各种文本格式，从简单的文本文件到复杂的PDF文件，使其非常灵活。
Neopaths是一款游戏化的个人成长平台，通过智能任务管理和微学习等功能，帮助用户开发潜力。该平台采用科学方法，提供个人成长和教育支持。Neopaths可以帮助用户提高注意力、支持长期记忆，并通过引入游戏元素和机制，使非游戏化内容更加有趣。Neopaths提供免费、有趣和简单的个人成长方法。
Illusion Diffusion是一款免费创新的AI工具，通过Stable Diffusion和Controlnet AI模型，将普通照片转化为艺术品，提供文本提示来生成视觉错觉和超现实图像。
Datascale是一个AI SQL知识库，帮助数据团队跟踪所有用于数据分析的查询。它将保存的查询转化为知识，从分散的分析中提取表格洞见和可视化关系。
