站长之家（ChinaZ.com）12月19日 消息:美国芯片初创公司Etched AI近日宣称，他们成功开创了一项新的技术，将Transformer架构直接“烧录”到了芯片中，创造出了世界上最强大的专门用于Transformer推理的服务器Sohu。据称，这项技术可以运行万亿参数的模型，甩英伟达几百条街。
官网地址:https://www.etched.ai/
该服务器具有多项功能，包括实时语音代理，能够在毫秒内处理成千上万的词;更好的编码与树搜索能力，可以并行比较数百个响应;多播推测解码功能，实时生成新内容;支持未来的万亿参数模型，只需一个核心，支持全开源软件栈，可扩展至100T参数模型;还具备高级解码技术，包括光束搜索和MCTS解码。
此外，每个芯片还配备了144GB HBM3E，支持MoE和转换器变体，为服务器的高性能提供了有力支持。这一突破性技术的问世，将为Transformer架构的应用带来新的可能性。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
谷歌终于更新了Transformer架构。最新发布的Mixture-of-Depths，改变了以往Transformer计算模式。这篇论文目前被引次数超过3500次，论文核心定义了Inductivebias概念。
3月29日，知名AI研究实验室AI21在官网开源了，首个基于SSM-Transformer混合架构的商业大模型——Jamba。ChatGPT、StableDifusion、Lyria等产品使用的皆是Transformer架构，虽然在捕捉序列内长距离依赖关系、泛化能力、特征提取等方面非常优秀，但在处理长序列、训练大参数模型时存在AI算力消耗大、过拟合、内存占用大等缺点。耐克、Zoom、沃尔玛、三星、阿迪达斯、airbnb等知名企业在使�
蔚来李斌近日表示，去年购买了很多的英伟达芯片，这耗费了公司不少钱，为此公司转向自研芯片，因为一颗芯片可以顶四颗，所以能降低成本。在2023蔚来日上，蔚来正式发布了首颗自研智能驾驶芯片神玑NX9031。配合蔚来汽车的最强安全冗余能力，神玑NX9031能够带来极致安心的驾驶体验，让驾驶者在享受智能驾驶带来的便利的同时，也能感受到蔚来汽车对安全性能的极致追求�
搞AI大模型，实在太烧钱了。如今的生成式AI有很大一部分是资本游戏，科技巨头利用自身强大的算力和数据占据领先位置，并正在使用先进GPU的并行算力将其推广落地。无论花掉多少钱，成为第一可能就会带来潜在的收益……但是什么样的收益，我们还无法作出预测。
AI巨头公司英伟达继续其战略性收购行动，今日宣布将收购一家以色列初创公司，以使AI芯片更高效。这家芯片制造商已经签署了一项“最终协议”，收购基于Kubernetes的软件提供商Run:ai，后者帮助优化图形处理单元上的AI应用和工作负载。“Run:ai自2020年以来一直与英伟达紧密合作，我们都热衷于帮助客户充分利用其基础设施，”Geller在宣布这项交易的英伟达博客文章中说道。
fal是一个生成式媒体平台，旨在为开发者提供最先进的生成式媒体模型，并通过fal的推理专家优化，实现闪电般快速的推理。该平台支持实时WebSocket推理基础设施，并提供私有部署选项，以最经济的方式根据使用量付费。开发者可通过fal灵活的计费方式，实现经济高效的生成式媒体应用。
英伟达近日宣布将与印尼第二大移动电信公司IndosatOoredooHutchison携手，在梭罗建设一座总投资额高达2亿美元的人工智能开发中心，此举标志着英伟达进一步扩大在印尼乃至整个东南亚的业务版图。据印尼通讯与信息部长布迪阿里塞蒂亚迪透露，这座名为IndonesiaAINation”的开发中心将加强当地的电信基础设施、人力资源和数字人才，为印尼乃至整个东南亚地区的人工智能和技术进
MTIA是Meta自研的下一代AI加速芯片。该产品在计算能力和内存带宽上都有显著提升，可以更高效地支撑Meta的排序和推荐模型应用。点击前往MTIA官网体验入口需求人群:"为Meta的AI模型推理提供硬件基础设施支持"使用场景示例:MTIAv2加速提升了Meta社交网络的推荐能力，为用户提供更个性化的内容推荐MTIAv2支撑了Meta广告系统的排序和推荐模型，提升了广告投放的效果MTIAv2成为MetaAI基础设施的重要组成部分，为各类AI应用提供高性能的硬件支持产品特色：提供高计算性能和内存带宽支撑Meta的排序和推荐模型应用与Meta软件栈深度集成，实现高效运行详情请访问MTIA官网。
在AI行业，尤其是生成式AI领域，技术的快速发展和应用的广泛前景吸引了大量的投资和关注。这一领域的高昂成本也引起了业界的广泛讨论。如何在追求技术进步的同时实现可持续的商业模式，是所有AI公司需要面对的重要问题。
MediaTekDaVinciGenAIPlatform是一个强大的生成式AI平台，能提供自然流畅的人工智能对话体验，充当个人助理。平台还能整合多种信息源，帮助用户全方位了解相关信息。MediaTekDaVinciGenAIPlatform的使用场景多种多样，包括：编写高质量文章快速了解技术文档内容根据需求扩展平台功能MediaTekDaVinciGenAIPlatform的产品特色直接聊天文档分析插件扩展希望通过此平台提高工作和生活效率，获取所需信息和服务的用户可以尝试使用MediaTekDaVinciGenAIPlatform。
TravAI是一款旅行行业的AI驱动培训产品，通过注入AI技术，为培训注入活力。它能创建引人入胜、交互式的培训课程，进行逼真的角色扮演模拟，并设计能够真正起作用的测验。同时，TravAI利用您的数据为旅行团队量身定制个性化学习体验，让培训不再是通用的、一刀切的。它是培训旅行业专业人员的更智能、更快速的方式。
Nextminds是一个提供在线辅导服务的平台，通过与经验丰富的导师在线互动，为学生提供个性化的学习经验。平台提供ICSE、CBSE和州委员会等多种教育体系的辅导。Nextminds的主要优点是学生可以在舒适的家中与专业的导师进行一对一的在线学习，为学生提供高质量的辅导服务。
Pedagogue是一款AI技能培训平台，旨在帮助个人和企业提升AI技能。通过该平台，用户可以学习AI工具、技术和策略，并获得40%的生产力提升。Pedagogue的优势在于更新及时的内容库、个性化的技能培养、有趣的学习方式以及具有商业价值的数据驱动洞察。
LexiGym是一款语言学习应用，帮助用户提升语言技能。它具有离线和多语言支持的创新功能，是最强大的语言学习伴侣。用户可以根据自己的预算选择免费使用或付费订阅，灵活选择学习方式。LexiGym还提供易于创建字典和智能学习等功能，以及详细的训练统计数据。
A Levels AI利用人工智能技术，提供个性化的学习计划和辅导资源，帮助学生在A Levels考试中取得优异成绩。它通过分析学生的学习情况和弱点，为其提供针对性的学习建议和练习题。A Levels AI还提供实时答疑和学习进度跟踪功能，帮助学生更好地掌握知识。
MailReply通过AI生成邮件回复，帮助用户节省时间。它可以在保持人类写作风格的同时，根据邮件内容生成上下文相关的回复。MailReply适用于Windows和macOS，并兼容多种邮件客户端。
Notification harbor是一个为电子邮件营销团队提供AI优化的电子邮件内容和自动化流程的平台。通过使用LLM技术，我们可以在短短5分钟内创建高性能的电子邮件营销内容，并且随着时间的推移，产品甚至可以自我优化。我们的平台简化了电子邮件营销活动的方式，确保每个活动都能精准地与您的目标受众建立联系。AI生成的电子邮件模板根据您提供的信息和要求选择最合适的模板。实时个性化电子邮件可以提高用户参与度和转化率，并根据每个用户实时定制内容。AI驱动的电子邮件营销使您的团队在创建电子邮件模板和文本方面节省了60％的时间。
Magic Loops是一种基于ChatGPT的自动化工具，可以连接数据、发送电子邮件、接收短信、爬取网站等功能。它能够帮助用户自动化生活中的各种任务，提高工作效率。Magic Loops的主要优点是可以与各种数据源和应用程序集成，轻松实现个性化的自动化需求。
Reply Auto是一款使用AI技术的邮件助手，它能够自动分析邮件内容，根据上下文提供智能回复。它的主要优点是提高工作效率，减轻用户的邮件负担，并能够个性化定制回复。Reply Auto定位于帮助用户更高效地处理电子邮件，提高工作效率。
AI Mailman利用最新的人工智能技术创建世界上最准确的邮件，比人类更快速和高质量。它提供简单的用户界面，能够创建世界上最强大的邮件模板，打开率更高。使用AI Mailman创建的邮件打开率是其他方式的10倍，生成时间只需10秒。
Inpost.ai是一款基于AI的移动应用程序，可以优化个人电子邮件体验。它帮助用户智能地组织和清理收件箱，专注于重要的电子邮件。它提供无缝的邮件交互，提供增强的安全性和独家功能。通过高级AI模型分析邮件内容，而不暴露用户的敏感信息。用户可以轻松追踪支出、管理发票，并利用促销优惠来优化个人预算。Inpost.ai还提供定制的收件箱分类，让用户能够个性化和高效地管理和优化收件箱。
Leadog.io是一款AI驱动的冷邮件营销平台，提供冷邮件发送、线索跟踪和互动等功能。它采用先进的AI技术来优化冷邮件营销策略，提供精确的邮件投递和跟踪，帮助用户更好地了解和转化潜在客户。
Prospect AI是一款插件，可以帮助销售团队、数字营销人员和公关专业人员免费查找公司的联系人。它使用人工智能技术，快速获取所需的联系人信息，帮助用户拓展业务关系。
Email Whisperer是一个用于Gmail和Outlook的AI电子邮件编写工具。它可以帮助你轻松地写出完美的电子邮件，提供重新表达、拼写检查和修正功能。它能够提高你电子邮件的清晰度和风格，并确保邮件无错误。Email Whisperer是一个提高电子邮件写作效率的工具，让你的邮件专业而准确。
Humanize AI Text是一个免费在线的AI文本人性化转换工具，能够绕过AI检测，并将AI生成的文本转换为与人类写作相匹配的内容。
Happily.ai是一个AI工具包，帮助人力资源和经理人通过无忧无虑的参与、认可和绩效管理来提高人才留存和团队生产力。
ChatKPI是一个AI数据分析工具，旨在帮助Shopify商家做出更明智的数据驱动决策。它可以提供实时洞察力，跟踪销售趋势，识别热门产品，了解客户行为，并通过自然语言对话提供个性化的商业洞察。ChatKPI可以通过文本消息或在Shopify商店内安装的应用程序使用。
Limodify.AI革新了电子商务邮件的创建过程，只需点击几下，选择格式，输入关键信息，即可在30秒内获得准备好发送的AI设计的邮件。节省时间，利用先进技术，精确实现您的营销目标。立即免费开始使用。
PurplePro是一个使用AI技术的插件，它可以帮助您在短短两个点击的时间内启动您的忠诚度俱乐部。PurplePro通过游戏化和动态的积分规则增加用户参与度，并奖励他们。它还提供了强大的推荐、挑战、问卷和可变奖励功能，帮助您将首次用户转化为忠实的客户。
LISUTO株式会社は、eコマースのセラーやマーケットプレイスが売上を増やし、時間を節約し、コアビジネスに集中できるスマートデータ構造化ソリューションのリーダーです。LISUTO AIは、AIタッガーやイメージタッガーなどのサービスを提供し、商品のタグ登録やナビゲーション改善などを自動化し、効率を向上させます。
