LLM若想高速推理，现如今，连GPU都无法满足了?曾造出世界最大芯片公司Cerebras，刚刚发布了全球最快的AI推理架构——Cerebras Inference。运行Llama3.18B时，它能以1800token/s的速率吐出文字。不论是总结文档，还是代码生成等任务，响应几乎一闪而过，快到让你不敢相信自己的眼睛
......
本文由站长之家合作伙伴自媒体作者“新智元公众号”授权发布于站长之家平台，本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间，为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。
（举报）
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
腾讯云
12-20
据外媒统计显示，在过去二十年中，NVIDIA一直占据着GPU市场的主导地位，让AMD无隙可乘。在人工智能行业大爆发之前，NVIDIA一直是消费级和专业级GPU的天下；现在依然保持着同样的地位，但发展态势已经不同，AMD的份额创下新低，都快被挤出行业。NVIDIA及其巨大市场份额的关键时刻出现在加密货币挖矿热潮期间，我们看到市场份额在这一时期飙升至80%。
就在一个月前，OpenAI悄悄发布了o1，o1的推理能力是有目共睹的。我当时用了几个很难很难的测试样例去试验了一下，很多模型见了都会犯怵，开始胡说八道。
快科技10月8日消息，英伟达股价周一上涨逾2%，市值升至3.13万亿美元，超过微软的3.04万亿美元，成为全球第二大公司。不过目前苹果依然是第一，总市值3.37万亿美元。英伟达如今市值大涨主要就是受益于人工智能领域，目前市场上AI芯片需求巨大，出货量极为强劲，推动了股价的上涨，自今年初以来已上涨一倍以上。近几个月来，英伟达和微软一直在与苹果争夺市值第一的宝�
随着人工智能技术的蓬勃发展，英伟达公司CEO黄仁勋的个人财富迎来了爆炸性的增长。黄仁勋的个人净资产已经达到1092亿美元，这一数字甚至超过了芯片巨头英特尔的市值960亿美元。黄仁勋的财富增长，使他在福布斯实时富豪榜上排名第11位，与前十名仅一步之遥。
近日，苹果公司的AI研究团队发表了一篇题为UnderstandingtheLimitationsofLargeLanguageModelsinMathematicalReasoning”的论文，揭示了大型语言模型在数学推理方面的显著局限性。尽管这些模型在生成人类水平的文本方面表现出色，但当处理简单的数学问题时，即使问题仅进行了微小的改动，如添加无关信息，模型的表现也会急剧下降。虽然LLM在许多领域表现优异，但其推理能力仍有待改进。
英伟达 CEO 黄仁勋的个人身价现已达到1092亿美元，超过了英特尔的市值（960亿美元）。这是由于英伟达在人工智能领域的出色表现，其股价飙升，甚至在去年6月一度成为全球市值最高的公司。黄仁勋直接持有超过7500万股英伟达股票，以及通过各种信托和合作伙伴关系持有另外7.86亿股。尽管今年他已通过出售600万股股票套现超过7亿美元，但这相对于他持有的英伟达股票估值总�
今天月之暗面正式发布了Kimi探索版，这是一款具备AI自主搜索能力的智能助手，能够模拟人类的推理思考过程解决复杂问题。Kimi探索版通过自主策略规划、自动化大规模信息检索，以及对搜索结果的反思补充，为用户提供更准确和全面的答案。不过目前该功能目前每人每天仅可使用5次，后续Kimi智能助手的手机APP后续也将上线该功能。
在10月14日周一，NVIDIA的股价达到了历史新高，公司市值增至3.39万亿美元，仅次于苹果公司的3.52万亿美元，成为美国股市中市值排名第二的上市公司。尽管在6月份NVIDIA的市值曾短暂超过微软和苹果，成为全球市值最高的公司，但此后苹果重新夺回领先地位。微软、Meta、谷歌和亚马逊等公司正在大量采购NVIDIA的GPU，以支持其人工智能项目的发展，构建更大规模的计算机集群。
SpaceX公司首席执行官埃隆马斯克最近表示，让生命多行星化需要在火箭技术上实现重大飞跃，以降低成本。马斯克指出，构建一个能够自给自足、在火星上蓬勃发展的城市，初步估算需至少运送100万吨的设施与设备。特别是在最近一次成功的助推器捕获飞船及精准海上着陆测试中，马斯克信心满满地表示，这一宏伟蓝图正逐步变为现实。
快科技10月11日消息，明年1月的CES大会上，黄仁勋应该就是要正式发布RTX 50系列显卡，而现在新品的相关价格已经曝光。有国外博主爆料称，消英伟达已向其合作伙伴简报了RTX 50系列，其相关价格如下：RTX 5070：599-699美元（约合人民币4241-4950元）；RTX 5080：1199-1499 美元（约合人民币8500-10600元）；RTX 5090：1999-2499 美元（约合人民币14150-17700元）；目前还不确认上述价格是否属实，
Project Concept 是 Adobe 推出的一款基于 AI 的创意概念化和情绪板工具，旨在帮助创意专业人士在项目初期快速探索和迭代创意概念。它利用 Adobe 的 Firefly 生成式 AI 模型，允许用户混合图像、变换资产区域、混合风格和背景等。该产品支持多人协作，并与 Adobe Creative Cloud 集成，使得与 Photoshop、Illustrator 或 Adobe Express 的工作流程无缝衔接。Project Concept 还通过 Content Credentials 技术尊重艺术家的工作，确保图像来源的透明度和 AI 使用的合规性。
eSearch 是一款基于Electron开发的跨平台屏幕搜索和截屏软件，支持Linux、Windows和Mac系统。它集成了截屏、OCR文字识别、搜索、翻译、贴图、屏幕翻译、以图搜图、滚动截屏和录屏等功能。eSearch旨在提供一种方便快捷的方式来获取屏幕上的信息，并通过OCR技术将图片中的文字转换为可编辑的文本，支持多语言识别和翻译，极大地提高了工作效率。
RealAnime - Detailed V1 是一个基于Stable Diffusion的LoRA模型，专门用于生成逼真的动漫风格图像。该模型通过深度学习技术，能够理解并生成高质量的动漫人物图像，满足动漫爱好者和专业插画师的需求。它的重要性在于能够大幅度提高动漫风格图像的生成效率和质量，为动漫产业提供强大的技术支持。目前，该模型在Tensor.Art平台上提供，用户可以通过在线方式使用，无需下载安装，方便快捷。价格方面，用户可以通过购买Buffet计划来解锁下载权益，享受更灵活的使用方式。
VirtualWife是一个虚拟数字人项目，旨在打造一个拥有自己“灵魂”的虚拟伴侣。该项目支持B站直播，并且兼容openai、ollama等大语言模型。VirtualWife不仅能够提供情感陪伴，还能作为恋爱导师和心理咨询师，满足人类的情感需求。项目处于孵化阶段，作者投入了大量的业余时间进行开发，希望用户能够通过点star来支持项目的发展。
Follow是一个创新的信息浏览器，它支持动态内容，包括文章、视频、图片、音频和通知。它允许用户订阅各种Web源，并利用AI技术提供翻译、摘要、个性化推荐等功能，提高信息获取的效率和质量。此外，它还引入了$POWER所有权经济，允许用户通过$POWER即时打赏创作者，支持他们喜爱的内容。Follow不仅仅是一个应用程序，它是一个社区，代表着开放和社区驱动体验的新时代。
FacePoke是一款人工智能驱动的实时头部和面部变换工具，它允许用户通过直观的拖放界面操纵面部特征，为肖像注入生命力，实现逼真的动画和表情。FacePoke利用先进的AI技术，确保所有编辑都保持自然和逼真的外观，同时自动调整周围的面部区域，保持图像的整体完整性。这款工具以其用户友好的界面、实时编辑功能和先进的AI驱动调整而脱颖而出，适合各种技能水平的用户，无论是专业内容创作者还是初学者。
Math.now是一个基于AI技术的在线数学求解平台，旨在为学生、教师和自学者提供实时的数学问题解答服务。该平台利用先进的AI技术，如OCR和GPT-4o，可以识别和解决各种数学问题，包括代数、几何和微积分等。Math.now的主要优点包括即时分步解答、互动式学习体验、个性化学习支持以及完全免费使用。产品背景信息显示，Math.now由Math GPT驱动，致力于让数学学习变得更有趣和轻松。
ToMusic是一个创新的在线平台，利用先进的AI技术将文本内容转换成音乐。它提供了一个简单易用的界面，用户可以上传歌词或文本，系统会自动分析并生成与之相匹配的音乐作品。这种技术的出现极大地降低了音乐创作的门槛，使得非专业人士也能轻松创作出个性化的音乐。ToMusic的主要优点包括操作简便、生成速度快、音乐风格多样，并且支持多种语言，适合全球用户使用。此外，ToMusic还提供了多种定价计划，满足不同用户的需求，从免费试用到专业版，用户可以根据自己的创作需求选择合适的服务。
ReplyWorker是一个利用人工智能技术在在线对话中自然提及产品的工具。它通过监测社交媒体平台上的关键词，自动找到适合提及用户产品的对话，并生成建议的回复。这种自动化的方式可以节省用户在社交媒体上寻找潜在客户的时间，提高营销效率。产品的主要优点包括节省时间、提高效率、自然融入对话、24/7不间断工作。价格方面，ReplyWorker提供不同级别的订阅服务，包括免费、专业版和企业版，以满足不同用户的需求。
Vmotionize是一个领先的AI动画和3D动画软件，它能够将视频、音乐、文本、图片等内容转换成令人惊叹的3D动画。该平台通过先进的AI动画和动作捕捉工具，使得高质量的3D内容和动态图形更加易于获取。Vmotionize通过创新的方式为独立创作者和全球品牌提供了一个全新的平台，让他们可以共同通过人工智能和人类想象力来实现创意、分享故事和构建虚拟世界。
SheetBot AI是一个利用人工智能技术，为用户提供数据分析、可视化和数据转换的一体化平台。它通过简化数据操作流程，允许用户用自然语言提问，快速获取AI驱动的洞察，并即时生成可视化结果。该产品通过自动化重复性的数据工作，节省用户时间，提高工作效率。它支持上传多种数据文件格式，包括但不限于电子表格，并提供高RAM环境以处理大型数据集。此外，SheetBot AI还强调数据安全性，确保用户数据在传输和处理过程中的加密和隔离。
Audeus for Chrome是一款文本转语音的Chrome浏览器扩展程序，它通过使用人工智能技术，将网页、文档等文本内容转化为语音，帮助用户在阅读时节省时间、提高效率。这款插件特别适合需要大量阅读的用户，如学生、专业人士等，它支持多种语言，并且具有高度可定制的播放速度和语音选择。Audeus for Chrome的背景信息显示，它被设计为一个提高生产力的工具，旨在通过语音输出帮助用户更有效地处理信息，尤其是在多任务处理或需要长时间集中注意力的场景中。该产品提供免费试用，并且有明确的定价策略，定位于需要高效阅读和信息处理的用户群体。
Anki Flashcards - BrainDeck是一款基于智能间隔重复技术设计的教育类APP，旨在帮助用户通过科学的记忆方法来提高学习效率。该应用允许用户创建个性化的抽认卡，通过AI技术自动调整学习计划，确保用户在最佳时间复习知识点，从而达到长期记忆的效果。此外，它还提供了社区图书馆，用户可以在这里找到并保存涵盖各种主题的预制抽认卡。
PicLooks是一个提供AI生成的免费真实风格头像的网站，旨在为设计师和营销人员提供高质量的头像图片，用于设计原型、营销材料等。这些头像图片完全由AI生成，避免了使用传统库存照片网站的图片可能带来的版权问题。用户可以快速找到符合需求的头像，节省了大量搜索时间，并且可以用于商业用途，无需担心版权问题。
LLMWare.ai是一个为金融、法律、合规和监管密集型行业设计的AI工具，专注于私有云中的小型专业化语言模型和专为SLMs设计的AI框架。它提供了一个集成的、高质量的、组织良好的框架，用于开发AI代理工作流、检索增强生成（RAG）和其他用例的LLM应用程序，包括许多核心对象，以便开发者可以立即开始。
Kuration AI是一个利用人工智能技术帮助用户进行B2B研究的工具，它通过智能筛选和数据丰富化，帮助用户快速从大量信息中提炼出有价值的商业线索。产品背景是帮助企业从混乱的数据中快速找到目标公司，提高工作效率，减少人力成本。Kuration AI提供不同层次的定价计划，满足不同规模企业的需求。
Dezbor是一个无需编码的仪表板创建工具，它通过人工智能技术帮助用户轻松创建和管理数据仪表板。它提供了一个拖放式的界面，使得任何人都能够快速创建出专业的仪表板。Dezbor支持多种数据源的连接，如MySQL、PostgreSQL、Google Sheets等，并且提供了丰富的定制化选项，让用户能够根据自己的需求定制逻辑和操作。此外，Dezbor还提供了AI助手，帮助用户查询数据、识别问题并提供优化建议。
CalcGen AI是一个基于人工智能的平台，它允许用户通过简单的提示生成定制的交互式数据可视化。该技术的主要优点包括易用性、灵活性和高效的数据处理能力。它支持多种输入选项，如变量、限制、类别、排序选项、过滤器等，并允许用户分享或嵌入他们定制的可视化图表到自己的网站。CalcGen AI的背景信息显示，它目前处于测试阶段，并且可能在某些iOS设备上遇到内存问题，建议用户在Mac、PC或Android设备上使用。
DevKit是一个专为开发者设计的AI助手，它结合了世界领先的大型语言模型（LLMs）和超过30个迷你工具，帮助开发者快速构建软件，显著提升开发效率。DevKit支持快速生成公共API配置、用普通英语查询Postgres数据库、在聊天界面内生成和执行代码，以及激发创造力，通过代码生成和p5.js工具进行艺术创作和小游戏开发。DevKit以其强大的功能和易用性，获得了开发者社区的广泛认可，被Product Hunt社区评为顶级开发工具之一。
Quizzio是一个教育技术平台，它使用人工智能将用户的学习资料转化为个性化的测验，帮助用户发现知识盲点并测试对学习内容的理解。这个平台通过AI分析用户上传的学习材料，生成定制的测验，提供即时的反馈和改进建议，从而提高学习效率和学术表现。Quizzio的主要优点包括个性化学习体验、AI反馈、进度跟踪和移动友好设计。它适合所有希望提高学习效率和成绩的学生，尤其是那些寻求个性化学习路径和即时反馈的学习者。
