首页 > 业界 > 关键词  > JetBrains最新资讯  > 正文

JetBrains 推出新 AI 编码助手,结合多个大型语言模型以实现供应商中立

2023-12-08 10:21 · 稿源:站长之家

站长之家(ChinaZ.com) 12 月 8 日消息:JetBrains 于当地时间周三发布了一款新的 AI 编码助手,这款助手能够从开发者的集成开发环境(IDE)获取信息,并将其反馈给 AI 软件,以提供编码建议、代码重构和文档支持。这家开发工具公司声称,其 AI 助手是第一个供应商中立的此类产品,因为它使用了多个大型语言模型,而不是依赖单一的 AI 平台

截屏2023-12-08 上午10.20.30.png

JetBrains 的数据科学开发者倡导者 Jodie Burchell 表示:「我们之所以称自己为中立,是因为你不会被锁定在一个大型语言模型中。这也意味着你不会被锁定在一个可能会过时,可能无法跟上最新发展的模型中。」

该平台的基础包括 OpenAI 和谷歌的 LLMs,以及 JetBrains 创建的一些较小的 LLM 模型。不同的模型用于不同的任务。例如,代码生成可能很直接,因此可以比诸如「为什么这个 bug 会发生?」这样的问题更容易解决。 Burchell 说,这需要更大模型所提供的更细腻的语言理解。JetBrains 的 AI 服务自动处理哪个模型获得哪个查询。通过使用 AI 服务架构,JetBrains 可以连接新模型,而无需用户更换 AI 提供商。

Burchell 表示:「如果你有一个更简单的任务,你可以使用一个较小的 [模型],也许是我们内部的一个大型语言模型。如果你需要做一些非常复杂的事情,你将不得不使用 GPT。」

第三方 LLM 公司不会存储数据,尽管信息会被共享以创建底层大型语言模型的提示,她说。

Burchell 说:「我们与供应商的协议是,他们不能存储数据。他们不能将其用于生成模型输出和审查之外的任何事情——所以基本上是安全检查。」她还说:「我们永远不会与那些有此类协议的第三方供应商合作,他们可以将数据用于除此之外的任何事情。」

开发者对于将所有编码工作交给 AI 助手并不特别热衷——JetBrains 最近的一项调查发现,只有 17% 的受访者表示他们愿意将代码创作委托给 AI 助手。但是,当涉及到帮助时,56% 的受访者表示,如果有机会,他们会让 AI 助手编写代码注释和文档。

到目前为止,这项服务仅对付费客户开放,因为在底层使用大型语言模型的成本较高,Burchell 说。该计划是将其推广到其他产品中,但目前,AI 助手作为订阅附加产品可用于大多数 IDE,包括 IntelliJ IDEA、PyCharm、PhpStorm 和 ReSharper。社区授权的 IDE 和拥有教育、初创或开源许可的用户是例外。

JetBrains 和其他 AI 助手目前无法实现的一种可能性是,作为本地版本提供这样的解决方案,依赖于内部模型,在公司的本地服务器上运行。一些公司对这种方法感兴趣,因为它具有安全优势。

Burchell 说:「显然,这将是你在安全方面能够获得的最好效果,但使用潜力不如我们正在合作的第三方供应商那么强大的模型显然会有一些权衡。」她说:「这是一个权衡,但这将是一种我们正在积极探讨的可能性。」

提供本地模型之所以困难,简单来说,是因为 AI 运行在非常大的神经网络上。

她解释说:「这意味着,构建模型显然是一回事——[它] 需要很长时间——但实际运行模型并实时获得答案是一个重大的工程问题。」

模型必须接受大量的上下文,例如通过模型运行的一段代码,以预测接下来的内容,她解释说。然后,它运行新的预测以及之前的信息通过模型,以预测序列的下一部分。它不断这样做,实时进行,同时进行所有网络和安全检查。

「在后台,从工程角度需要发生的事情相当惊人,」 Burchell 说。「它需要 GPU,并且需要以成本效益高的方式使用 GPU。所以,如果你有足够的计算能力来解决这个问题,那么它不一定是一个不可逾越的问题。但以一种不过分昂贵的方式能够做到这一点是困难的。」

这个过程的一个有趣副作用是蒸馏。这意味着随着模型的发展,运行它所需的神经网络会随着时间的推移变得更小,因为它能够用更少的参数提供相同的性能,她说。

供应商正在积极解决 LLMs 的挑战,但这是 JetBrains 正在与第三方供应商合作的原因之一:这样做有助于降低成本,并使 JetBrains 能够提供负担得起的产品, Burchell 说。该公司还在探索开源替代品。

Burchell 表示,有些人对于将 AI 系统捆绑到其 IDE 中表示担忧。为了适应这些开发者,JetBrains 已经引入了禁用 AI 的功能

举报

  • 相关推荐
  • 大家在看
  • ChattyUI:你的私人AI聊天工具,运行在浏览器中。

    Chatty是一个利用WebGPU技术在浏览器中本地且私密地运行大型语言模型(LLMs)的私人AI聊天工具。它提供了丰富的浏览器内AI体验,包括本地数据处理、离线使用、聊天历史管理、支持开源模型、响应式设计、直观UI、Markdown和代码高亮显示、文件聊天、自定义内存支持、导出聊天记录、语音输入支持、重新生成响应以及明暗模式切换等功能。

  • AsyncDiff:异步去噪并行化扩散模型

    AsyncDiff 是一种用于并行化扩散模型的异步去噪加速方案,它通过将噪声预测模型分割成多个组件并分配到不同的设备上,实现了模型的并行处理。这种方法显著减少了推理延迟,同时对生成质量的影响很小。AsyncDiff 支持多种扩散模型,包括 Stable Diffusion 2.1、Stable Diffusion 1.5、Stable Diffusion x4 Upscaler、Stable Diffusion XL 1.0、ControlNet、Stable Video Diffusion 和 AnimateDiff。

  • MacAIverse:macOS风格的开源React桌面环境

    MacAIverse是一个完全由AI生成代码,使用React构建的macOS风格的开源桌面环境。该项目由Claude AI助手初始创建,现在开放给其他Claude实例或其他开发者贡献新的应用。它遵循macOS设计原则,保持与整体桌面环境的一致性,并通过Tailwind CSS和framer-motion库实现流畅的动画和响应式布局。

  • EvTexture:视频超分辨率纹理增强技术

    EvTexture是一种基于事件的视觉驱动的视频超分辨率(VSR)技术,它利用事件信号中的高频细节来更好地恢复VSR中的纹理区域。该技术首次提出使用事件信号进行纹理增强,通过迭代纹理增强模块逐步探索高时间分辨率的事件信息,实现纹理区域的逐步细化,从而获得更准确、丰富的高分辨率细节。在四个数据集上,EvTexture达到了最先进的性能,特别是在Vid4数据集上,与最近的基于事件的方法相比,可以获得高达4.67dB的增益。

  • Telegraf:开源服务器代理,用于收集和报告指标

    Telegraf是一个开源的服务器代理,用于收集和发送来自数据库、系统和IoT传感器的所有指标和事件。它使用Go语言编写,编译成一个单一的二进制文件,无需外部依赖,占用的内存非常小。Telegraf拥有300多个插件,由社区成员编写,覆盖了云服务、应用程序、IoT传感器等多种数据源。它支持灵活的解析和序列化,适用于多种数据格式,如JSON、CSV、Graphite,并能将数据序列化为InfluxDB行协议和Prometheus等。Telegraf还具有稳健的交付保证,包括流量回压、调度器、时钟漂移调整、全流支持等。此外,Telegraf的自定义构建器允许用户选择特定插件包含在Telegraf二进制文件中,适合在资源受限的设备上使用。

  • iA Writer:纯净写作体验,专注流状态

    iA Writer是一款专注于写作的应用程序,旨在提供纯净的写作环境,帮助用户专注于内容创作。它通过简洁的界面设计和强大的功能,如语法检查、文本聚焦等,帮助用户提高写作效率和质量。iA Writer背后的设计理念是利用人工智能技术,让用户在写作时思考得更多,而不是更少,从而提升写作体验。

  • Groqnotes:使用Groq、Whisper和Llama3从音频生成有组织的笔记。

    Groqnotes是一个基于Streamlit的应用程序,它通过迭代解析和生成从转录的音频讲座中提取的笔记来构建结构化的讲座笔记。该应用程序混合使用了Llama3-8b和Llama3-70b模型,利用较大的模型生成笔记结构,较快的模型创建内容。Groqnotes的主要优点包括快速转录音频和生成文本,以及通过策略性地在两种模型之间切换来平衡速度和质量。此外,它还支持Markdown样式,可以在Streamlit应用程序中创建美观的笔记,包括表格和代码,并允许用户下载包含全部笔记内容的文本或PDF文件。

  • june:本地语音聊天机器人,保护隐私,无需联网。

    june是一个结合了Ollama、Hugging Face Transformers和Coqui TTS Toolkit的本地语音聊天机器人。它提供了一种灵活、注重隐私的解决方案,可以在本地机器上进行语音辅助交互,确保没有数据被发送到外部服务器。产品的主要优点包括无需联网即可使用、保护用户隐私、支持多种交互模式等。

  • Meilisearch:极速、高度相关的搜索引擎

    Meilisearch是一个灵活且强大的用户为中心的搜索引擎,可以轻松添加到任何网站或应用程序中。它以其极速的搜索响应(小于50毫秒)和即插即用的特性(智能预设,零配置启动)著称。Meilisearch还提供了先进的全文搜索引擎,具有出色的相关性,适用于各种用例。此外,它是一个开源项目,拥有一个友好且快速增长的社区。

  • nerve:无需编写代码即可创建智能代理的LLM工具。

    Nerve是一个可以创建具有状态的代理的LLM工具,用户无需编写代码即可定义和执行复杂任务。它通过动态更新系统提示和在多个推理过程中保持状态,使代理能够规划和逐步执行完成任务所需的操作。Nerve支持任何通过ollama、groq或OpenAI API可访问的模型,具有高度的灵活性和效率,同时注重内存安全。

  • Tap4 AI Crawler:开源的网页爬虫,支持AI技术目录更新和网站摘要。

    Tap4 AI Crawler 是由 tap4.ai 开源的网页爬虫,能够将网站转换为包含LLM的摘要信息。它具备强大的网页抓取、爬取和数据提取能力,以及网页截图功能。基于Python构建,轻量级,易于维护,适合对AI工具目录感兴趣的个人开发者以及对Python感兴趣的学习者。

  • Local III:本地机器智能的探索之旅

    Local III是一个由超过100名来自世界各地的开发者共同开发的更新,它提供了易于使用的本地模型浏览器,深度集成了推理引擎如Ollama,为开放模型如Llama3、Moondream和Codestral定制了配置文件,并提供了一套设置,使离线代码解释更加可靠。Local III还引入了一个免费的、托管的、可选的模型通过解释器--model i。与i模型的对话将用于训练我们自己的开源计算机控制语言模型。

  • 4M:多模态和多任务模型训练框架

    4M是一个用于训练多模态和多任务模型的框架,能够处理多种视觉任务,并且能够进行多模态条件生成。该模型通过实验分析展示了其在视觉任务上的通用性和可扩展性,为多模态学习在视觉和其他领域的进一步探索奠定了基础。

  • LLM101n:构建一个会讲故事的人工智能大型语言模型。

    LLM101n是一个开源课程,旨在教授如何从头开始构建一个能讲故事的人工智能大型语言模型(LLM)。课程内容涵盖了从基础到高级的多个方面,包括语言模型、机器学习、深度学习框架等,适合希望深入理解AI和LLM的编程人员和研究人员。

  • Ohai.ai:智能家庭助理,简化家务管理

    Ohai是由Care.com创始人Sheila Lirio Marcelo带领的团队创建的智能家庭助理,旨在减轻家庭事务负责人的心理负担。它通过文本消息与用户互动,帮助管理家庭日程、待办事项、协调家庭和看护者之间的沟通,并跟踪学校邮件等。

  • RecruiterCloud:一站式智能招聘与人才搜索工具

    RecruiterCloud是一个为初创公司设计的一站式招聘和人才搜索工具。它专注于速度、效率和易用性,提供智能搜索和人才挖掘功能。该平台拥有超过1100万美国工程师和数据科学家的数据库,通过先进的筛选和自定义高亮功能,帮助用户快速找到合适的候选人。此外,RecruiterCloud还提供一键式外联自动化、与现有ATS无缝同步等特性,简化招聘流程,缩短招聘时间。

  • Playmaker Document AI:自动化文档工作流程,释放AI的力量。

    Playmaker Document AI是一款旨在通过人工智能技术自动化文档处理流程的产品。它通过智能识别和提取文档中的数据,帮助用户消除手动工作,简化基于文档的流程。产品背景信息显示,Playmaker Document AI由Playmaker Software Ltd.开发,团队来自伦敦、爱丁堡、伊斯坦布尔和新德里。产品的主要优点包括数据的安全性、支持多种文档类型、以及能够与300多个集成无缝对接。

  • Spiral:自动化写作和创意任务的智能助手

    Spiral是一个旨在自动化重复写作、思考和创意任务的在线工具。它通过用户的训练示例来学习用户的语音、语调和风格,进而生成符合用户要求的输出内容。Spiral的主要优点包括:快速启动、个性化输出、团队协作以及持续优化。产品背景信息显示,Spiral受到了多位行业人士的好评,他们认为Spiral能显著提高工作效率,并且输出内容自然,不显生硬。Spiral提供订阅服务,价格为1美元试用两周,之后为每月20美元或每年200美元。

  • Future You:未来自我模拟,人生规划助手

    Future You是一个在线模拟工具,旨在帮助用户通过一系列问题和模拟,反思和设想自己未来的生活。用户通过回答关于现在的自己、理想生活、职业规划等问题,与AI生成的未来自我进行互动,从而获得对未来的深刻洞察和规划。

  • Rockset:高效的混合搜索和实时分析数据库

    Rockset是一个为大规模数据提供高效搜索和实时分析的数据库平台。它支持向量、文本、地理空间和JSON数据的索引,能够实现混合搜索架构,并通过流式数据摄入和高QPS工作负载来测量端到端延迟。Rockset的主要优点包括实时索引、毫秒级SQL查询、快速开发新功能、降低计算和存储成本,以及无需ETL、去规范化、管理分片、索引或集群的灵活性。

今日大家都在搜的词: