首页 > 业界 > 关键词  > GPT最新资讯  > 正文

DeepMind联合创始人:GPT-5正在训练中 比当前模型大100倍

2023-09-03 15:47 · 稿源: 快科技

快科技9月3日消息,DeepMind联合创始人Suleyman近日在采访中表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。

其实,Open AI CEO Sam Altman此前曾否认训练GPT-5的这一说法。有消息人士表示,OpenAI可能给它起了一个新名字,所以他们才说没有训练GPT-5。

Suleyman目前是Inflection AI的CEO,Inflection AI正在建造世界上最大超级计算机之一并且他认为在接下来的18个月内,他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。

今年3月份GPT-4正式发布,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

GPT-3.5有1750亿参数规模,OpenAI没有公布过GPT-4的具体规格,但之后的分析认为它拥有16个专家模型,每个MLP专家大约有1110亿个参数,总计1.8万亿参数,是GPT-4的10倍规模。

GPT-5如果按照这个比例来提升,那要突破10万亿参数了,有可能成为最大规模的AI大模型,远超其他所有对手。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天