您的位置:首页 > 资讯 >

速读:GPU 短缺如何限制 CHATGPT 的潜力

2023-06-09 15:12:27 来源:互联网


(资料图片仅供参考)

OpenAI开发的人工智能语言模型ChatGPT一直在科技界掀起波澜。在全球范围内,人们对它能够对文本提示做出类似人类的反应的能力印象深刻。然而,该模型的快速扩张引发了人们对图形处理单元 (GPU) 可能短缺的担忧。这些对于训练和运行像 ChatGPT 这样的大型语言模型是必不可少的。

据《财富》杂志报道,OpenAI CEO Sam Altman 在一次私人会议上透露,GPU 的严重短缺阻碍了 ChatGPT 的进展。报道称,奥特曼在 5 月份会见了多家 App 开发人员和初创公司的管理人员。总部位于伦敦的 AI 初创公司 Humanloop 的首席执行官 Raza Habib 在一条推文中表示, Altman 认为 OpenAI 缺乏足够的 GPU,这推迟了许多优化 ChatGPT 的努力。

为什么 ChatGPT 存在速度和可靠性问题

根据 Habib 的会议纪要,用户对 ChatGPT 最大的抱怨是 API 接口的速度和可靠性。奥特曼明白了这一点 ,解释说主要是GPU严重不够用。 会议纪要公开后不久,OpenAI 联系了 Habib 表示该活动不公开发布。

尽管哈比卜后来删除了这条推文,但它的发布时间足以让人们瞥见重要细节。据报道,Altman 抱怨 GPU 短缺导致计算能力低下,OpenAI 无法扩展 ChatGPT 的聊天列表。这会影响 ChatGPT 在回答用户问题时可以处理的信息量。它还限制了 ChatGPT 的“内存”,它可能难以处理过去的问题记录。此外,ChatGPT 由于计算能力低,无法完成更繁琐的任务。例如,由于 GPU 不足,AI 工具可能难以编写复杂的程序代码。

据 IT 之家报道,OpenAI 是众多受 GPU 短缺困扰的品牌之一。谷歌、亚马逊、微软等云计算服务商都面临GPU严重短缺的问题。这也导致主要供应商英伟达的股价飙升,成为第一家市值超过万亿的半导体公司。公司股价今年已飙升近两倍。

关键词: