OpenAI表示对Nvidia推理硬件不满意,现在关注AMD、Cerebras、Groq

OpenAI 对 Nvidia 的 AI 芯片不再满意,特别是在回应用户速度方面。该公司去年开始寻找其他选择,现在正在与 AMD、Cerebras 洽谈,甚至在被叫停之前还曾与 Groq 进行过洽谈。

当 OpenAI 意识到 Nvidia 的芯片在编写代码和处理软件对软件任务等特定工作上速度不够快时,这种紧张关系开始变得真实起来。

据称一位内部人士表示,OpenAI 希望新芯片能够处理至少 10% 的推理需求。这是 AI 回应用户的部分,而不是学习的部分。

OpenAI 希望获得更快的芯片用于编码和用户回应

OpenAI 目前大部分工作仍在 Nvidia 上运行,但在幕后,它正在测试可以让一切变得更快的芯片。

这包括配备 SRAM 的芯片,通过将内存放在处理器旁边来加快速度。Nvidia 和 AMD 仍然使用位于芯片外部的内存,这会减慢速度。

OpenAI 内部人员指出,编写代码的工具 Codex 是速度慢问题最严重的地方。一些员工甚至将性能不佳归咎于 Nvidia 的硬件。在 1 月 30 日的新闻发布会上,OpenAI 首席执行官 Sam Altman 表示:"使用我们编码模型的客户会非常看重编码工作的速度。"

Sam 补充说,普通 ChatGPT 用户对速度不那么在意,但对于开发人员和公司来说,每一秒都很重要。他表示 OpenAI 刚刚与 Cerebras 签署了协议以帮助加快速度。

与此同时,像 Anthropic 和 Google 这样的公司使用自己的芯片获得了更好的结果。Google 的 TPU 专门为推理工作而设计。这使它们在响应速度上更快,特别是对于 Claude 和 Gemini 等模型。

OpenAI-Groq 洽谈在 Nvidia 授权协议后被叫停

OpenAI 也曾与另一家构建快速芯片的初创公司 Groq 进行洽谈,但这些对话没有取得进展。Nvidia 介入并与 Groq 签署了 200 亿美元的授权协议。这使 Nvidia 获得了 Groq 的设计,并扼杀了 OpenAI 与他们合作的计划。

一位接近情况的消息人士表示,Groq 的芯片正是为 OpenAI 所需而构建的。但一旦 Nvidia 锁定了这笔交易,那扇门就关闭了。尽管该授权是非独家的,但 Groq 现在专注于基于云的软件,Nvidia 还为自己挖走了一些 Groq 的芯片设计师。

另一方面,当 Nvidia 试图收购 Cerebras 时,Cerebras 拒绝了。相反,他们继续与 OpenAI 达成了自己的协议。Groq 也获得了价值约 140 亿美元的投资要约,但由于与 Nvidia 绑定,现在情况已经改变。

OpenAI 并未完全放弃 Nvidia。在一份公开声明中,发言人表示:"我们依赖 Nvidia 为我们绝大多数推理系统提供动力",并称他们的性价比是市场上最好的。Nvidia 也表示:"客户继续选择 Nvidia 进行推理,因为我们在规模上提供最佳性能和总拥有成本。"

1,000 亿美元 Nvidia 投资协议仍悬而未决

去年,Nvidia 表示计划向 OpenAI 投资高达 1,000 亿美元。这笔资金旨在帮助 OpenAI 购买更先进的芯片,作为回报,Nvidia 将获得该公司的股份。路透社表示该交易应该在几周内完成。但至今仍未完成。

在该交易停滞期间,OpenAI 继续与 AMD 和其他公司签署协议,测试可以直接与 Nvidia 竞争的芯片。但随着 OpenAI 改变其产品计划,所需的硬件类型也发生了变化。一位熟悉情况的人士表示,这进一步减缓了谈判。

周六,当被问及这种摩擦时,Nvidia 首席执行官 Jensen Huang 表示:"那是胡说",并坚称 Nvidia 仍计划对 OpenAI 进行大规模投资。但在幕后,很明显双方都在探索各自的选择。

与此同时,Nvidia 一直在寻找新的芯片创意。它联系了 Cerebras 和 Groq,看他们是否愿意被收购。Cerebras 拒绝了这一提议,并加倍投入与 OpenAI 的交易。

目前,OpenAI 正在使用 GPT4o 为其大部分服务提供动力。但从目前的情况来看,至少部分工作将在不久的将来在 AMD 或 Cerebras 的芯片上运行。该公司并不是要完全抛弃 Nvidia,但很明显它希望对其系统的运行速度有更多控制权。

通过指导和每日想法磨砺您的策略 - 30 天免费访问我们的交易计划