OpenAI недовольна некоторыми чипами Nvidia AI и ищет альтернативы
Широко распространено мнение, что OpenAI и Nvidia являются основными бенефициарами бума искусственного интеллекта и имеют прочное партнерство, которое вскоре будет подкреплено сделкой на сумму 100 миллиардов долларов. Однако источники отмечают, что производительность ИИ-ускорителей Nvidia при выводе может не подходить для OpenAI, поэтому последний ищет подходящую альтернативу.
Об этом сообщило агентство Reuters, хотя публично OpenAI и Nvidia продолжают выражать крайнюю степень взаимной лояльности. По словам источника, OpenAI хотела бы заменить до 10% ускорителей искусственного интеллекта в своей вычислительной инфраструктуре на сторонние решения, которые будут лучше справляться с задачами логического вывода, т.е. будет работать более эффективно с уже обученными большими языковыми моделями.
OpenAI даже хотела заключить сделку с Cerebras и Groq на поставку чипов искусственного интеллекта, разработанных этими стартапами, но Nvidia решила опередить ситуацию, купив последнюю компанию в прошлом году за 20 миллиардов долларов. Ранее Groq вел переговоры с другими инвесторами об инвестировании до $14 млрд в акционерный капитал, но Nvidia предложила больше, гарантируя при этом очень конкретную структуру сделки. По условиям сделки Groq сохраняет возможность лицензировать свои проекты другим компаниям, однако на практике Nvidia переводит основных разработчиков ИИ-ускорителей из Groq в собственный штат. Фактически, Groq теперь может предлагать облачное программное обеспечение только другим компаниям. В то же время есть вопросы к целесообразности сделки, в рамках которой Nvidia предложила выделить в OpenAI до $100 млрд капитала. Пока стороны отрицают наличие каких-либо проблем в этой сфере, хотя Nvidia подчеркивает, что ее обязательства не являются жесткими.
OpenAI удалось заключить сделку с Cerebras, согласно которой первая теперь будет покупать у второй так называемые «королевские ускорители искусственного интеллекта», которые хорошо справляются с задачами вывода. Проблема OpenAI до сих пор заключалась в том, что он сильно зависит от ускорителей искусственного интеллекта Nvidia и AMD, которые используют внешнюю, хотя и очень быструю, память HBM, а чипы с большим объемом встроенной памяти работают лучше при выводе. Такие чипы предлагают Groq и Cerebras, а также конкурент Google. Кстати, Anthropic смогла согласиться с последним, поэтому OpenAI пришлось искать новый ИИ-чип с большим объёмом встроенной памяти.
По некоторым данным, OpenAI столкнулась с неэффективностью ускорителей искусственного интеллекта Nvidia при создании агента Codex AI, который помогает разработчикам создавать программный код. Обычные пользователи ChatGPT не испытывают подобных проблем, но программистам OpenAI постарается предложить другие аппаратные решения, например, продукты Cerebras, для повышения производительности соответствующих программных инструментов.