**Nvidia готовит новый процессор, специально разработанный для ИИ. Концептуально он имеет общие черты с российским процессором Эльбрус.**
Nvidia получила LPU-блоки Groq (не путать с чатботом от Илона Маска), оплатив $20 млрд и прияв на работу топ-менеджемент компании. LPU - это Language Processing Unit, т.е. модуль выполнения языковых моделей с очень длинным конвейером, прямо как во VLIW-процессорах Эльбрус, где данные не шарахаются постоянно между отдельными блоками чипа и памятью, как на GPU, а чип заранее знает, какие данные ему потребуются для выполнения далее. Все это дополнено интегрированным прямо в модуль большим объемом сверхбыстрой памяти SRAM.
Чтобы не было простоя из-за длинного конвейера, достаточно простые по своему устройству VLIW-чипы должны быть дополнены сложными компиляторами, которые готовят идеальный для выполнения код. Это то, что зафейлили Intel со своим Itanium и то, с чем на отлично справились МЦСТ. Тут в Groq аналогично упор идет на компиллятор, но уже свой, более простой, чисто по ИИ-задачи.
В тестах [с большими языковыми моделями](https://trends.rbc.ru/trends/industry/68077b979a794776b878d1ac) LPU Groq демонстрирует высокую скорость генерации: в случае с Llama 3.3 70B он выдает 1615 токенов в секунду, а с DeepSeek R1 — 384 токена. Для сравнения — графический процессор Nvidia H200 Tensor Core в тестах с Llama 3.3 70B выдает 51 токен в секунду.
Это является альтернативным путем, который позволяет повысить эффективность при инференсе, без создания ASIC-ов с "запеканием" в них готовой ИИ-модели (без возможности ее дальнейшего изменения) - перекомпиллировал и инференсишь.
К пока еще не существующей новинке по данным СМИ уже проявил интерес... нет, не Илон Маск, а[ Сэм Альтман с его OpenAI](https://3dnews.ru/1137580/nvidia-vstupit-v-bitvu-za-inferens-gotovitsya-chip-na-tehnologiyah-groq-dlya-openai-i-iiagentov).
Кстати, в январе OpenAI заключила соглашение о партнёрстве еще и с Cerebras — компанией, которая производит чипы размером с кремниевую пластину. Cerebras долго пытались понять, куда приткнуть свои дорогущие и очень специфические чипы, и ИИ-бум стал настоящим спасением для их продукта.