FuriosaAI представляет мощный ИИ-сервер NXT RNGD с производительностью 4 PFLOPS

Южнокорейский стартап FuriosaAI представил новый ИИ-сервер NXT RNGD, который обещает стать серьезным игроком на рынке искусственного интеллекта. 🌟 В корпусе 4U установлены восемь ускорителей RNGD собственной разработки с интерфейсом PCIe 5.0. Каждый ускоритель оснащен 48 ГБ HBM3 с пропускной способностью 1,5 ТБ/с и 256 МБ SRAM с пропускной способностью 384 ТБ/с. В сумме сервер обладает 384 ГБ HBM3, что обеспечивает производительность до 4 PFLOPS в FP8 и 4000 TOPS в INT8. Одним из ключевых преимуществ NXT RNGD является его энергоэффективность. Сервер потребляет около 3 кВт в полной комплектации, что значительно меньше, чем у конкурентов. Например, NVIDIA DGX H100 потребляет свыше 10 кВт. Это означает, что в стойку на 15 кВт можно установить до пяти систем FuriosaAI вместо одной DGX, что обеспечивает отличную производительность для локального инференса и даже обучения LLM через программный стек SDK. Для стартапа такой результат является очень неплохим, но окончательные выводы можно будет сделать только после официального релиза в 2026 году. 🚀