Компания Penguin Solutions представила новую систему MemoryAI KV Cache Server, предназначенную для решения проблемы «стены памяти» в инфраструктурах, ориентированных на ресурсоёмкие задачи ИИ-инференса. Устройство предоставляет до 11 Тбайт CXL-памяти, что позволяет значительно повысить эффективность использования вычислительных мощностей.
Сервер модели Altus XE4318GT-KVC выполнен в форм-факторе 4U и оснащён двумя процессорами AMD EPYC 9005 Turin с разъёмом Socket SP5 (LGA 6096) и показателем TDP до 500 Вт. В его комплектации также присутствуют контроллер ASpeed AST2600 и сетевой адаптер Intel I350-AM2.
Устройство поддерживает два коннектора для SSD формата M.2 2280/22110 с интерфейсом PCIe 3.0, восемь слотов для карт PCIe 5.0 x16 FHFL и два слота для карт PCIe 5.0 x16 LP. Дополнительно предусмотрены два сетевых порта 400GbE (RJ45), два USB-порта 3.0 (5 Гбит/с) и аналоговый интерфейс D-Sub.
Сервер может быть оснащён до 3 Тбайт памяти DDR5-6400, а также восемью картами CXL, каждая из которых содержит по 1 Тбайт памяти. Это расширяет возможности ИИ-ускорителей с ограниченным объёмом HBM и улучшает производительность в задачах инференса. Устройство совместимо с программной средой NVIDIA Dynamo, что способствует более эффективному использованию GPU-ускорителей.
Для обеспечения надёжности сервер оборудован четырьмя блоками питания мощностью 3000 Вт, сертифицированными по стандарту 80 Plus Titanium. Диапазон рабочих температур устройства составляет от +10 до +35 °C. Заявлена совместимость с операционными системами Red Hat Enterprise Linux (RHEL) и Rocky Linux, а также предоставление трёхлетней гарантии.
