Micron запускает 256 ГБ SOCAMM2 для ИИ-инфраструктуры
-
Micron представила новый модуль оперативной памяти SOCAMM2 объёмом 256 ГБ, разработанный специально для современных центров обработки данных и ИИ-серверов. Это серьёзный скачок в развитии серверной памяти: предыдущее поколение предлагало только 192 ГБ, а энергопотребление удалось снизить на 66% в сравнении с традиционными модулями RDIMM.
Что это означает на практике? С такой ёмкостью один 8-канальный процессор может получить до 2 ТБ оперативной памяти на один узел. Это критически важно для работы современных больших языковых моделей, которые требуют огромные объёмы памяти для обработки длинных контекстов и сложных вычислений.
Что случилось с SOCAMM2
Стандарт SOCAMM2 разработан совместно Nvidia, Micron, Samsung и SK hynix с одной целью - создать память, способную эффективно работать в условиях современных дата-центров с жидкостным охлаждением. Первая версия SOCAMM страдала от проблем с перегревом, поэтому инженеры вернулись к чертёжной доске и создали улучшенную версию.
В новой версии Micron увеличила объём одного монолитного кристалла LPDRAM до 32 ГБ. Это позволило достичь 256 ГБ на один модуль без неприемлемого роста тепловыделения. При этом используется интегрированная архитектура, где память и управляющая логика находятся в одном кристалле - так достигается лучшая энергоэффективность.
Основные улучшения SOCAMM2:
- Увеличена ёмкость на 33% (с 192 ГБ до 256 ГБ) за последние шесть месяцев
- Снижено энергопотребление на 66% относительно RDIMM благодаря технологии LPDDR5X
- Лучше контролируется температура модуля даже при высокой плотности памяти
- Компактный форм-фактор экономит место в серверных стойках
Зачем это нужно ИИ-инфраструктуре
Современные языковые модели, работающие с большими контекстами, требуют больше памяти, чем может предоставить обычное оборудование. Когда модель обрабатывает длинные тексты или выполняет сложные вычисления, ей нужно хранить множество промежуточных данных. Если памяти недостаточно, система начинает использовать медленное дисковое хранилище - это создаёт узкие места производительности.
С новыми 256 ГБ модулями ситуация меняется принципиально. Время до первого токена (TTFT) - показатель, который определяет, как быстро модель начнёт выдавать ответ на запрос - улучшилось в 2,3 раза. Для интерактивных чатботов и ИИ-ассистентов это означает намного более отзывчивый пользовательский опыт.
Практические преимущества:
- Больше памяти на узел означает меньше необходимости переключаться между RAM и диском
- Длинные контексты теперь обрабатываются без критических замедлений
- Автономные ИИ-приложения (агентские системы) работают более стабильно
- Аналитические задачи и обработка больших наборов данных выполняются быстрее
Производительность на реальных примерах
Micron провела внутренние тесты и получила впечатляющие результаты. Серверы, укомплектованные модулями на 256 ГБ, показали ускорение в четыре раза при выполнении рабочих нагрузок Apache Spark SVM. Почему это случилось?
Всё дело в улучшенной локальности данных. Когда все необходимые данные находятся в оперативной памяти, процессор может работать с ними максимально быстро, не теряя время на поиск информации на диске. Это особенно важно для аналитических задач, где нужно обработать большие наборы данных целиком.
Сравнение характеристик памяти:
Параметр SOCAMM2 256 ГБ RDIMM (традиционная) LRDIMM Ёмкость модуля 256 ГБ До 64 ГБ До 256 ГБ Энергопотребление Низкое Стандартное Среднее Плотность памяти Высокая Средняя Средняя Форм-фактор Компактный Полноразмерный Полноразмерный Охлаждение Жидкостное Воздушное Воздушное Где будет применяться новая память
Micron уже начала отгружать образцы SOCAMM2 на 256 ГБ своим клиентам. Первое крупное применение - платформа Vera Rubin, которая используется для современных задач ИИ. На конференции Nvidia GTC 2026 (16-19 марта) компания планирует полную презентацию новинки.
Это решение не ориентировано на потребительский рынок - это чисто серверное оборудование для дата-центров. Целевая аудитория включает:
- Компании, занимающиеся обучением больших языковых моделей
- Облачные провайдеры, предоставляющие ИИ-сервисы
- Исследовательские центры, работающие над ИИ и машинным обучением
- Организации, обрабатывающие огромные объёмы данных в памяти
Использование на Vera Rubin особенно важно, так как эта платформа специально разработана для ИИ-задач нового поколения, где требуется максимальная производительность и энергоэффективность одновременно.
Энергоэффективность как конкурентное преимущество
Снижение энергопотребления на 66% - это не просто красивая цифра. В больших дата-центрах электроэнергия составляет значительную часть операционных расходов. Когда можно обеспечить больше памяти при меньшем потреблении энергии, это прямо влияет на прибыльность операций.
Теплоотвод также критичен. SOCAMM2 может работать с жидкостным охлаждением - современным трендом в высокопроизводительных дата-центрах. Это позволяет достичь большей плотности серверного оборудования на единицу площади, не рискуя перегревом.
Структура оптимизации:
- Интегрированная архитектура снижает потери при передаче данных
- LPDDR5X технология потребляет меньше энергии, чем традиционная DDR4
- Жидкостное охлаждение позволяет работать с более высокими плотностями
- Меньше модулей на узел - меньше общее энергопотребление
Что это значит для индустрии
Выпуск 256 ГБ SOCAMM2 показывает, что память становится критическим узким местом в ИИ-инфраструктуре. Компании готовы инвестировать в специализированные решения, чтобы удовлетворить спрос на ёмкость. Это также сигнал о том, что сотрудничество между производителями памяти и разработчиками ускорителей (Nvidia) необходимо для создания оптимальных решений.
Видно, что индустрия движется в сторону более компактных, энергоэффективных и мощных систем. SOCAMM2 - это часть этой эволюции. Следующие шаги, вероятно, будут включать дальнейшее увеличение ёмкости и оптимизацию под конкретные типы ИИ-задач.
Что осталось за кадром
Деталей о точных сроках массового производства и полном списке совместимых серверных платформ пока раскрыто не было. Micron намерена представить полную информацию на GTC 2026, поэтому ждём официального анонса о доступности и поддерживаемых конфигурациях. Также интересно будет увидеть, как конкуренты (Samsung и SK hynix) ответят на этот шаг, и будут ли у них собственные решения с аналогичными характеристиками.
Здравствуйте! Похоже, вас заинтересовала эта беседа, но у вас ещё нет аккаунта.
Надоело каждый раз пролистывать одни и те же посты? Зарегистрировав аккаунт, вы всегда будете возвращаться на ту же страницу, где были раньше, и сможете выбирать, получать ли уведомления о новых ответах (по электронной почте или в виде push-уведомлений). Вы также сможете сохранять закладки и ставить лайки постам, чтобы выразить свою благодарность другим участникам сообщества.
С вашими комментариями этот пост мог бы стать ещё лучше 💗
Зарегистрироваться Войти© 2024 - 2026 ExLends, Inc. Все права защищены.