Расширение памяти почти с нулевыми затратами за счет переработки: Meta* повторно использует терабайты оперативной памяти DDR4 благодаря технологии CXL, избегая «налога на ОЗУ»

Проблемы с нехваткой памяти, ростом цен на DRAM и увеличенными сроками поставки подталкивают крупные облачные провайдеры к поиску альтернатив. Компания Meta* разработала метод повторного использования старой оперативной памяти DDR4, извлеченной из выведенных из эксплуатации серверов, вместо её утилизации.

• Meta* даёт вторую жизнь устаревшей оперативной памяти DDR4, повторно используя её вместо покупки новой дорогостоящей DRAM.
• Технология Compute Express Link (CXL) превращает списанную серверную память в полезную вычислительную мощность.
• Meta* сообщила о сокращении числа серверов для задач машинного обучения на 25%.

Такой подход позволяет компаниям увеличивать объём серверной памяти без приобретения новой DRAM, затраты на которую исследователи называют «налогом на ОЗУ». Это расширение стало возможным благодаря технологии Compute Express Link (CXL), которая позволяет подключать старые модули DDR4 наряду с более новыми пулами памяти DDR5 к одной и той же машине.

Повторное использование вместо покупки новой памяти

В Meta* характеризуют этот подход как расширение памяти почти с нулевыми затратами, значительно сокращающее электронные отходы и выбросы от инфраструктуры. Эта стратегия особенно актуальна, поскольку ограничения в поставках памяти продолжают влиять на сроки развертывания серверов в облачных средах по всему миру.

По данным исследователей Meta*, существующие реализации CXL сталкивались с проблемами из-за того, что расширенная память обеспечивала почти в десять раз меньшую пропускную способность по сравнению с локальной памятью. Компания также отмечала примерно на 60% более высокие уровни задержки по сравнению с памятью, напрямую подключенной к процессорным сокетам внутри серверов.

Еще одно ограничение заключалось в том, что коммерческие продукты CXL объединяли контроллеры со стандартными модулями DRAM, что мешало практическому масштабному повторному использованию существующих запасов DDR4. В ответ Meta* разработала собственный специализированный интегральную схему (ASIC), названную Vistara, специально оптимизированную для низкой задержки, энергоэффективности и использования переработанной памяти.

Сопутствующее программное обеспечение автоматически определяет подходящие соотношения памяти для отдельных рабочих нагрузок, отключая расширение там, где задержки становятся неприемлемыми с операционной точки зрения. Компания Meta* заявляет, что решает эти проблемы с помощью совместного проектирования аппаратного и программного обеспечения. С аппаратной стороны разработан собственный ASIC CXL — Vistara, оптимизированный для повторного использования DRAM, энергоэффективности и низкой задержки. С программной стороны создано оптимизированное решение на базе TPP (Transparent Page Placement — прозрачное размещение страниц), которое определяет подходящее соотношение локальной и расширенной памяти для каждой рабочей нагрузки и автоматизирует конфигурацию, включая отключение расширенной памяти для задач, не допускающих повышенной задержки.

Meta* утверждает, что разработанная архитектура демонстрирует достаточную практическую ценность для внедрения в производственные среды, ежедневно обрабатывающие разнообразные вычислительные требования.

Почему Meta* считает, что экономика решения работает

Meta* сообщила, что дезагрегированные рабочие нагрузки машинного обучения достигли сокращения числа серверов до 25% после внедрения этой системы. Распределенные кеш-системы, как сообщается, зафиксировали снижение средней задержки примерно на 29%, несмотря на частичное использование более медленных переработанных ресурсов памяти.

Эти результаты показывают, что дополнительная ёмкость иногда перевешивает чистую скорость памяти, особенно когда приложения больше страдают от нехватки ресурсов, чем от времени отклика. Примечательно, что та же технология межсоединений, которая привлекла внимание Meta*, вызывает интерес и у полупроводниковых компаний, разрабатывающих крупные акселераторные фабрики по всему миру.

Более широкая экосистема включает работы компаний, ищущих альтернативы проприетарным технологиям межсоединений, таким как широко распространенные системы NVLink от Nvidia. Среди них — Ultra Accelerator Link (UAL), отдельная инициатива, поддерживаемая AMD, AWS, Google, Microsoft и Meta*, направленная на подключение акселераторов от различных производителей оборудования.

В ходе собственных тестирований Meta* исследователи напрямую изучали две рабочие нагрузки: дезагрегированные системы машинного обучения и распределенную кеширующую инфраструктуру. Оба типа задач показали измеримые улучшения от использования подхода с переработанной памятью: системы вывода требовали меньше серверов, а кеши демонстрировали более низкую среднюю задержку.

Станет ли повторное использование DDR4 через CXL стандартной практикой, вероятно, будет зависеть от того, останутся ли компромиссы в производительности приемлемыми за пределами гипермасштабных сред.

* — деятельность компании запрещена на территории РФ

Твитнуть