Компания AMD анонсировала программное решение MEXT, использующее искусственный интеллект для переноса редко используемых данных из оперативной памяти DRAM на более медленные, но дешёвые NVMe-накопители. Технология призвана снизить зависимость серверов от дорожающей памяти и сократить её потребление на 20–75% без потери производительности.
Технология MEXT позволяет использовать недорогую флеш-память в качестве расширения оперативной памяти для серверов на процессорах EPYC, перенося часть нагрузки с DRAM на обычные NVMe-накопители.
Для компенсации разницы в скорости доступа (флеш-память медленнее DRAM примерно в 500 раз) алгоритмы искусственного интеллекта анализируют обращения к данным и предсказывают, какая информация скоро понадобится процессору.
В состав решения входят специальный драйвер для Linux, ИИ-движок, работающий на одном ядре процессора EPYC без графического ускорителя, и инструмент RAM View для мониторинга использования памяти.
По данным AMD, внедрение технологии не требует изменений в аппаратной конфигурации или программном обеспечении серверов, а алгоритмы способны обучаться менее чем за секунду.
В отдельных тестах система с 50% оперативной памяти и 50% флеш-памяти обеспечивала до 99% производительности полной DRAM-конфигурации, а в задачах проектирования микросхем сочетание 25% DRAM и 75% MEXT давало до 3,5 раза более высокую производительность на доллар.
Компания оценивает потенциальную экономию на первоначальном развёртывании в 83% по сравнению с использованием одной DRAM, а при масштабировании с 145 до 2000 серверов к 2027 году это позволит избежать расходов примерно на $4,9 млн.
Загрузка комментариев…