Компания Samsung разработала память с высокой пропускной способностью (HBM), интегрированную с вычислительной мощностью AI — HBM-PIM.
Анонсированная на ISSCC архитектура объединяет вычислительные возможности ИИ внутри высокопроизводительной памяти для ускорения крупномасштабной обработки в центрах обработки данных, системах высокопроизводительных вычислений (HPC) и мобильных приложениях с поддержкой ИИ.
«Наш новаторский HBM-PIM — первое в отрасли программируемое PIM-решение, адаптированное для различных рабочих нагрузок, управляемых ИИ, таких как высокопроизводительные вычисления, обучение и логические выводы», — говорит вице-президент Samsung Квангил Парк.
Большинство современных вычислительных систем основаны на архитектуре фон Неймана, в которой используются отдельные блоки процессора и памяти для выполнения миллионов сложных задач обработки данных. Такой подход к последовательной обработке требует, чтобы данные постоянно перемещались вперед и назад, что приводит к замедлению работы системы, особенно при обработке постоянно растущих объемов данных.
Вместо этого HBM-PIM передает вычислительную мощность прямо туда, где хранятся данные, помещая оптимизированный для DRAM AI-движок внутри каждого банка памяти — подблока хранения — обеспечивая параллельную обработку и минимизируя перемещение данных.
Применительно к существующему решению Samsung HBM2 Aquabolt новая архитектура способна обеспечить более чем вдвое большую производительность системы при снижении энергопотребления более чем на 70%.
HBM-PIM также не требует каких-либо изменений аппаратного или программного обеспечения, что позволяет ускорить интеграцию в существующие системы.
HBM-PIM от Samsung в настоящее время тестируется в ускорителях ИИ ведущими партнерами по ИИ-решениям, и ожидается, что все проверки будут завершены в течение первой половины этого года.