Компанії Qualcomm та AMD розглядають можливість впровадження стандарту пам’яті SOCAMM2 у свої лінійки продуктів для штучного інтелекту. Метою інтеграції є збільшення обсягу та пропускної здатності оперативної пам’яті у високопродуктивних системах.
Ця стратегія наслідує приклад архітектури центрального процесора NVIDIA Vera, у якій використовуються модулі LPDDR5X у форм-факторі SOCAMM. Таке рішення забезпечує пропускну здатність до 1,2 ТБ/с і підтримку обсягу пам’яті до 1,5 ТБ.
Використання SOCAMM дозволяє створювати пули швидкої пам’яті поруч із ІІ-прискорювачами, доповнюючи наявну пам’ять HBM. Це дає змогу розміщувати моделі повністю в оперативній пам’яті, зменшуючи частоту звернень до SSD-накопичувачів для передавання даних.
AMD може інтегрувати SOCAMM у системи на базі прискорювачів Instinct MI та процесорів EPYC або ж розробити для цієї мети нову платформу. У свою чергу Qualcomm розглядає можливість заміни розпаяних чипів пам’яті LPDDR5 у прискорювачах AI200 та AI250 на модулі SOCAMM.
Перехід на модульний стандарт дозволить виробникам змінювати обсяг пам’яті в різних конфігураціях систем шляхом додавання або зняття модулів. Такий підхід усуває необхідність внесення змін до конструкції друкованих плат (PCB) і проведення додаткових паяльних робіт під час масштабування пристроїв.