Selon des sources industrielles, Qualcomm et AMD envisagent d'intégrer la mémoire SOCAMM2 à leurs gammes de produits d'IA afin d'accroître la capacité et les performances de la mémoire. Après la sortie du processeur NVIDIA Vera, qui utilise la LPDDR5X au format SOCAMM et offre une bande passante mémoire allant jusqu'à 1,2 To/s avec une capacité maximale de 1,5 To de LPDDR5X, Qualcomm et AMD suivent une voie similaire pour concevoir des systèmes d'IA haute vitesse et haute capacité. Ces systèmes nécessitent une mémoire rapide située au plus près des accélérateurs d'IA, et la SOCAMM peut efficacement compléter les importantes quantités de mémoire HBM installées sur ces accélérateurs. Elle agit comme un pool de mémoire rapide et haute capacité, permettant de stocker des modèles entiers en RAM et de réduire le besoin en SSD.

L'approche SOCAMM de NVIDIA consiste à empiler plusieurs modules SOCAMM autour du processeur. C'est cette architecture que Qualcomm et AMD devraient adopter pour leurs solutions d'IA. Chez AMD, les premiers candidats à une telle intégration pourraient être ses accélérateurs Instinct MI associés aux processeurs EPYC. L'entreprise pourrait également aller plus loin et développer un système entièrement nouveau. Qualcomm propose déjà des solutions d'IA comme les accélérateurs d'inférence AI200 et AI250, équipés de jusqu'à 768 Go de mémoire LPDDR5 par carte. Ces derniers pourraient eux aussi bénéficier de la prise en charge SOCAMM, permettant ainsi l'extension de la mémoire grâce à la norme SOCAMM, au lieu de souder directement des puces sur la carte.