Un dels colls d'ampolla menys visibles —però més cars— de la IA actual no és el processador, sinó la memòria: moure dades constantment entre el xip de càlcul i la memòria RAM consumeix temps i energia, i el cost de la memòria ja suposa més del 60% del preu d'un accelerador d'IA, quan fa poc més de dos anys en representava poc més de la meitat.
El 25 d'agost, a la conferència Hot Chips 2026 de la Universitat de Stanford, Samsung ha presentat la LPDDR5X-PIM, una memòria que incorpora una petita unitat lògica directament al costat de les cel·les de DRAM, capaç de fer càlculs bàsics sense haver-los d'enviar al processador. La companyia n'ha mostrat proves integrant-la en un xip accelerador d'IA per a dispositius: executant el model obert Llama 3.1, el rendiment d'inferència va ser 2,28 vegades més ràpid i el nombre de tocs per segon (throughput) 3,01 vegades més alt que amb LPDDR5X convencional —de 27 a 81,3 tocs per segon—, mentre que el temps per completar una tasca va baixar de 12,3 a 5,4 segons, amb un ample de banda vuit vegades superior al de la memòria estàndard.
El detall que en facilita l'adopció és que la LPDDR5X-PIM fa servir el mateix encapsulat de 561 boles que la memòria LPDDR5X normal: en teoria es pot substituir sense haver de redissenyar la resta del sistema, cosa que abarateix molt portar-la a productes reals, especialment per a IA que s'executa directament al dispositiu (mòbils, portàtils, maquinari domèstic) en lloc d'un centre de dades.
Les xifres provenen de la mateixa presentació de Samsung i encara no han estat verificades per tercers de manera independent; la tecnologia tampoc no és a producció en cap producte comercial per ara. El repte, com amb tota memòria amb processament integrat, és si els fabricants de xips i de programari adapten prou les seves eines per treure'n partit real fora del laboratori.