Když se řekne počítačová paměť, většina z nás si představí jednoduchou logickou konstrukci, která je určená pro zápis a čtení jedniček a nul. Veškeré výpočty provádí složitý procesor s různým typem instrukčních sad. Samsung ale nyní vypustil nový typ již známé rychlé paměti HBM2, která obsahuje výpočetní logické obvody přímo integrované v této paměti DRAM.
Samsung HBM2-PIM je nová architektura pamětí s integrovanými „procesory“ pro umělou inteligenci. Tyto speciální logické obvody slouží jako akcelerátory pro výpočty hlavně z této oblasti (včetně strojového učení a dalších) a operují s nižší přesností FP16. Celkový výpočetní výkon v rámci jednoho čipu je parádních až 1,2 TFLOPS.
Jak je vidět na obrázku složení, jednotlivé integrované obvody PIM (Programmable Computing Unit) jsou u poloviny paměťových jednotek. V jednom 8GB paměťovém čipu HBM2-PIM jich je tedy 32 a všechny pracují na stejné frekvenci 300 MHz.
Hlavní výhodou je, že paměť může pracovat jak v klasickém režimu, tak i režimu s využitím výpočetních jednotek. Pro řadu úloh navíc není nutná úprava softwaru, takže lze dosáhnout výrazně vyššího výkonu, protože se data nemusí neustále přesouvat pomalu mezi procesorem a pamětí. S využitím schopností těchto pamětí lze také značně snížit spotřebu až o 70 %.
Samsung zatím ukázal vzorky těchto pamětí vyrobených pomocí 20nm technologie a s propustností 2,4 Gb/s. Hlavní cílovou skupinou jsou výpočetní grafické karty a další specializovaný hardware pro akceleraci A.I., který je určen pro podnikový nebo serverový segment.
Dle vyjádření Samsungu budou nové paměti HBM2-PIM (nebo také FIMDRAM) k dispozici přibližně v polovině tohoto roku.