Samsung、LPDDR5X-PIMでメモリ内コンピューティングを推進

Samsungは、LPDDR5Xメモリチップ内にMACユニットを実装するProcessing-in-Memory(PIM)技術を推進している。この技術は、メモリチップ内部の帯域幅を活用し、DRAMと従来のコンピューティングコア間の長いレイテンシを回避する。SamsungのLPDDR5X-PIMは、各バンクにPIMブロックを配置し、チップ外部バスに制約されずに内部帯域幅を利用することで、通常のDRAMアクセス(76.8 GB/s)と比較して614 GB/sの帯域幅を実現する。PIMブロックは、INT8またはFP8でデータクロックあたり4回のMAC演算、またはサイクルあたり8回のMAC演算が可能で、4ビット入力重みではスループットが倍増し、パッケージ全体で2.4 TOPSに達する。8個のLPDDR5Xチップを組み合わせると、Intel Meteor LakeのNPUに匹敵する9.6 INT8 TOPSの集約スループットが得られる。この技術は標準LPDDR5Xプロトコル内で動作するが、PIMモードと通常メモリアクセスを同時に行うことはできず、ソフトウェア側での対応が課題となる。キャッシュ、プリフェッチ、アウトオブオーダー実行などのCPU機能との連携も、メモリサブシステム全体での変更が必要となる可能性がある。