PIM(処理インメモリ)とは?
ぴーあいえむ
PIM(処理インメモリ)とは、メモリチップの内部または直近に演算回路を組み込み、データをCPUに転送せずにメモリ上で直接処理する計算アーキテクチャのことです。
PIM(Processing-In-Memory、処理インメモリ)は、従来「データを保存する場所」としてのみ機能していたメモリに演算機能を持たせ、CPUとメモリ間のデータ転送ボトルネックを根本から解消しようとするコンピュータアーキテクチャです。「メモリ内計算」や「Near-Memory Computing」とも呼ばれます。
従来の冯・ノイマン型アーキテクチャでは、CPUとメモリはバスを介してデータをやり取りするため、処理速度に比べてデータ転送速度が追いつかない「メモリウォール」問題が生じていました。特に機械学習の推論や大規模データ分析では、膨大なデータをメモリから繰り返し読み出す操作が性能の律速段階となっています。
PIMはこの問題をアーキテクチャレベルで解決します。主なアプローチには以下があります。
- Processing-Near-Memory(PNM):メモリチップに隣接してロジックチップを配置する(HBMスタックメモリなど)
- Processing-Using-Memory(PUM):メモリセル自体のアナログ特性を演算に利用する
Samsungが量産品として発表したHBM-PIMなどが注目を集めており、AIアクセラレータや高性能コンピューティング(HPC)の分野で実用化が進んでいます。消費電力の大幅削減と帯域幅制約の緩和が主な恩恵です。
使い方・例文
大規模言語モデルの推論処理において、モデルの重みデータをメモリに置いたままPIMで演算することで、GPUへのデータ転送コストを削減する実験が進められています。
この用語をシェア
最終更新: