テンソル処理ユニットとは？

テンソル処理ユニット（TPU：Tensor Processing Unit）は、Googleが機械学習ワークロード、特にニューラルネットワークの推論と学習を高速化するために独自に設計した特定用途向け集積回路（ASIC）です。汎用のCPUやGPUと異なり、テンソル演算（多次元行列の計算）に最適化された構造を持ちます。

開発の背景
Googleは2015年頃から社内でTPUを使用し始め、2016年にその存在を公表しました。音声認識や画像認識、自然言語処理など、Googleの多くのサービスの裏側でTPUが活用されています。AlphaGoがプロのチャンピオンに勝利した際にもTPUが使われたことで広く注目を集めました。

アーキテクチャと特徴
TPUの核心は「行列演算ユニット（MXU）」と呼ばれる大規模な積和演算回路です。CPUがさまざまな演算を汎用的にこなすのとは異なり、TPUは整数演算（INT8やBF16）に特化し、電力効率を高めながら大量の行列乗算を並列処理します。また、オンチップに大容量の高速メモリを搭載することで、データ転送のボトルネックを軽減しています。

世代と利用形態
TPUは世代を重ねて性能が向上しており、Google Cloud上でTPUポッドとして提供されています。TensorFlowやJAXなどのフレームワークからTPUを利用でき、大規模な言語モデルや画像生成モデルの学習・推論に幅広く活用されています。NVIDIAのGPUと並んでAI計算の主要な基盤となっています。