GPU
GPU（Graphics Processing Unit）は、元々はグラフィック処理のために開発された装置で、特に画像処理に特化しています。これに対して、CPU（Central Processing Unit）はコンピュータの全般的な処理を行う司令塔のような装置です。GPUは、CPUと比較して、特定の種類の計算、特に行列演算やベクトル演算において非常に高速に動作します。
近年、GPUの計算能力が拡大し、グラフィックス描写のために培った高い計算能力が、気象や地震のシミュレーションのような数値計算にも応用されるようになりました。2006年にはCUDA（Compute Unified Device Architecture/クーダ）が発表され、GPUの計算能力を汎用的な用途に拡張するためのプログラムを書くのに使うエンジニア向けの枠組みが提供されました。これにより、GPUは機械学習、人工知能、科学計算など、画像処理以外の大規模な並列演算処理にも広く用いられるようになりました。
ディープラーニングにおいては、GPUは中間層が多数ある複雑なディープニューラルネットワークのトレーニングにおいて、その高速な計算能力を活かします。中間層の数が多く、大量のノードやエッジの計算が必要なディープラーニングでは、CPUだけでは時間がかかりすぎるため、GPUが広く利用されるようになったのです。
機械学習やディープラーニングにおいては、GPUの存在が不可欠であり、特にディープラーニングでは大量のデータを使い、大規模な演算を繰り返し行うために高性能なGPUが必要になります。これらの処理をCPUだけで行うと、メモリなどのスペック不足で学習が停止してしまう可能性が高いです。
GPUの選択にあたっては、消費電力、メモリ容量、導入費用、維持管理コストなどを考慮する必要があります。消費電力が小さいGPUを選ぶことで、運用に伴う維持管理コストを軽減できますが、消費電力が小さいほどパフォーマンスが劣ることもあるため、バランスを考慮することが重要です。また、メモリ容量が大きいGPUは、一度に計算できる量が増え、より効率的なディープラーニングの実施につながります。
