機械学習・ディープラーニング向け構成事例

Deep Learningの学習用途で、同一マシンにGPUを複数枚搭載する構成の事例です。個々のGPUで独立して計算を実行する場合や、複数のGPUを使って並列に計算する場合があります。CPUとGPUの間のPCIe帯域幅の重要性は、同一マシンに搭載された複数GPUの使い方、計算させるモデルやネットワークの構成によります。PCIeでの転送時間がGPU上での計算よりも圧倒的に短い場合や、独立したモデルを各GPUに割り振って計算させる場合にはPCIeの帯域幅がそれほど重視されないこともあります。

Deep Learningの学習で要求されるGPUメモリ量は、計算させるモデルやネットワークの構成、入力データなどによって異なります。それほどGPUのメモリ量が必要でなければGeForceの費用対効果が高く、一方で物体検出など比較的大きなメモリ量が必要な場合には旧QuadroシリーズのGPUや、NVIDIA A100などのデータセンタ向けGPUが必要となります。

構成事例

1. RTX 3090 4枚搭載ディープラーニング用途 (画像処理)

2. 水冷NVIDIA A100 4枚搭載ディープラーニング用途

3. RTX 3080Ti 4枚搭載ディープラーニング用途 (自然言語処理、音声認識など)

---

本ページのハードウェア構成は納品当時の構成のため、最新のパーツではないことがあります。また同分野のアプリケーションであっても実際の性能は計算モデル、アルゴリズム、コンパイラ、ソルバーやライブラリ、ソースコードなどに依存するため、必ずしも最適な構成ではない場合があります。