機械学習・Deep Learning向け構成事例

機械学習・Deep LearningでGPU計算を行う場合はGPUを複数枚搭載する構成が一般的です。ホストとGPU間の転送時間がGPU上での計算よりも短い場合や、独立したモデルを各GPUに割り振って計算させる場合などではPCI-Eの帯域幅がそれほど重視されないこともあります。PCI-E帯域幅の重要性は複数のGPUの使い方、計算させるモデルやネットワークの構成によります。

GPUを4枚搭載する構成において、Xeon CPUの対応PCI-Eレーン数では4個のPCI-Eスロットを全てX16動作させることはできないため、マザーボード上のPCI-Eスイッチによって動作させることになります。AMD EPYCであれば4個のPCI-Eスロットを全てネイティブにX16動作させることが可能になります。PCI-E帯域幅を重視する場合にはEPYCを搭載したモデルが推奨となります。

Deep Learningの学習で要求されるGPUメモリ量は、計算させるモデルやネットワークの構成、入力データなどによって異なります。それほどGPUのメモリ量が必要でなければGeForceの費用対効果が高く、一方で物体検出など比較的大きなメモリ量が必要な場合には最上位モデルのGeForce GPUや、Quadro、サーバ向けのNVIDIA V100, A100などが必要となります。

構成事例

1. GPUでのディープラーニング＋CPUでのマルチコア数値解析

関連モデル

・GPU-EPYC1W-GF-LC : EPYCを1基搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機
・GPU-Intel1W-GF-LC : Intel Core i9を搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機
・GPU-TRPRO-GF-LC : Threadripper PROを1基搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機

2. GPU 4枚搭載ディープラーニング向け計算機

・GPU-EPYC1W-GF-LC : EPYCを1基搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機
・GPU-Intel1W-GF-LC : Intel Core i9を搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機
・GPU-TRPRO-GF-LC : Threadripper PROを1基搭載、GeForce RTX 3090を最大4枚搭載可能なタワー型計算機

3. Tesla V100 (PCI-E) 搭載ディープラーニング向けサーバ

PCI-EのTesla V100を搭載可能なマシン構成は限定されます。通常、Tesla V100を搭載したサーバは騒音が非常に大きいため、防音がしっかりしたサーバ室などに設置することになります。弊社では、研究室などにも設置できるように騒音を低減したPCI-E Tesla V100Sを最大4枚搭載可能なタワー型計算機を販売しており、騒音対策がされていない場所でもTesla V100Sを利用可能です。

関連モデル

・GPU-AMDCPU-A100-LC : AMD CPUでPCI-E NVIDIA A100を最大5枚搭載可能な騒音を低減したタワー型計算機
・GPU-Xeon1W-A100X2-LC : Intel XeonでPCI-E NVIDIA A100を最大2枚搭載可能な騒音を低減したタワー型計算機

---

本ページのハードウェア構成は納品当時の構成のため、最新のパーツではないことがあります。また同分野のアプリケーションであっても実際の性能は計算モデル、アルゴリズム、コンパイラ、ソルバーやライブラリ、ソースコードなどに依存するため、必ずしも最適な構成ではない場合があります。