機械学習・Deep Learning向け構成事例
機械学習・Deep LearningでGPU計算を行う場合はGPUを複数枚搭載する構成が一般的です。ホストとGPU間の転送時間がGPU上での計算よりも短い場合や、独立したモデルを各GPUに割り振って計算させる場合などではPCI-Eの帯域幅がそれほど重視されないこともあります。PCI-E帯域幅の重要性は複数のGPUの使い方、計算させるモデルやネットワークの構成によります。
GPUを4枚搭載する構成において、Xeon CPUの対応PCI-Eレーン数では4個のPCI-Eスロットを全てX16動作させることはできないため、マザーボード上のPCI-Eスイッチによって動作させることになります。AMD EPYCであれば4個のPCI-Eスロットを全てネイティブにX16動作させることが可能になります。PCI-E帯域幅を重視する場合にはEPYCを搭載したモデルが推奨となります。
Deep Learningの学習で要求されるGPUメモリ量は、計算させるモデルやネットワークの構成、入力データなどによって異なります。それほどGPUのメモリ量が必要でなければGeForce RTX 2080Ti (11GB)の費用対効果が高く、一方で物体検出など比較的大きなメモリ量が必要な場合にはTITAN RTX、Quadro、Teslaなどが必要となります。
構成事例
1. GPUでのディープラーニング＋CPUでのマルチコア数値解析
お問い合わせ内容
デスクサイドマシンで、GPUを利用したディープラーニング（機械学習）計算とCPUでの偏微分方程式の数値解析の両方を行える計算機。
ご提案構成
ご予算および利用可能な電源容量の制約からGPUをGeForce RTX 2080Tiを2枚、小型のケースに納まってCPU性能が高く、メモリ帯域幅も広くなるようXeon Gold 6252 (2.40GHz, 20コア) 1基、メモリ192GBという構成としました。
主な仕様
- CPU: Xeon Gold 6252 2.10GHz 24コア
- メモリ: 192GB DDR4-2933 6-channel
- GPU: 2x GeForce RTX 2080Ti （モニタ出力兼用）
- ATXミドルタワーケース
同型モデルはGPU 2枚搭載のXeon搭載モデルになります。また、CPUやGPUの水冷化とすれば、CPUをコア数が多くメモリ帯域幅の広いAMD EPYC、GPUをTITAN RTXに変更した構成も可能です。
関連モデル
・GPU-Xeon1W-SPCL : Xeon Scalable Processor 1基搭載GPU 2枚搭載計算機
・GPU-EPYC1W-X4GF : EPYC 1基搭載GPU 4枚搭載計算機
2. GPU 4枚搭載ディープラーニング向けサーバ
お問い合わせ内容
GeForce 2080Tiを4枚搭載したディープラーニング向けのサーバで、ラックマウントサーバのような高回転数ファンを使用しない構成。
ご提案構成
ディープラーニング向けということで、オンボードのPCI-Eスイッチを搭載したCPU 1基搭載マザーとしてGPU 4枚搭載で対応し、ご予算上限からGPGPUはGeForce RTX 2080Tiが4枚、CPU性能はそれほど必要はなく8コア/16スレッドのXeon W、メモリ128GBの構成としました。CUDAや各種ディープラーニング向けフレームワークに関しては複数バージョンのインストールのご要望があり、複数バージョンのCUDAインストールとAnaconda仮想環境内に複数バージョンの各種フレームワークをインストールしました。
主な仕様
- CPU: Xeon W 2145 3.70GHz 8コア
- メモリ: 128GB DDR4-2666 4-channel
- GPU: 4x GeForce RTX 2080Ti（モニタ出力兼用）
- SSD 1TB, HDD 4TB
- 4Uラック / タワー兼用サーバケース
CPUの消費電力次第ではEPYC搭載の構成も可能で、EPYCにすることでPCI-Eスイッチなしで4枚のGPUをPCI-E X16動作させることが可能です。
関連モデル
・DL-Xeon1W-W2-X4GF : Xeon W搭載Deep Learning向けタワー型GPU計算機(最大4枚)
・GPU-EPYC1W-X4GF : EPYC搭載タワー型GPGPU計算機（最大4枚）
3. Tesla V100 (PCI-E) 搭載ディープラーニング向けサーバ
お問い合わせ内容
PCI-E Tesla V100を搭載したディープラーニング向けサーバ。
ご提案構成
設置場所や電源容量の確認を行い、騒音や電源容量には問題がなかったためTesla V100でご提案可能でした。ご予算の範囲内ではCPUやメモリは最低限のXeon Silver 4116 x2, メモリ96GBとしました。CUDAや各種フレームワークをインストールし、その後にTesla V100を追加される際にはCUDAや各種フレームワークのアップデート作業にもご対応しました。
主な仕様
- CPU: 2x Xeon Silver 4116
- メモリ: 96GB DDR4-2400 6-channel
- Video: Onboard VGA
- GPU: Tesla V100 32GB PCI-E
- SSD 1TB, HDD 4TB
- 4Uラック / タワー兼用サーバケース
PCI-EのTesla V100を搭載可能なマシン構成は限定されます。通常、Tesla V100を搭載したサーバは騒音が非常に大きいため、防音がしっかりしたサーバ室などに設置することになります。弊社では、研究室などにも設置できるように騒音を低減したPCI-E Tesla V100Sを最大4枚搭載可能なタワー型計算機を販売しており、騒音対策がされていない場所でもTesla V100Sを利用可能です。
関連モデル
・GPU-EPYC1W-X4TESLA : PCI-E Tesla V100Sを4枚搭載可能な騒音を低減したタワー型計算機
・GPU-Xeon2W-SPCL-4UT: PCI-E Tesla V100Sを4枚搭載可能なGPUサーバ
本ページのハードウェア構成は納品当時の構成のため、最新のパーツではないことがあります。また同分野のアプリケーションであっても実際の性能は計算モデル、アルゴリズム、コンパイラ、ソルバーやライブラリ、ソースコードなどに依存するため、必ずしも最適な構成ではない場合があります。