H100 SXM
トレーニング · 高スループット推論
H100 SXM vs A100 SXM
NVIDIA H100 SXMとNVIDIA A100 SXMについて、メモリ、ノード構成、固定の週額および月額費用を比較してください。
H100 SXMはカードごとに同一数量 VRAMを提供します。A100 SXMは30日間の期間ごとに$560安価です。メモリの余裕と固定費の低さのどちらが制約となるかに基づいて選択してください。
| 仕様 | H100 SXM | A100 SXM |
|---|---|---|
| アーキテクチャ | Hopper | Ampere |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| ホストリソース / カード | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| ローカルNVMe / カード | 3.84 TB | 2 TB |
| 7日あたりの価格 / カード | $380 | $224 |
| 30日間価格 / カード | $1,352 | $792 |
| 4GPUノード / 30日 | $4,975 | $2,915 |
| カタログ数量 | 690 カード | 780 カード |
ワークロード判断 · 更新 2026-09-04
どちらのアクセラレータも80 GBを提供するため、これは主にメモリ容量の判断ではありません。Hopper最適化ソフトウェアパスの価値と、確立されたAmpere構成の低い固定費を比較してください。
アプリケーションに検証済みのHopperパスがある場合(例:Transformer EngineやFP8を意図的に使用するカーネル、またはプロファイリングでメモリ移動がボトルネックと特定された場合)は、H100 SXMを選択してください。パイロットでは精度目標とソフトウェアバージョンを同じに保ってください。
ワークロード全体がすでに 80 GB に収まり、CUDA 環境が Ampere で実証済みで、Hopper の利点が高いレンタルコストを上回ることをパイロットで示せていない場合は、A100 SXM を選択してください。
| メーカー仕様 | H100 SXM | A100 SXM |
|---|---|---|
| アーキテクチャ | Hopper | Ampere |
| メモリ | 80 GB HBM3 | 80 GB HBM2e |
| 公開メモリ帯域幅 | 3.35 TB/s | 2,039 GB/s |
| 公開されているSXM NVLink帯域幅 | 900GB/s | 600 GB/s |
公開されているアクセラレータ仕様であり、AnchorGPUインフラストラクチャの測定値ではありません。ホストトポロジと提供されるファブリックは別途確認する必要があります。
結論。 低コストの80 GBベースラインとしてA100から始めましょう。アプリケーションレベルのパイロットでHopperの有用な利点が示された場合はH100を選択してください。
カタログ価格差: 7日あたり$156、30日あたり$560。価格はコンフィギュレーターと同じカタログから読み込まれます。
メーカー仕様が比較の参考情報となります。推奨事項はワークロードによって異なり、AnchorGPUの性能ベンチマークを主張するものではありません。
NVIDIA H100仕様 ↗NVIDIA A100仕様 ↗