訂閱電子報，掌握最新科技與產業趨勢
加速運算數量級躍進
利用 NVIDIA H100 Tensor 核心 GPU，提供所有工作負載前所未有的效能、可擴充性和安全性。使用 NVIDIA® NVLink® Switch 系統，最高可連接 256 個 H100 來加速百萬兆級工作負載，此外還有專用的 Transformer Engine，可解決一兆參數語言模型。H100 所結合的技術創新，可加速大型語言模型速度，比前一代快上 30 倍，提供領先業界的對話式人工智慧。
產品規格
| 尺寸規格 | H100 PCIe |
|---|---|
| FP64 | 26 兆次浮點運算 |
| FP64 Tensor 核心 | 51 兆次浮點運算 |
| FP32 | 51 兆次浮點運算 |
| TF32 Tensor 核心 | 756 兆次浮點運算* |
| BFLOAT16 Tensor 核心 | 1,513 兆次浮點運算* |
| FP16 Tensor 核心 | 1,513 兆次浮點運算* |
| FP8 Tensor 核心 | 3,026 兆次浮點運算* |
| INT8 Tensor 核心 | 3,026 兆次運算* |
| GPU 記憶體 | 80 GB |
| GPU 記憶體頻寬 | 每秒 2TB |
| 解碼器 | 7 NVDEC 7 JPEG |
| 最大散熱設計功耗 (TDP) | 300W 至 350W (可設定) |
| 多執行個體 GPU | 最多 7 個 10GB 的多執行個體 GPU |
| 尺寸規格 | PCIe 雙插槽氣冷 |
| 互連技術 | NVLink：每秒 600GB 第 5 代 PCIe：每秒 128GB |
| 伺服器選項 | 合作夥伴與 NVIDIA 認證系統™，搭載 1 到 8 個 GPU |
| NVIDIA AI Enterprise | 包含 |
* 上述資訊以稀疏性顯示。若不含稀疏性，需將規格減少一半
* 此為最初規格，可能會有所更改。所顯示的規格適用於與 NVLink Bridge 配對的 2 張 H100 NVL PCIe 卡。
*NVIDIA Authorized Distributor
