訂閱電子報,掌握最新科技與產業趨勢
最強大的通用 GPU
透過 NVIDIA L40S GPU 體驗突破性的多工作負載效能。L40S GPU 結合強大的人工智慧運算與一流的繪圖技術和媒體加速,專為支援新一代資料中心工作負載而打造,從生成式人工智慧和大型語言模型 (LLM) 推論與訓練,到 3D 繪圖、渲染和影片。
產品規格
GPU 架構 | NVIDIA Ada Lovelace 架構 |
GPU 記憶體 | 搭載 ECC 的 48 GB GDDR6 |
記憶體頻寬 | 每秒 864GB |
互連介面 | 16 個第四代 PCIe:每秒 64GB (雙向) |
採用 NVIDIA Ada Lovelace 架構的 CUDA® 核心 | 18,176 |
NVIDIA 第三代 RT 核心 | 142 |
NVIDIA 第四代 Tensor 核心 | 568 |
RT 核心效能兆次浮點運算 | 212 |
FP32 兆次浮點運算 | 91.6 |
TF32 Tensor 核心兆次浮點運算 | 183 I 366* |
BFLOAT16 Tensor 核心兆次浮點運算 | 362.05 I 733* |
FP16 Tensor 核心 | 362.05 I 733* |
FP8 Tensor 核心 | 733 I 1,466* |
INT8 Tensor 最佳效能兆次浮點運算 INT4 Tensor 最佳效能兆次浮點運算 |
733 I 1,466* 733 I 1,466* |
尺寸規格 | 4.4 吋 (高) x 10.5 吋 (長),雙插槽 |
顯示器連接埠 | 4 個 DisplayPort 1.4a |
最大功耗 | 350W |
電源接頭 | 16 針座 |
散熱 | 被動式 |
虛擬化 GPU 軟體支援 | 有 |
支援虛擬化 GPU 設定檔 | 參閱虛擬化 GPU 授權指南 |
NVENC I NVDEC | 3 個 | 3 個 (包括 AV1 編碼與解碼) |
搭載信任根技術的安全開機功能 | 有 |
支援 NEBS | 第 3 級 |
多執行個體 GPU (MIG) 支援 | 無 |
NVIDIA® NVLink® 支援 | 無 |
NVIDIA Authorized Distributor