跳到主要内容

NVIDIA L4 (Ada Lovelace)

产品概述

NVIDIA L4 是面向云端 AI 推理的低功耗 GPU,2023 年发布,基于 Ada Lovelace 架构。仅 72W TDP,可被动散热,FP8 算力 485 TFLOPS,是 T4 的 3 倍推理性能。L4 支持 AV1 硬件编码解码,适合云游戏、实时视频 AI、生成式 AI 推理等场景。

核心规格

项目参数
架构Ada Lovelace AD104
制程TSMC 4N
显存24 GB GDDR6
显存带宽300 GB/s
CUDA Core7,680
Tensor Core240(第四代)
FP3230.3 TFLOPS
FP8 Tensor Core485 TFLOPS
INT8 Tensor Core485 TOPS
TDP72 W(可被动散热)
PCIeGen 4 x16
视频编解码2× NVENC(AV1)+ 4× NVDEC(AV1)

T4 vs L4 性能对比

指标T4 (Turing)L4 (Ada)提升
FP16 算力65 TFLOPS121 TFLOPS1.9×
INT8 算力130 TOPS242 TOPS1.9×
FP8 算力N/A485 TFLOPS新增
显存16 GB24 GB+50%
带宽320 GB/s300 GB/s略低
TDP70 W72 W相同
视频编解码1× NVENC2× NVENC(AV1)+100%

厂商信息

项目内容
制造商NVIDIA Corporation
官网https://www.nvidia.com
产品页https://www.nvidia.com/en-us/data-center/l4/
发布2023 年 3 月 GTC

适用场景

  • 云端 AI 推理(生成式 AI、LLM)
  • 云游戏(高密度部署)
  • 视频 AI(转码、内容审核、AV1 直播)
  • 边缘 AI 推理

相关产品对比