跳到主要内容

NVIDIA RTX 4090 (Ada Lovelace)

产品概述​

NVIDIA GeForce RTX 4090 是 2022 年发布的消费级旗舰 GPU，凭借 24GB GDDR6X 显存和 2,642 TOPS INT8 算力，已成为消费级 AI 工作负载的事实标准。在 LLM 本地推理、Stable Diffusion、LoRA 微调等场景中性价比极高。

核心规格​

项目参数
架构Ada Lovelace AD102
制程TSMC 4N
显存24 GB GDDR6X
显存带宽1,008 GB/s
CUDA Core16,384
Tensor Core568（第四代）
FP3282.6 TFLOPS
FP16/BF16 Tensor Core1,321 TFLOPS（稀疏）
FP8 Tensor Core2,642 TFLOPS（稀疏）
INT8 Tensor Core2,642 TOPS
TDP450 W
PCIeGen 4 x16

厂商信息​

项目内容
制造商NVIDIA Corporation
官网https://www.nvidia.com
产品页https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/
发布2022 年 9 月
价格$1,599 MSRP（实际市场价较高）

适用场景​

  • 本地 LLM 推理（70B 以下）
  • Stable Diffusion / ComfyUI
  • LoRA 微调
  • 3D 渲染（游戏、专业应用）

注意事项​

  • 缺数据中心级功能（无 ECC 显存、无 MIG、无 vGPU）
  • 显存 24GB 限制大模型（>30B 困难）
  • 高功耗，需 850W+ 电源

相关产品对比​