NVIDIA CUDA
NVIDIA的并行计算平台，大多数AI软件所依赖的底层。
概览
CUDA 是 NVIDIA 的编程模型和工具链，用于在其 GPU 上运行通用计算，它是 PyTorch、TensorRT 以及大多数推理服务器最终调用的那一层。它解决了无需编写原始 GPU 汇编即可表达并行工作的问题。它存在的现实意义在于，NVIDIA 借此主导了 AI 硬件：性能优势被一个只针对其芯片的生态所强化，这是一道任何竞争对手的基准测试都无法单凭自身移除的护城河。
技术图谱
NVIDIA CUDA 如何与技术栈的其他部分相连。
使用与依赖
- TensorRT-LLM tool Infrastructure TensorRT-LLM depends on NVIDIA CUDA High ✓ source
被用于
- JAX framework Frameworks NVIDIA CUDA used by JAX High ✓ source
- PyTorch framework Frameworks NVIDIA CUDA used by PyTorch High ✓ source
- TensorFlow framework Frameworks NVIDIA CUDA used by TensorFlow High ✓ source