TPU
Google 专为张量运算打造的加速器。
概览
TPU 是一种专用芯片,专为神经网络所依赖的矩阵运算而设计,而非为适配这类运算而改造的通用处理器。它解决的是与 GPU 相同的成本问题,但方式是通过去除通用性,这使其每次运算的效率更高,灵活性则更低。它之所以存在,是因为如此狭窄的工作负载可以由专用硅片更好地服务,而它主要通过 Google 的云服务获取,而非作为可购买的硬件。
技术图谱
TPU 如何与技术栈的其他部分相连。
应用于
- Deep Learning concept Algorithms TPU used for Deep Learning High ✓ source
- LLM concept Models TPU used for LLM High ✓ source
替代方案
对比
与上述替代方案的逐项对比。