GPT
仅使用解码器的 Transformer 语言模型系列，以生成目标进行训练。
概览
GPT 是一系列仅含解码器的 Transformer 语言模型，通过在大规模文本语料上训练以预测下一个 token。它解决了无需手工构建语言规则即可生成流畅、符合上下文的文本的问题。它之所以存在，是因为生成式预训练目标被证明能够很好地迁移到模型从未被明确训练过的任务上，从而消除了每个任务都需要标注数据集的需求。该系列中较晚的成员，就是大多数人在提到“大型语言模型”时所指的那些模型。
技术图谱
GPT 如何与技术栈的其他部分相连。
使用与依赖
- Transformer architecture Algorithms GPT uses Transformer High ✓ source
- Transformer architecture Algorithms GPT based on Transformer High ✓ source
工具
实现或集成 GPT 的软件。