Перейти к содержимому
Меню
Русский

Сценарий использования

Customise a model

Adapt a general model to a specific task or style, and keep the cost of doing so proportionate.

Посмотреть рекомендуемый стек с обоснованием и альтернативами →

Что требуется

В порядке внедрения. Каждый шаг открывается в графе знаний.

  1. 1 Base model

    GPT

    model

    Family of decoder-only Transformer language models trained with a generative objective.

  2. 2 Method

    Fine-tuning

    technique

    Continue training a pre-trained model on task-specific data to adapt its behaviour.

  3. 3 Efficient alternative

    LoRA

    technique

    Fine-tuning by training small low-rank adapter matrices instead of all weights.

  4. 4 Serving

    KV Cache

    technique

    Cached attention keys and values that make generating one token at a time affordable.