Mistral
欧洲开放权重模型系列，以小参数量下的高效性著称。
概览
Mistral 是一个开放权重模型系列，强调每参数的质量而非单纯的规模，因此小模型可以在普通硬件上运行而不会出现质量崩塌。它解决了那些工作负载难度不足以支撑前沿模型成本的团队所面临的成本问题。它之所以存在，是因为大多数生产任务足够狭窄，一个训练良好的小模型就足够了，而部署这样一个模型的成本比调用大型托管模型低一个数量级。
技术图谱
Mistral 如何与技术栈的其他部分相连。
使用与依赖
- Transformer architecture Algorithms Mistral based on Transformer High ✓ source
应用于
- LoRA technique Techniques LoRA used for Mistral High ✓ source
- Ollama tool Infrastructure Ollama used for Mistral High ✓ source
- Quantization technique Techniques Quantization used for Mistral High ✓ source
- llama.cpp tool Infrastructure llama.cpp used for Mistral High ✓ source
- vLLM tool Infrastructure vLLM used for Mistral High ✓ source
工具
实现或集成 Mistral 的软件。
LLM Frameworks
替代方案
对比
与上述替代方案的逐项对比。