Safetensors
为模型权重设计的文件格式,旨在避免任意代码执行。
概览
Safetensors 以一种可内存映射、无需执行任何代码即可读取的格式存储张量,这与通过运行代码来反序列化权重的框架不同。它同时解决了安全问题和性能问题:加载检查点不应能够运行任意代码,也不应需要先将整个文件读入内存。它之所以存在,是因为如今模型权重从公共 hub 下载的规模已使这两个问题都变得至关重要。
技术图谱
Safetensors 如何与技术栈的其他部分相连。
应用于
- Inference concept Infrastructure Safetensors used for Inference High ✓ source
工具
实现或集成 Safetensors 的软件。