跳到正文
菜单
简体中文

Safetensors

为模型权重设计的文件格式,旨在避免任意代码执行。

infrastructure 基础设施 Apache-2.0 2 relationships

概览

Safetensors 以一种可内存映射、无需执行任何代码即可读取的格式存储张量,这与通过运行代码来反序列化权重的框架不同。它同时解决了安全问题和性能问题:加载检查点不应能够运行任意代码,也不应需要先将整个文件读入内存。它之所以存在,是因为如今模型权重从公共 hub 下载的规模已使这两个问题都变得至关重要。

技术图谱

Safetensors 如何与技术栈的其他部分相连。

应用于

工具

实现或集成 Safetensors 的软件。

LLM Frameworks