对比学习
通过拉近匹配对并推开其他对进行训练。
概览
对比学习训练编码器,使匹配对的表示彼此接近,而非匹配对的表示彼此远离。它解决了标注数据稀缺的问题,因为匹配关系可以由数据增强、共现或成对模态来定义,而不必依赖人工标注。它作为大多数嵌入模型背后的目标函数而存在,包括 CLIP 所训练的图像-文本对。
技术图谱
对比学习 如何与技术栈的其他部分相连。
应用于
- CLIP model Multimodal 对比学习 used for CLIP High ✓ source
- Embedding concept Techniques 对比学习 used for Embedding High ✓ source
- LAION-5B dataset Datasets LAION-5B used for 对比学习 High ✓ source
- Sentence Transformers framework Frameworks 对比学习 used for Sentence Transformers High ✓ source