多模态大模型实战2

📅 发布时间:2026/7/16 16:51:19
多模态大模型实战2 第2章 模态对齐与特征融合——多模态的核心技术学习目标理解模态对齐的原理和为什么它是多模态的基础掌握三种特征融合策略及其适用场景了解跨模态注意力机制的核心设计区分多模态预训练的三种范式2.1 模态对齐原理为什么需要对齐不同模态的数据"说不同的语言":文本是离散的Token序列图像是连续的像素矩阵音频是时序波形信号模态对齐的目标:将这些不同"语言"映射到同一个语义空间,使得语义相近的跨模态数据在空间中距离相近。例如:"猫"这个词和一张猫的图片,在对齐后的空间中应该很接近。对比学习(Contrastive Learning)对比学习是最主流的模态对齐方法。核心思想:正样本对:语义相同的跨模态对(如图片和它的描述)→ 拉近负样本对:语义不同的跨模态对 → 推远InfoNCE Loss最常用的对比学习损失函数: